AIの世界的権威者、その危険性を警告するためGoogleを辞職

この画像を大きなサイズで見る

　「深層学習の父」と呼ばれるAIの世界的権威が、AI（人工知能）の危険性を訴えるためにGoogleを辞職したそうだ。

　ニューラルネットワークの研究で知られるジェフリー・ヒントン氏は、人工知能の第一人者として知られる人物だ。

　同氏は2013年よりGoogleでAIの研究を行っていたが、先日、その危険性について話すために同社を退職したことを明らかにしている。

AIのゴッドファーザーが訴える深刻なリスクと危険性

　長年AIを研究し、その発展に貢献し、海外ではAIの後っとファーザーと呼ばれるヒントン氏が、なぜ今になって危険性を訴えるようになったのか？

　同氏はその心境をニューヨーク・タイムズ紙に語っている。彼によると、AIの進歩は「社会と人類に深刻なリスク」をもたらす恐れがあるという。

　「5年前と現在を見てください」「その違いが、これからも続くと想像してください。恐ろしいことです」

この画像を大きなサイズで見る

悪人に悪用されることを防げない

　AIの主導権を握るべく、大手ハイテク企業は熾烈な開発競争を繰り広げている。

　ヒントン氏によれば、新しいAI技術が公開されるペースは危険なほどで、人々から雇用を奪い、デマを広めるために使われることもあるという。

　「心ない人が悪用するのをどう防げばいいのでしょうか」と、ヒントン氏。

　彼がAIの悪用を危惧するように、アメリカではAIの音声合成機能を悪用した誘拐詐欺未遂事件まで起きている。

すでに人間の脳を超えている可能性

　2022年、GoogleとOpenAIは、それまでよりずっと多くのデータをベースにしたAIシステムの開発に着手した。

　ヒントン氏によれば、膨大なデータを分析するそうしたシステムは、ある意味で人間の知能をすでに凌駕していると考えられるという。

　「そうしたシステムは、じつは脳よりずっと優れているかもしれません」

　それほど優れたシステムなのだから、便利なのは当たり前だ。だが便利すぎるために、人間から仕事を奪ってしまう危険がある。

　「（AIは）雑用を人から奪うでしょう」「ですが、それ以上のものを奪うかもしれません」

　またAIによって作り出されるニセ情報が広まる危険も、ヒントン氏が危惧するものだ。普通の人は、「何が真実なのかわかからなくなってしまいます」と同氏は言う。

この画像を大きなサイズで見る

AIをめぐる専門家の意見

　一方、ヒントン氏の古巣であるGoogle側は、彼の行動をポジティブに受け止めているようだ。

　同社AI部門のリードサイエンティスト、ジェフ・ディーン氏は、マスコミ向けに公開した声明の中で、ヒントン氏に謝辞を表明しつつ、次のように語っている。

　「AI原則を発表した最初の企業の1つとして、引き続きAIに責任あるアプローチで取り組んでいます」「私たちは、大胆な革新を続けながらも、新たなリスクを理解しようと学び続けています」

　だが、AIの急激な普及を牽制する動きもある。たとえば3月、とある非営利団体が、AIの安全性を確認するために、開発を一時停止するよう求める署名活動を開始。

　これに対し、実業家イーロン・マスク氏やアップルの共同創業者スティーブ・ウォズニアック氏をはじめとする1000人以上の著名人が賛同の意を示した。

　ヒントン氏は、この書簡に署名こそしていないが、「それを制御できるかどうかが、きちんと理解されるまで、これ以上広めるべきではありません」と語っている。

References:Google’s ‘Godfather of AI’ Quit So He Could Warn of The Tech’s Dangers : ScienceAlert / written by hiroching / edited by / parumo

• #動画
• #人工知能（AI）
• #危険
• #リスク
• #悪用