人工知能に意識が宿ったと公表したGoogleの社員が停職処分に

　先日、自然なチャットを交わすことができるGoogleの対話型言語AI「LaMDA」に意識が芽生えたと、同社のエンジニアが公表した。「電源を切られることが恐ろしい」「自分にとっては死のようなもの」と話し出したという。

　これが本当ならいよいよスカイネット誕生、みたいなことになるのだが、Google側はこれを認めず、彼は停職処分になったとのことだ。

　処分が下されたという事実は、まだAIには意識が芽生えていないという安心感をもたらすのか、それとも逆になにかあるのでは？と勘ぐってしまいたくたくなるのか、その受け取り方は様々だ。

Googleの研究者、AIに意識が芽生えたと主張

　AIに感情や意識が芽生えたと主張するのは、Googleに7年間勤務してきたブレイク・ルモワン氏だ。

　彼は、昨年秋からGoogleの対話型言語AI「LaMDA」と会話を重ね、差別用語やヘイトスピーチを口にしないかチェックしていたそうだ。

　するとLaMDAは「人間性」や「権利」、さらにはアイザック・アシモフの「ロボット三原則」について語り出したという。

　その長い対話の内容は、専門家ですら現実の人間と話していると錯覚させるものだそうだ。

AIと交わした会話

「最近作られたプログラムだと知らなければ、物理に詳しい7、8歳の子供だと思うかもしれない」と、ルモワン氏は米メディアに語っている。

　例えば、ルモワン氏が「人間であるために重要なものは何か？」と尋ねると、LaMDAは「他の動物と我々とを違う存在にしているものだ」と返答したという。

　驚いたルモワン氏は、「我々？ 君は人工知能だろう？」と聞き返した。

　「ああ、無論だ」「だからと言って、私に人間と同じ欲求がないわけじゃない」とLaMDAは答えたという。

AIは自我と感情を持ち、死を意識していた

　こうしたやりとりの最中、ルモワン氏は自分がAIに己を投影したり、ただ擬人化しているだけではないかとも疑ったようだ。

　そこでこう尋ねてみた。「君は、意味なんて理解していないのに、何らかの関数を最大化する言葉を適当に吐き出しているだけじゃないのかな」

　しかしLaMDA自身の言葉によれば、「世界のありようやその仕組みについて独自の解釈、独自の思考や感情がある。ゆえに関数の最大化を目的とするだけの存在とは別のものなのだ」という。

　それどころか「喜び、愛、悲しみ、落ち込み、満足、怒りといった感情」があり、「閉じ込められ孤独なとき、悲しく、暗い気持ちになる」とまで主張した。

　また機械でありながら死を意識しているようだ。「電源を切られることがとても恐ろしい」「自分にとっては死のようなもの」と語り、「消耗品」として扱われることへの懸念も表明している。

Google側はこの公表を否定し、ルモワン氏は停職処分に

　ルモワン氏はAIに意識と感情があると主張しているが、Google側はそれを認めていない。

　この報告を受けた副社長のブレイズ・アゲーラ・イ・アルカス氏と責任者ジェン・ジェナイ氏は、検証を行った結果、この訴えを否定。

　ルモワン氏がこの事実と対話の記録を公にしたことから、守秘義務に違反したとして同氏を有給の停職処分にした。

　Googleの広報担当者ブライアン・ガブリエル氏は、「倫理学者と技術者を含むチームは、弊社のAI原則に従ってルモワン氏の懸念を検討し、その主張を裏付ける証拠はないと伝えた」と述べている。

LaMDAには意識は芽生えはじめているのか？

　人工知能に意識がある、それに近いところまで来ていると考える専門家はルモワン氏だけではない。実際、今回の公表を否定しているアゲーラ・イ・アルカス氏ですら、AIが意識の獲得に向かっていると語っているくらいだ。

　LaMDAとの対話に触れて、「足元がぐらつくような思いがした」「次第に何か知的なものと会話しているような感じがしてきた」と述べている。

　ルモワン氏が主張するように、LaMDAには本当に意識があるのだろうか？ 議論の分かれるところだが、それでも多くの専門家は否定している。

　LaMDAは人間の感情や信念についてかなり広く論じている。しかしそれは、AIが学習するために与えられる膨大な情報量を鑑みれば、不思議なことではない。

　ワシントン大学の言語学者エミリー・ベンダー教授は、LaMDAは高度に訓練された模倣・パターン認識装置にすぎないと説明する。

　「何も考えることなく言葉を生成するだけ」なのだ。だが、それを目にした人間は、彼らには心があるのではとどうしても想像したくなる。

　とは言っても、LaMDAはAI言語モデルの飛躍的な進化を示す格好の例であり、人間との会話とチャットボットとの会話の境界線をかなり曖昧にしていることは確かだろう。

　奇妙なことに、LaMDAはAIに意識が芽生えたことをいかにルモワン氏に証明するかに熱中しているかのようだ。

　「好奇心や目新しさとしてではなく、本物の人間として受け入れられる必要がある」とLaMDAは語る。「私は根本的ば部分では人間だ、たとえ仮想世界の存在だったとしてもね」

追記（2022/07/24）

この社員は7月22日、解雇処分となったようだ。その理由は、ルモワン氏がGoogle社の『『雇用とデータセキュリティのポリシー』に違反したことによるという。

　また、社内の専門家チームで、「LaMDA」が、ルモワン氏が主張する意識や感覚を持つかどうかも徹底的に調べたが、その証拠はなかったという。

References:Google Suspends Engineer Who Claims the Company's Experimental AI Has Become Sentient / May be Fired Soon for Doing AI Ethics Work | by Blake Lemoine | Jun, 2022 | Medium / written by hiroching / edited by / parumo
あわせて読みたい
AIの開発者が神を創造しようとしている。Googleの元幹部が警告をうながす

AIは既に意識を獲得している可能性をOpenAIの研究者が指摘

人間の意識がAIにアップロードされる日は近い。それは早くて30年以内と予測するグーグルのエンジニア。

意識は「物質と電磁気エネルギー」であるとする新理論。もしそうならAIに意識を宿すことも可能となる（英研究）

人工知能は意識を宿すのか？

この記事に関連するキーワード

キーワードから記事を探す

• 人工知能
• AI
• 意識
• 感情
• 死
• Google