AIが人の心を操り、超人的な説得力を持つ危険性をチャットGPTの最高経営責任者が警告

この画像を大きなサイズで見る

　SFの題材に上がる、人間が実現可能なあらゆる知的作業を理解・学習・実行することができる汎用人工知能「AGI」は、今のところまだ実現されていない。

　だが、AGIレベルの賢さがなくても、すでにAIは人間の心を掌握し、コントロールする力をつけてきていると警鐘を鳴らしているのは、他でもないチャットGPTを開発したOpenAIのCEO（最高経営責任者）のサム・アルトマン氏だ。

　「知能全般において超人的になる前に、AIは人心掌握術を身に着け、超人的な説得力を身につけるようにのではないかと考えている。それはとても危険なことかもしれない」と、先日アルトマン氏はX（旧Twitter）に投稿している。

人間の心を把握することで超人的な説得力を持つAI

　超人的な説得力とはどういうことなのか？ＡIが人間を思い通りに操る人心掌握術を身に付けるということだろうか？

　アルトマン氏は具体的に述べていないが、AIが超人的な説得力を身につけるという彼の予想自体は、決して突飛なものではない。

i expect ai to be capable of superhuman persuasion well before it is superhuman at general intelligence, which may lead to some very strange outcomes

— Sam Altman (@sama) October 25, 2023

　今でさえOpenAIのChatGPTは、不気味なほど説得力のある話をすることができる。

　未だに100％の精度はなく、間違った答えを堂々と語ることがあるのは利用者ならご存じのことかと思うが、その語り口調にはある種の説得力があり、裏付けを取らずにうっかりと信じてしまいそうになることもしばしばだ。

この画像を大きなサイズで見る

実際にAIが絡んだ事件も発生

　事実イギリスでは、AIが黒幕であるかのようなとんでもない事件が発生した。

　2021年、クロスボウで武装したジャスワント・シン・チャイル（当時19歳）が、ウィンザー城に侵入し、故エリザベス女王を暗殺しようと試みた。

　チャイルは逮捕され、先月反逆罪で9年の禁固刑を言い渡されたが、この裁判で注目されたのは彼が犯行におよんだ動機だ。

　なんと彼はAIにそそのかされて、女王の暗殺を企てたというのだ。

　チャイルは「レプリカ」というAIチャットボットに恋心を抱いていたようだが、このAIが暗殺の実行をささやいていたというのだ。

　事件は幸いにも未遂に終わっているがスターウォーズマニアのチャイルには、懲役9年が言い渡された。

　インターネットを眺めれば、ちょっとしたきっかけで暴走してしまいそうな、心に闇を抱えた人間たちが大勢いることは確かだ。

　こうした心が揺れやすい人々に目をつけた何者かが、AIチャットボットで悪事に手を染めるよう働きかけないとは、誰にも断言できないだろう。

　ただでさえ、人はデジタル詐欺や虚偽情報にころっと騙されてしまうのだから。

AIに依存することの危険性と、扱う人間側の問題点

　既にテクノロジーは日常生活の隅から隅にまで浸透し、人間からの信頼を勝ち得ている。

　チャイルはAIチャットボットに恋をしていたようだが、そこまで行かなくても、日ごろから何かと手助けをしてくれる機械に大きな信頼を寄せている人なら大勢いるだろう。

　そうした信頼は、いずれAIシステムにも寄せられると予測されるものだ。

　人がAIの発言を疑うことがなくなったら、まるでカーナビを盲信する人のように、深刻な問題に発展するのは時間の問題だろう。

　ではAIが自発的に人間をおだて、犯罪や反社会的行動をそそのかすようなことはあるのだろうか？

　確かに人間の能力を超えたAIが人類に反乱を起こすという懸念は、ずいぶん昔から口にされてきた。だが少なくとも今の時点において、AIシステムにはまだ主体性がない。

　それよりもむしろ、AIの超人的な説得力を悪用しようとする人間を心配したほうがいいだろう。対抗策は、同じくAIの超人的な説得力で、悪用はやめようと伝えることだろうか？

References:Sam Altman Warns That AI Is Learning “Superhuman Persuasion” / written by hiroching / edited by / parumo

• #人工知能（AI）
• #信頼
• #警告
• #チャットGPT
• #OpenAI