元オープンAIのCEOサム・アルトマン氏が警告、AIが人の心を操り超人的な説得力を持つ危険性

2023年11月03日の記事を編集して再掲載してお届けします。

　SFの題材に上がる、人間が実現可能なあらゆる知的作業を理解・学習・実行することができる汎用人工知能「AGI」は、今のところまだ実現されていない。

　だが、AGIレベルの賢さがなくても、すでにAIは人間の心を掌握し、コントロールする力をつけてきていると警鐘を鳴らしているのは、チャットGPTの生みの親で、最近オープンAIのCEO（最高経営責任者）を解雇されたサム・アルトマン氏だ。

　「知能全般において超人的になる前に、AIは人心掌握術を身に着け、超人的な説得力を身につけるようにのではないかと考えている。それはとても危険なことかもしれない」と、先日アルトマン氏はX（旧Twitter）に投稿している。

人間の心を把握することで超人的な説得力を持つAI

　超人的な説得力とはどういうことなのか？ＡIが人間を思い通りに操る人心掌握術を身に付けるということだろうか？

　アルトマン氏は具体的に述べていないが、AIが超人的な説得力を身につけるという彼の予想自体は、決して突飛なものではない。

i expect ai to be capable of superhuman persuasion well before it is superhuman at general intelligence, which may lead to some very strange outcomes

— Sam Altman (@sama) October 25, 2023

　今でさえOpenAIのChatGPTは、不気味なほど説得力のある話をすることができる。

　未だに100％の精度はなく、間違った答えを堂々と語ることがあるのは利用者ならご存じのことかと思うが、その語り口調にはある種の説得力があり、裏付けを取らずにうっかりと信じてしまいそうになることもしばしばだ。

実際にAIが絡んだ事件も発生

　事実イギリスでは、AIが黒幕であるかのようなとんでもない事件が発生した。

　2021年、クロスボウで武装したジャスワント・シン・チャイル（当時19歳）が、ウィンザー城に侵入し、故エリザベス女王を暗殺しようと試みた。

　チャイルは逮捕され、先月反逆罪で9年の禁固刑を言い渡されたが、この裁判で注目されたのは彼が犯行におよんだ動機だ。

　なんと彼はAIにそそのかされて、女王の暗殺を企てたというのだ。

　チャイルは「レプリカ」というAIチャットボットに恋心を抱いていたようだが、このAIが暗殺の実行をささやいていたというのだ。

　事件は幸いにも未遂に終わっているがスターウォーズマニアのチャイルには、懲役9年が言い渡された。 　インターネットを眺めれば、ちょっとしたきっかけで暴走してしまいそうな、心に闇を抱えた人間たちが大勢いることは確かだ。

　こうした心が揺れやすい人々に目をつけた何者かが、AIチャットボットで悪事に手を染めるよう働きかけないとは、誰にも断言できないだろう。

　ただでさえ、人はデジタル詐欺や虚偽情報にころっと騙されてしまうのだから。

AIに依存することの危険性と、扱う人間側の問題点

　既にテクノロジーは日常生活の隅から隅にまで浸透し、人間からの信頼を勝ち得ている。

　チャイルはAIチャットボットに恋をしていたようだが、そこまで行かなくても、日ごろから何かと手助けをしてくれる機械に大きな信頼を寄せている人なら大勢いるだろう。

　そうした信頼は、いずれAIシステムにも寄せられると予測されるものだ。

　人がAIの発言を疑うことがなくなったら、まるでカーナビを盲信する人のように、深刻な問題に発展するのは時間の問題だろう。

　ではAIが自発的に人間をおだて、犯罪や反社会的行動をそそのかすようなことはあるのだろうか？

　確かに人間の能力を超えたAIが人類に反乱を起こすという懸念は、ずいぶん昔から口にされてきた。だが少なくとも今の時点において、AIシステムにはまだ主体性がない。

　それよりもむしろ、AIの超人的な説得力を悪用しようとする人間を心配したほうがいいだろう。対抗策は、同じくAIの超人的な説得力で、悪用はやめようと伝えることだろうか？

アルトマン氏は最近オープンAIを解雇される

　11月17日、「オープンAI」は、サム・アルトマンCEOが退任すると発表した。事実上の解任とみられており、アルトマン氏もX（旧Twitter）への投稿で解任を認めている。

i loved my time at openai. it was transformative for me personally, and hopefully the world a little bit. most of all i loved working with such talented people.

will have more to say about what’s next later.

🫡

— Sam Altman (@sama) November 17, 2023

　また、オープンAIの社長で共同創業者のグレッグ・ブロックマン氏も「私は辞める」とXにポストした。

　海外メディアではその背景に、アルトマン氏と取締役会との内紛の可能性があると伝えている。

　オープンAIは退任に理由について、アルトマン氏が取締役会との意思疎通において率直さを欠き、取締役会が業務の責任を果たすことに支障をきたしていると結論づけたとしいう。

　チャットGPTのサービスは急速に拡大されていったが、その安全性について常に疑問視されてきた。

　解任前のアルトマン氏のこの警告的な記事の内容は、何かを暗示しているような気もする。

References:Sam Altman Warns That AI Is Learning "Superhuman Persuasion" / written by hiroching / edited by / parumo
あわせて読みたい
ChatGPTは心の悩みに対し、人間のカウンセラーよりも的確で親身な回答を導き出してくれるという研究結果


まもなく人間はAIに恋するようになる。Googleの元CEOが警告


AIは人間以上に自分を「人間」と証明することが得意である


自我の現れか？仮想の町にAIを25人解き放ったところ、人間同様の生活を送るように


話題の会話型AI「bingチャット」を挑発した大学生、逆に脅迫される