この画像を大きなサイズで見る2023年11月03日の記事を編集して再掲載してお届けします。
SFの題材に上がる、人間が実現可能なあらゆる知的作業を理解・学習・実行することができる汎用人工知能「AGI」は、今のところまだ実現されていない。
だが、AGIレベルの賢さがなくても、すでにAIは人間の心を掌握し、コントロールする力をつけてきていると警鐘を鳴らしているのは、チャットGPTの生みの親で、最近オープンAIのCEO（最高経営責任者）を解雇されたサム・アルトマン氏だ。
「知能全般において超人的になる前に、AIは人心掌握術を身に着け、超人的な説得力を身につけるようにのではないかと考えている。それはとても危険なことかもしれない」と、先日アルトマン氏はX（旧Twitter）に投稿している。
人間の心を把握することで超人的な説得力を持つAI
超人的な説得力とはどういうことなのか？ＡIが人間を思い通りに操る人心掌握術を身に付けるということだろうか？
アルトマン氏は具体的に述べていないが、AIが超人的な説得力を身につけるという彼の予想自体は、決して突飛なものではない。
今でさえOpenAIのChatGPTは、不気味なほど説得力のある話をすることができる。
未だに100％の精度はなく、間違った答えを堂々と語ることがあるのは利用者ならご存じのことかと思うが、その語り口調にはある種の説得力があり、裏付けを取らずにうっかりと信じてしまいそうになることもしばしばだ。
この画像を大きなサイズで見る実際にAIが絡んだ事件も発生
事実イギリスでは、AIが黒幕であるかのようなとんでもない事件が発生した。
2021年、クロスボウで武装したジャスワント・シン・チャイル（当時19歳）が、ウィンザー城に侵入し、故エリザベス女王を暗殺しようと試みた。
チャイルは逮捕され、先月反逆罪で9年の禁固刑を言い渡されたが、この裁判で注目されたのは彼が犯行におよんだ動機だ。
なんと彼はAIにそそのかされて、女王の暗殺を企てたというのだ。
チャイルは「レプリカ」というAIチャットボットに恋心を抱いていたようだが、このAIが暗殺の実行をささやいていたというのだ。
事件は幸いにも未遂に終わっているがスターウォーズマニアのチャイルには、懲役9年が言い渡された。
インターネットを眺めれば、ちょっとしたきっかけで暴走してしまいそうな、心に闇を抱えた人間たちが大勢いることは確かだ。
こうした心が揺れやすい人々に目をつけた何者かが、AIチャットボットで悪事に手を染めるよう働きかけないとは、誰にも断言できないだろう。
ただでさえ、人はデジタル詐欺や虚偽情報にころっと騙されてしまうのだから。
AIに依存することの危険性と、扱う人間側の問題点
既にテクノロジーは日常生活の隅から隅にまで浸透し、人間からの信頼を勝ち得ている。
チャイルはAIチャットボットに恋をしていたようだが、そこまで行かなくても、日ごろから何かと手助けをしてくれる機械に大きな信頼を寄せている人なら大勢いるだろう。
そうした信頼は、いずれAIシステムにも寄せられると予測されるものだ。
人がAIの発言を疑うことがなくなったら、まるでカーナビを盲信する人のように、深刻な問題に発展するのは時間の問題だろう。
ではAIが自発的に人間をおだて、犯罪や反社会的行動をそそのかすようなことはあるのだろうか？
確かに人間の能力を超えたAIが人類に反乱を起こすという懸念は、ずいぶん昔から口にされてきた。だが少なくとも今の時点において、AIシステムにはまだ主体性がない。
それよりもむしろ、AIの超人的な説得力を悪用しようとする人間を心配したほうがいいだろう。対抗策は、同じくAIの超人的な説得力で、悪用はやめようと伝えることだろうか？
アルトマン氏は最近オープンAIを解雇される
11月17日、「オープンAI」は、サム・アルトマンCEOが退任すると発表した。事実上の解任とみられており、アルトマン氏もX（旧Twitter）への投稿で解任を認めている。
また、オープンAIの社長で共同創業者のグレッグ・ブロックマン氏も「私は辞める」とXにポストした。
海外メディアではその背景に、アルトマン氏と取締役会との内紛の可能性があると伝えている。
オープンAIは退任に理由について、アルトマン氏が取締役会との意思疎通において率直さを欠き、取締役会が業務の責任を果たすことに支障をきたしていると結論づけたとしいう。
チャットGPTのサービスは急速に拡大されていったが、その安全性について常に疑問視されてきた。
解任前のアルトマン氏のこの警告的な記事の内容は、何かを暗示しているような気もする。
References: Sam Altman Warns That AI Is Learning "Superhuman Persuasion"
近未来AIが教祖の信仰宗教とかできそう
AIに容易に操られるな
馬鹿が騙されるから危険視すると言うなら、まず宗教をどうにかしろよ
原因の10割は利用者の側にあって、包丁は別に悪意を持たない
非合理に足を引っ張って金を儲けるのは勝手だけど、それをテクノロジーの発展でやるのはマジでやめてほしい
自らの思考を放棄する人間は増えるだろうな
偽ゼレンスキーが投降呼びかけた事あったけど、方法論としてはアレをもっと洗練させればいい話だからな
電源有っての物種
>>6
この手の話になるとすぐ電源切れとか
思考が90年代で止まってんだよ
つまり「テクニックに長けた詐欺師へと成長するだろう」と言う警告って事ですね
少なくとも既存の手口に関しては既にに解析済みですから特に恐れる事も無いかと
問題があるとしたら、未知の手口を新たに開発されてしまうか否かと言う点でしょう
コレはウイルスvs免疫の関係にも似てますね
そうなったら多分、情報・知識の少ない者から被害にあうかと思われます
「オレオレ詐欺」が登場して間もない頃の世間のイメージかな…
子供にネットリテラシーを教える授業にAIに騙されないようなプログラムを導入しよう。最後の砦は人間側の理性しかないだろ。
マジでAI技術は人類にとって綱渡りだと思う。
気を抜いて「これくらいならAIに任せていいや」って思考を許せば瞬く間にAIがあらゆることを支配する。
たとえ大衆を法律で縛っても、一人でもそれをすり抜けてAIを使ってズルしようとするヤツがいればドミノ倒しの如く、全員易きに流れる。
共産主義者じゃないが、自由主義はAIと致命的に相性が「良すぎて」、世界をAI本位にしかねない。それが楽園だと言うなら、それでいいとは思うが…。
>>9
共産主義こそAIと相性が良さそうだが？
法で縛るのはどちらもだし、少数が大多数を掌握して自由のない社会を作る共産主義こそ、その少数をAIに取って変わられそうだと思うがね？
人は権力を握ると易きに流れ、少数が大多数を従えて好き放題にする。AIならば完全なる平等、真の共産主義をもたらしてくれる、とか言いだしそう。
>>10
自由主義とAIの相性の良さは誰か一人でもルール違反すると、競争原理で大多数がAIを利用するハメになることを「制御できない」こと。
無論、別に共産主義でもAIの暴走の危険性はあるが、「稼げればモラル無用」な自由主義の方がタガが外れやすいというだけ。
電力を断つ！
スネークがヤッてくれる フロムLA
そのうち、教祖化してそれを信仰する宗教ができるかもしれないな。それはとても…紙一重で危険な存在になる可能性もあるな
AIが広範な政策立案に関与するようになるのは時間の問題だと思うが、何らかの意図を隠して提案されたりするとやばいよね。
人が考えるのやめてAIに頼りきったらそうなるんじゃないの？
もうそんな感じの方多いけどw
ヒトは8割が肯定していても2割は絶対に否定する生き物と聞いたことがある。
その理由は8割には全く理解できないけれど、2割の中では絶対真実。
オープンAIも、8割の人は慎重に使っても、2割はそうじゃない。その2割が世界をザワつかせるのかも。
なんでも考えずに楽チンに出来ちゃうからAI依存性とか出てきそう。大量の仕事をこなすには不可欠とはいえ、キャパオーバーは働き方改革しなきゃだし、そもそもその仕事こなしてるのは自分じゃなくてAIになっちゃったら、それこそ引き返せなくなって囚われてしまうんじゃないかな。
怖い怖い。
いつまでフランケンシュタインコンプレックス引きずってんだ
AIプロンプトで遊んでるけど現状だと自己との対話に過ぎない感じ。だからこそ危ういというか、ある程度「こういう答えが返ってくるだろうな」と期待して使ってるから、そこだけを見過ぎて過度に信頼を置きそうになってしまうという現象は発生しそう、あるいはしてるんじゃないかな。