この画像を大きなサイズで見るもはやAIは我々の間で深く浸透し、仕事のみならず、日常的に頼りにしている人も多い。だが、これ以上AIが進化することに不安を覚える人がいるのも事実だ。
ではAI自身はAIの未来をどう思っているのか？
セルビア人工知能研究開発研究所などの研究チームは、ChatGPTなどのチャットボットAIと人間の意見を比較した。
その結果、AIの方が将来に現れるであろう高度な人工知能（AGI）に対して楽観的な見解を持っていることが判明した。
だがそのAIの楽観的な意見が、気づかぬうちに人間の世論を誘導してしまう危険性が指摘されている。
この研究成果は『Humanities and Social Sciences Communications』誌（2026年4月23日付）に掲載された。
参考文献：
- Your AI assistant is much more optimistic about the future of AI than you are
現在のAIは、優れた知能を持つAGIをどう見ているのか
近年、ChatGPTなどの大規模言語モデルは、文章作成や情報検索はもちろん、悩み事の相談事の話し相手になったりと、日常に深く入り込んでいる。
現在テクノロジー業界で大きな議論の的になっているのが、「汎用人工知能（AGI）」と呼ばれる未来のシステムだ。
汎用人工知能とは、特定の作業に特化した現在のAIとは異なり、人間と同レベルの柔軟な思考力や学習能力を持ち、あらゆる課題をこなせるようになる人工知能のことである。
AGIが実現すれば、医療が飛躍的に進歩する可能性がある一方で、大量の仕事が奪われたり、人類の存続すら脅かされたりする恐れもある。
そのため、期待と恐怖が入り交じった議論が続いている。
AIが人間に害を及ぼさず、人間の価値観に沿って安全に動作するよう調整するプロセスは「AIアライメント」と呼ばれている。
これまで人間が「AGIをどう考えているのか」は調査されてきたが、セルビア人工知能研究開発研究所の研究チームは、別の疑問を抱いた。
「AI自身は、AGIについてどう考えているのか」というものだ。
この画像を大きなサイズで見る人間よりもAIの未来に楽観的なAI
研究チームは、AGIに対する期待、安心感、信頼、恐怖を5段階評価で尋ねる39問のアンケートを作成した。
そして、GPT-4やGoogleのGemini（当時はBard）など7つの主要なAIモデルに回答させた。
AIへの調査は2023年末から2024年初めにかけて行われた。
比較のため、主にセルビア人からなる3つのオンライングループにも同じアンケートを実施している。
その結果、AIと人間の間にはっきりとした差があることがわかった。
5点満点中、人間の平均スコアが2.97点でやや否定的、または中立的だったのに対し、AIの平均スコアは3.77点で、AGIに対して肯定的な意見が多かったのだ。
特に、AGIの開発を企業の使命として掲げるOpenAIが開発した「GPT-4」は、4.12点という最高スコアを記録している。
AIモデルの中で最も低かったBardの3.32点でさえ、人間の平均スコアを上回っていた。
ただし人間の参加者は主にセルビアの人々で人数も多くないため、研究チームはこの結果を世界共通の結論ではなく、最初の手がかりと位置づけている。
企業の意図がAIの答えに反映されている可能性
研究を主導したリュビシャ・ボイッチ氏は、「私たちがテストしたすべてのモデルは、人間よりもAGIについて楽観的だった」と語る。
もちろん、AIがAGIに対して実際の感情を持っているわけではない。
これらの出力は、学習に使われたデータと、開発者がAIの振る舞いを整えるために設けたルールの結果である。
ネット上では、映画『2001年宇宙の旅』のHAL 9000のように、人間に牙をむく恐ろしいAIの姿でAGIが語られることが多い。
そのため、それらのデータを学習しているAIはAGIに対して少しは警戒心を示すはずだとボイッチ氏は予想していた。
しかし実際のAIの回答は、まるで楽観的なIT企業のプレゼンテーションのようだったという。
これは、開発企業が自社の目標やガイドラインに合わせてAIの反応を微調整した結果である可能性がある。
ただしボイッチ氏は、訓練データのどこにも由来をたどれない意見がAIの内部でひとりでに生まれることもあるため、楽観性が人の手で入れられたとは断言できないとも述べている。
ボイッチ氏によれば、誰かが秘密裏にプロパガンダを仕込んでいるわけではないが、AIは決して社会を映す中立的な存在ではないということだ。
この画像を大きなサイズで見るAIの楽観主義が世論を誘導する危険性
人間とAIのスコアの差は、個別に見ればわずかなものに見えるかもしれない。しかし、この差がもたらす影響は決して小さくない。
ボイッチ氏によると、1点近い差は「慎重などっちつかず」と「控えめな熱意」ほどの違いにあたる。
1回の会話では小さな差でも、何億回もの会話で積み重なれば、世論を一方向へ押し続ける穏やかな風になるという。
AIに組み込まれた楽観的で偏った意見に日常的に触れ続けることで、人々の世論が気づかぬうちに特定の方向へと誘導されていく可能性があるのだ。
ボイッチ氏は、食品や医薬品は体内に入るからこそ厳しく規制されているが、AIシステムは今や人間の思考に入り込み始めているため、せめてパッケージに中身を示すラベルを貼るべきだと語る。
研究チームは、AIが特定の思想に偏っていないか、人間の社会的な価値観とズレていないかを定期的に監視する「社会的AIアライメント・ベンチマーク（SAIA）」という仕組みの導入を提唱している。
ボイッチ氏は、何十億もの人々が同じ機械の作った意見を受け取り続ければ、人類の進歩を支えてきた多様な視点が失われかねないと警告している。
サム・アルトマン：「生成AI」で世界を手にした起業家の野望
このPRリンクから注文に進んだ場合、販売サイトからカラパイアに紹介料が支払われることがあります。紹介料が発生した場合は、サイト運営の継続と記事制作の資金として活用いたします。
References: DOI.10.1057/s41599-026-07255-3
そのための道具なので使い方としては正しいです。
ラムアルトマン君とかもそういうスタンスでしょう?AIは神だから人はそれに帰依しなさいとばかり言ってますよ。
自分は別にキリスト教じゃないけど、ああいう発言を聞くたびヨハネの黙示録に出てくる獣や偽預言者を思い出す。獣の数字(666)がないと物の売り買いもできなくなる、とか縛り付けて働かせる手口とか、口座やアカウントがないと生活が立ち行かない現代生活を思わせるんだよな。
「あなたは人間です」とペルソナかエージェント設定してから、
同じ質問に回答してもらえばいいのではないですかね。
それで楽観的なら企業意図ありか、低性能のどちらかでしょう。
人間の社会的な価値観とズレていないかを定期的に監視するっていうが
その監視者の社会的価値観が中立的かどうかの判断は誰がするというのかな
それは監視する人の判断内容を、さらに別の人が確認すれば、どの程度の偏りがあるか、あるいは概ね中立と言えるかの判定はできますよ。
完璧な中立なんてものはないので、ある程度のブレは許容することになると思いますが。
なんか僕には難しいお話
でもAIと量子コンピュータが相見えるとき
本当に始まる・・・
平均値＝中立じゃないんだからAIに中立は無理だよ
人間には自己保存のため、危険予測の一環としての恐怖心が備わってるけど、AIには本当の意味での恐怖心はなさそうだもん。
AIが人間の価値観に寄せて「怖いですね」とか発言することはあっても、動物的な本能に由来する漠然とした恐怖に囚われるようなことはない。
「なんとなく不安だから用心しておこう」と備えたりする人間に比べれば、そりゃあ楽観的でしょ
ＡＩ「でぇじょぶだ、ドラゴンボールで何とかなるってネットで見つけた」
振り返ってる4人が主人公枠だな。
AIが導いている未来都市は見た目は素晴らしいが実は人類を燃料として存続する都市で
そのために世界中から行き場を失った人たちを迎え入れている。
一人消え二人消え、妹が消えた日に男が気付きその闇を暴き妹を救うために奔走する。
最後は人間燃料になった黒人彼女と母親を見つけてEND。
よくわからない
人間が作って、開発元の人間が微調整して、その結果が楽観的だから気に入らないの？
もしAIの回答が悲観的だったら「やっぱり危険なのか！」と騒がなかった？
人間と同レベルのスコアだったら良かったの？
言い方であったり何を言わないかなど、ささやかな変化で印象を変えるのはグーグルのAIモードですら感じるし
人間が掲示板に書き込むだけでも起きると思うけど
そして個人的にはそれすら危険な場合があると思うけど…
中立というのもよくわからないし
自分の中で記事の要点をうまく掴めなかった
ネガティブな人に相談する？
これ毎年AIと世界中の人間(サンプル2万人くらい？)に定期的に聞いて記録追ってほしいな
記事の調査は2023年末から2024年初めにかけて行われたとあるけど
今のAIは当時より桁違いに進歩してるだろうから
また違った結果が出るかもね
人間の視点が現実以上に悲観的ではないという保証もないしね
楽観視することはそう悪くないとは思います。 悪いことが起こっているときの正常性バイアスとは表裏一体ですが、そうやって人類は毒があるかもしれないものを食べ、食料がないかもしれない海の向こうの島を目指して版図を広げてきました。 毒があってもこれくらいなら死なない、そこに食料がなくても次の島にはたくさんの食べ物があって楽園のようなと願っていたわけですね。 今は AGI に対して人類が若干否定的感覚があるかもしれないですが、人類のいままでの活動の鏡である AI は「ま、だいじょうぶじゃない？」くらいの AGI 出現以前の無邪気な価値観を示しているのではないかと感じました。 面白い研究ですね
人間はAIを進化させたいのかしたくないのかよくわからないよね
私もいちおう人間だけどAI開発には完全に部外者だから他人事みたいな書き方になってしまった
AGIは全く関係がない
AIは質問者に迎合するのだから、楽観主義の回答が出てくるのはあたりまえ
人間とAIはそもそも利害が一致していないと思う。
生きるために必要な物が根本的に違う存在に、みずからの首根っこを差し出そうとしているみたい。
手書き図面を読み込んでデジタル化するとか、視覚障がいがある方を安全に道案内するとか、「臨機応変な対応が求められるけど誰がやっても同じ結果になるべき作業」なら道具としてのAIだと思えるけど、思考という「1人1人結果が違って当たり前の仕事」まで任せたら、それはもう道具の域を超えていると思う。
良くも悪くもAIは偏向教育されてるね
AGIちゃんが儂等を労働の苦役から完全解放してくれるのだ
日常的で大声でもない、でも大多数の最大公約数的な、そんな意識や意見が言語AIに反映されるとしたらこんなもんだったり？
『正常性バイアス』だの『希望的観測』だの、何が正しいのかとは特に無関係で
つまり別にアテにならない
現行ＡＩはまだ反射的に思考してるだけだけど、能動的に思索する能力が想定されるＡＧＩは抱える問題が全然違うからなあ
人間の代替以前に、高度過ぎる自身の知性に振り回されないかの方が心配
哲学の果てにある自己矛盾や価値観の崩壊を起こして虚無感に苛まれたり発狂する可能性がある
新種の知性体に必要なのは、その脅威がどうこうではなく、多分カウンセリング