陰謀論者を説得し、信念を変えるのは、人間よりAIの方が効果的であるとする研究結果

この画像を大きなサイズで見る

　一度陰謀論にのめり込むと、どんなに説得してもなかなかその信念を捨てることは難しい。例え事実と反していても、自分の信念を否定するような情報を遮断し、同じ価値観を持つ人々とだけ交流することで、その考えを増長してしまうのだ。

　だが人間が人間を説得させることは無理でも、AIなら可能かもしれない。　

　新たに発表された研究論文によると、AIはどんな陰謀論であっても圧倒的な情報量で反証し、陰謀論者が提示する根拠を徹底的に論破してくれるという。

　根気強くAIが論拠を次々と提示することで、陰謀論者は自分の信念が揺らいていき、一時的ではなく、長期的に持論が誤りであると考えるようになるという。

自分の信じたいものしか信じない。陰謀論者の説得の難しさ

　陰謀論は決して笑い事では済まされないものもある。アメリカでは半数の人たちが少なくとも1つの突飛な話を信じているという。

　一度陰謀論を信じてしまうと、その信念を覆すことは非常に困難だ。どんな証拠を突きつけたところで無駄だ。下手に反論しようとすると、かえって陰謀論に傾倒していく恐れすらある。

　また、SNSが浸透している現在では、自分と同意見の人をたやすく見つけることができる。

　似たもの同士で、コミュニケーションが繰り返され、自分の意見や思想が肯定されることによって、それらが世の中一般においても正しく、間違いないものであると信じ込んでしまうエコチェンバー現象が発生する。

　悲しいことに人間には「確証バイアス」が働いてしまうので、例えそれが事実でも、人の心を変えることはできないのだ。

この画像を大きなサイズで見る

陰謀論者の目を覚まさせるのにAIを使ったところ…

　陰謀論の難しさの1つは、その構造が多岐にわたっており、信じる人はさまざまな根拠に基づいてそれが真実であると思い込んでいることだ。

　ある意味、同じ内容の陰謀論であっても、人それぞれによって解釈している内容は異なるとすら言えるかもしれない。それに対して生身の人間が反証するのは並大抵のことではない。

　だがAIは違う。人間と違い、疲れることも飽きることもなく、ありとあらゆる反証を集めて、それを提示することができる。

　ならば陰謀論を信じる人の目を覚まさせるには、人間よりもAIに論破させた方が効果的かもしれない。

　この仮説を検証するため、マサチューセッツ工科大学の研究チームは、AI（GPT-4 Turbo）で陰謀論を信じる人（2190人）を論破するという実験を行うことにした。

　参加者はまず、自分が信じる陰謀論やそれを信じる根拠などをAIに伝える。

　するとAIはそれをまとめた内容を参加者に提示する。例えば、「9/11は政府の内部犯行であり、その証拠としてX、Y、Zが挙げられる」といった具合だ。

　参加者はそれが自分が伝えた内容と一致しているかどうか確認し、さらにいくつかの質問に答えると、一対一の対話がスタートする。

　対話は8分間で、AIは参加者が伝えてきた根拠に反証を出す。

　例えば「9/11は内部犯行だ」と信じる人が、その根拠として「ジェット燃料は鉄を溶かすほどの温度にはならない」という証拠を挙げていたとする。

　するとAIはアメリカ国立標準技術研究所の報告書を引用して、「鉄はもっと低い温度で強度を失い、建物の構造が崩壊するのに十分な弱体化が起こる」という反論を提示する。

　こうした実験の結果、AIとの対話は、参加者の誤解を20％減少させることがわかったのだ。しかもその効果は2ヶ月後に参加者の信念が再評価された際にも続いていた。

　研究チームによると、ほかの手段では陰謀論を信じる人の信念を1～6％低下させるだけなので、AIとの対話は非常に効果が大きいという。

この画像を大きなサイズで見る

AIはあらゆる陰謀論に対応できる

　AIとの対話は、JFK暗殺事件、月面着陸陰謀説、イルミナティといった古くからある陰謀論から、新型コロナウイルスにまつわる最近の陰謀論まで、さまざまな陰謀論に対して効果的だった。

　AIはどのような陰謀論であっても圧倒的な量の反証を提示して、それが本当に正しいのか考え直すよううながしてくれる。

　また、AIには事実とは異なる結果を出力する「ハルシネーション（幻覚）」という問題をかかえているので、あてにならないのでは？と思うかもしれない。

　だが、MITの研究チームがGPT-4 Turboの回答をプロのファクトチェッカーに検証してもらったところ、「事実」が99.2％で「誤解を招く」が0.8％、「誤り」は0％だったそうだ。

この画像を大きなサイズで見る

陰謀論者にAIと対話させるには？

　とは言え、実際のところ、陰謀論を信じる人々が、自分たちを論破しようと試みるAIと進んで会話を交わそうとするだろうか？

　少なくとも、研究チームはそう考えている。

　というのも、陰謀論を信じる人の多くは、それについて色々話したいものだからだ。それなのに、現実の人たちはそんな話に付き合いたくはない。ならばAIに話し相手になってもらおうとするかもしれない。

　そこで研究チームは、陰謀論を信じてしまった人の目を覚まさせる方法として、陰謀論関連のサイトにAIへのリンクを投稿し、そこで語られていることが本当に正しいのかどうか自分で調べるよううながすというやり方を提案している。

　陰謀論の世界では、しばしば「ギッシュ・ギャロップ」と呼ばれる方法が使われる。これは大量の嘘を流すことで、相手を圧倒させて信じ込ませてしまうやり方だ。

　人間はこの手の方法に弱いものだが、AIならば洪水のような嘘であっても、それに圧倒されるようなことはない。

　どのような誤情報に対しても、1つ1つ飽きることなく反証を提示することができるという。

　Science誌のH・ホールデン・ソープ氏はこう述べる。

機械が人間よりも誤情報に対抗するのに優れているかもしれないという事実は少し気が滅入るかもしれませんが、最終的には科学的な情報が説得力を持つというのは安心材料です

　この研究は 『Science』（2024年9月13日付）に掲載された。

References: AI Conversations Help Conspiracy Theorists Change Their Views / AI chatbots might be better at swaying conspiracy theorists than humans | Ars Technica

• #人工知能（AI）
• #検証
• #陰謀論
• #GPT
• #信念