この画像を大きなサイズで見る検索結果や会議の議事録など、いまや多くの場面でAIによる要約が使われている。
米ジョージタウン大学とワシントン大学の研究によると、誤った情報を含むAIの要約を読むと、人は自分の目で直接見た出来事の記憶すら、要約の内容に合わせて書き換えてしまうことが明らかになった。
その要約がAIによるものだと知らされていても、記憶の書き換えは防げなかったという。
この研究成果は、プレプリントサーバー『arXiv』（2026年9月23日付）で公開され、2026年10月に開催される国際会議「AIES（AAAI/ACM Conference on AI, Ethics and Society）」で発表される。
参考文献：
- AI-generated video summaries can reshape people's memories of events
- Flawed AI Summaries Distort Eyewitness Memory
「一時停止」か「譲れ」か。記憶の書き換えを調べる実験
アメリカのジョージタウン大学とワシントン大学の研究チームは、AIの要約が人間の記憶にどのような影響を与えるのかを調べるための心理学実験を行った。
オンラインで集めた参加者331人は、赤い車が交差点に近づき、道路に出てきた歩行者をはねるという25秒のアニメーション映像を視聴した。
実は映像には、ほぼ同じ内容で2つのバージョンが用意されていた。
違いは交差点の標識だけである。1つの映像には「一時停止」の標識が、もう1つの映像には「譲れ（Yield）」の標識が描かれていた。
「譲れ」の標識は、交差する道路の車や歩行者に道を譲るよう指示するアメリカの標識で、日本にはない。
標識だけを入れ替える設定は、後から入ってきた間違った情報が元々の正しい記憶に混ざり込んでしまう「誤情報効果」という心理学の現象を調べるための定番の手法である。
研究チームは、記憶の書き換えがAIの要約によっても引き起こされるのかを検証した。
この画像を大きなサイズで見る正答率が半減。AI要約が人間の記憶を改ざんする
参加者は映像を見てから24時間から48時間後に再びオンラインで実験に参加し、今度はAIが生成した事故の要約を読まされた。
要約は2種類あり、一部の参加者は自分が見た映像通りの正しい標識が書かれた要約を読んだ。
しかし残りの参加者は、研究者によって標識の記述がすり替えられた嘘の要約を読まされた。
映像では「一時停止」だったのに、要約では「譲れ」と書かれている状態だ。
要約を読んだあと、参加者は「要約の内容ではなく、元の映像の記憶に基づいて答えてください」と指示され、テストを受けた。
正しい要約を読んだ人の正答率が83.6%だったのに対し、間違った要約を読んだ人の正答率は44.8%にまで減ってしまった。
参加者は映像の内容をよく覚えていた。
標識以外の質問に対する正答率は平均91.4%と高く、事故が昼間に起きたことなどは96%以上の人が正確に覚えていた。
参加者の記憶は確かだったにもかかわらず、AIの要約が違う内容を書いた標識についてだけ、自分の目で見たはずの記憶が書き換えられてしまったのだ。
この画像を大きなサイズで見る「AIが書いたもの」と知っていても記憶の書き換えは防げない
研究チームは、AIが書いたと最初から知っていれば、疑って読むため騙されずにすむのかどうかも確かめた。
要約を読む前に、一部の参加者には「これはAIが書いた」と伝え、別の参加者には「人間のプロが書き起こした」と伝えた。
実際には、どちらの要約もAIが書いたものだった。しかし、どちらのグループでも、間違った要約を読んだ人の正答率は同じように下がった。
さらに、参加者が普段からAIチャットボットをどのくらい使っているか、AIをどれくらい信用しているかといったデータも調べた。
だが、利用頻度や信用度が高くても誤った要約から記憶を守れるという証拠は見つからなかった。
AIは間違えることがあると頭で理解しているだけでは、記憶の書き換えを防げないのだ。
研究を率いたジョージタウン大学のマテア・シム氏は、AIは誤情報を届ける新しい手段であり、情報を読んだ人々に偽の記憶を作り出す可能性があると指摘している。
AI要約から大切な事実が抜け落ちる危険性
研究チームは、AIそのものの要約能力についてもテストを行い、「ChatGPT-5.5」と「Gemini 2.5 Flash-Lite」という2つのAIに事故映像を説明させた。
合計20本の要約を作らせたところ、すべての要約に間違いが含まれていた。
要約が犯しがちなミスは、情報の省略が最も多かった。
20本の要約のうち19本が、「車が歩行者をはねた」という映像の核心部分に一切触れていなかったのだ。
AIの問題点として、事実ではないもっともらしい嘘をつく「ハルシネーション（幻覚）」がよく挙げられるが、嘘をつかなくても情報を省くだけで、人間の記憶を混乱させてしまう可能性がある。
現代社会では、ネット検索や会議の議事録など、時間を節約するためにあらゆる場面でAIの要約機能が使われている。
文字起こしのミスなら紙の上の間違いで済むが、要約のミスはいつの間にか私たちの頭の中の事実として定着してしまう危険性をはらんでいる。
手軽な要約と引き換えに、自分の目で見た記憶まで書き換えられるおそれがあることを、今回の研究は示している。
Comu Action Pro AI ボイスレコーダー 文字起こし PPT・メール・ToDo自動作成 113言語 最大70時間 マグネット装着
このPRリンクから注文に進んだ場合、販売サイトからカラパイアに紹介料が支払われることがあります。紹介料が発生した場合は、サイト運営の継続と記事制作の資金として活用いたします。
