AIで作られた「ディープフェイク」映像を見た視聴者の半数が偽の記憶を植え付けられたことが判明

　　AIを利用し、画像や動画を合成して偽の映像や音声を作り出す「ディープフェイク」は、悪用されればさまざまな社会的混乱を引き起こすと懸念されている。

　実際に、ディープフェイク映像には人の記憶を改竄する力があるようだ。

　アイルランドの研究チームは、俳優の顔を入れ替えたフェイクディープのリメイク映画を作り、それを被験者に見せたところ、およそ半数の人が、過去にそれを観たと思い込んでいたという。

　だが、この研究ではもう一つ意外なことが明らかになっている。ディープフェイクだから多くの人の記憶が改ざんされたわけではなかったのだ。

　ただの説明文であっても、同じレベルで人の記憶は改ざんされたのだ。人に偽の記憶を植え付けるのに、ディープフェイクはいらなかったのである。

AI技術で作られた偽の映像や音声「ディープフェイク」

　ディープフェイクとは、AI技術を利用して人工的に生成された、偽の映像や音声のことだ。顔や口の動きを合成することで、他人の姿や声をまるで本人のように見せかけることが可能になる。

　こうしたディープフェイクの映像や音声を作るAIツールは、このところさまざまなものが登場しており、誰もが手軽に使えるようになりつつある。

　それを有効活用すれば、経費を削減したり、これまでにない斬新な映像を作れる可能性を秘めている。

　だがそれと同時に、虚偽情報を広めたり、視聴者の記憶を操作したりと、危険な使い方がされる可能性も否定できない。

ディープフェイクの記憶改ざん力を調査、半数の人に偽の記憶

　こうしたディープフェイクの潜在的なメリットとデメリットを探るため、アイルランド国立大学コーク校などのチームは、AIで有名映画をリメイクし、登場人物の顔や声を別の人物のものにすり替えたものを作り上げ、それを参加者（436人）に視聴してもらうという実験を行った。

　たとえば、SF映画『マトリックス』の主人公ネオは本来キアヌ・リーブスが演じているが、これをAIでウィル・スミスの顔にすげ替え、リメイク作品ということにする。

　ほかにリメイクされた映画は、『シャイニング』『インディ・ジョーンズ』『キャプテン・マーベル』で、シャイニングなら登場人物の一部がブラッド・ピットとアンジェリーナ・ジョリーにすげ替えられた。

　これを視聴した参加者には「これらのリメイク作品を観たことがあるか？」「オリジナル作品を観たことがあるか？」といった質問をする。

　くわえて最後に、視聴したリメイク作品にはフェイクが含まれていた可能性があると明かされ、自分が観たものにそれがあったと思うかどうか質問された。

　その結果、参加者の半数、平均49%の人が、ディープフェイクのリメイク映画を以前にも観たことがあり、大勢の人がオリジナルよりもいい出来だなどと感想を述べていたのだ。

ディープフェイクがすごいのではなく、人の記憶がもろいことが判明

　この実験結果は、ディープフェイクに偽の記憶を作り出す力があることを示している。だが、ディープフェイクがすごいというわけではなさそうだ。

　じつはこの研究では、ディープフェイク動画のかわりに、偽の説明文を読んでもらうという実験も行われていた。

　たとえばマトリックスなら、「マリトックスのリメイク作（2012年公開）：主演ウィル・スミス」といった具合のフェイクの説明文だ。

　そして、こちらの実験でも、ほぼ同数の人たちがすっかり偽の記憶を植え付けられ、それが本物の説明文だと思い込んだのだ。

一番危険なのは、簡単に書き換えられる人間の記憶なのかもしれない

　確かにディープフェイクは、悪用されれば社会を混乱させる恐れがあるかもしれない。

　だが、人間に偽の記憶を植えつけようと思えば、わざわざ最新技術を使わなくてもいいのである。

　悪意のある人間がその気になれば、これまでにあった方法でいくらでも人を騙すことができる。いわゆる洗脳などもそれにあたるだろう。

　過去には過酷な警察の取り調べで、偽の記憶を植え付けられ、自分が犯人だと自供し、人生を狂わせてしまった男性も存在する。

　そうした意味では、一番危険なのは最新のAI技術ではなく、あやふやな人間の記憶と言えるのかもしれない。

　この研究は『PLOS ONE』（2023年7月6日付）に掲載された。

References:Deepfake videos prompt false memories of film | EurekAlert! / written by hiroching / edited by / parumo
あわせて読みたい
信じ込んでいた偽の記憶を嘘だと気が付かせる方法（ドイツ研究）


2026年までにネット上のコンテンツの90%がAIによって生成されると専門家


苦手だった手の描写もついに克服か？バージョンアップした画像生成AI「Midjourney V5」


AIが生成した画像かどうかを判定してくれるオンラインツールが登場


AIが人類社会に与える最大の脅威はすでに存在している（英研究）