この画像を大きなサイズで見るスマホを開けば、リールやショート動画が次々に流れてくる。膨大な数の動画の中に、最近はAI生成によるフェイク動画が増えている。
実際のニュースに混じり込み「本物らしく見える」フェイク映像に騙されたことがある人はどんどん増えている。
こうした本物そっくりの映像は、災害時に誤解を生み、避難や救助の判断を誤らせることがあるので非常に危険だ。
カリブ海を襲ったハリケーン「メリッサ」に関する動画がSNSに溢れる中、プールや街を泳ぐサメのフェイク映像が本物として拡散され、注意喚起が促されている。
ハリケーンの襲来に合わせて投稿されたフェイク動画
2025年10月、カテゴリー5のハリケーン「メリッサ」がカリブ海を襲った。ハイチでは死者25人、行方不明者18人の被害が出、ジャマイカでも死傷者が出るなど大きな爪跡を残した。
メリッサが猛威を振るっている最中、インターネット界隈ではハリケーンにによる被害を写した動画がたくさん投稿されていた。
スマホからすぐに動画や写真をネットに投稿できるのが当たり前となった今日、そこにはAIが生成したフェイク動画がたくさん混ざっていたのだ。
たとえばXに投稿されたこの動画は、暴風に見舞われたホテルの窓からプールを写している。
撮影者らしき女性が、ここはジャマイカであり、水が押し寄せてきてプールにサメがいると実況している。
だが、この映像はAIが作ったフェイクである。ぱっと見リアルに見えるかもしれないが、よく見るとサメの形がおかしいし、水の動きも不自然。
さらにヤシの葉がハリケーンの猛烈な風でちぎれそうなほどなびいているのに、幹の方はまっすぐに立っているのだ。
次はこちらのTikTokの動画だ。洪水で川のようになった道路を、サメが猛スピードで泳いでいく。
さらに下の映像を見てもらおう。これは飛んでいる旅客機の窓から、ハリケーンの「目」を写したものとされ、キャプションにはこう書かれている。
下にある渦巻く雲がただの雲ではないと気づいた瞬間。ハリケーンだ
生成AIによる情報汚染が激化
こういったフェイク動画は、AIが一から生成したもののほかに、過去の災害の映像を加工したものや、別々のハリケーンの映像を切り貼りしたものも多いという。
良心的な投稿の中には、生成ツールの「Sora」や「VEO」などの透かしを入れてAIによる生成であることを明確にしたものもある。
だがそれはごく少数で、大半は本物のふりをして投稿された動画だ。中には透かしの入った動画を再利用し、ぼかしやトリミングを入れたものもある。
視聴者はホンモノのハリケーンによる被害映像だと誤解し、善意からフェイク動画を拡散して、パニックを広げてしまうことにもなりかねない。
AIによるフェイク動画が急速に増えている背景には、動画生成AIが手軽に使えるようになったことが挙げられる。
AI動画なら、実写やアニメーションを作るような手間もコストもかからない。経験だってほとんど不要だ。プロンプトだって生成AIに書かせればいいのだから。
そして今回のようなインパクトの大きい災害の映像は、視聴者の関心が大きく、再生数を稼ぎやすい。再生数が増えれば広告収入やフォロワーも増える。
この画像を大きなサイズで見る正しい情報が届かなくなる危険性、ジャマイカ政府が警告
問題は、こうしたフェイク動画が、ただの「冗談」では済まなくなる可能性があることだ。
リールやショート動画を流し見していると、本当のニュース映像とフェイク動画が混ざって次々に再生されてしまう。
災害時に誤った情報が拡散されてしまうと、救援要請や避難情報の伝達を妨げてしまうリスクもあるのだ。
フェイク動画を信じたために逃げ遅れたり、危険な場所に近づいてしまったりといった、命にかかわる事態にもなりかねない。
今回、ジャマイカ政府の情報担当大臣は「フェイク動画の反乱によって、市民が正しい傾向を無視してしまう危険がある」とコメントしている。
また、国際援助団体も「どの映像が現実で、どれがAIか」を検証するために時間を割かねばならず、初動の遅れにつながったとしている。
自然災害の多い日本人にとっては、決して他人ごとではない。もし大地震が起こったとき、フェイク動画で偽の情報が拡散された結果、多くの人の命が失われてしまうかもしれないのだ。
この画像を大きなサイズで見る規制や法整備が追い付かない現状にどう対処するか
生成AIの進化は、我々の想定をはるかに超えるスピードで進んでいる。法整備もルールの整備も追いつかず、結局は私たち一人ひとりの良心と判断力に頼るしかないのが現状だ。
ネットの世界には国境がなく、「日本の常識」や「空気を読むスキル」は通用しない。リスペクトや思いやりが届かない場所で、情報は無秩序に広がっていく。
今はまだ、生成AIには特有の不自然さがあり、気をつけてみればフェイクであることが読み取れる。だがこれも時間の問題で、数年後にはAIは完璧な映像を創り出してくるだろう。
今回のメリッサに関するフェイク動画の拡散を受けて、TikTokはすぐにAI生成による動画の多くを削除したと言われている。
だが、多くの動画は引き続き公開されており、さらに転載や切り抜きといった形で拡散され続けているのが現状だ。
AI研究者のヘンリー・アジダー氏によると、彼がこれまでに見たハリケーン関連のフェイク動画の多くは、政治的な意図を持つものではないという。
より伝統的な「クリック数稼ぎ」のコンテンツに非常に近いもので、つまりエンゲージメントとクリック数を獲得することが目的なんです
X（旧Twitter）では、投稿のエンゲージメント数に応じて収益を得られる仕組みがあるし、YouTubeでも再生数に応じて広告収入が入るようになっている。
また、SNSアカウントの中には、こうしたフェイク動画を利用してフォロワーを増やし、後に自分の商品やサービスを宣伝する狙いのものもあるという。
この画像を大きなサイズで見るでは、我々はどうやって、偽の情報から身を守ったらよいのだろうか。アジダー氏は次のようにアドバイスしている。
動画を投稿しているのが誰なのかを確認しましょう。もしそのアカウントの履歴に、クリックベイト（釣り）目的のコンテンツがある場合は疑った方がいいでしょう。
ただし、フェイク動画の制作者のすべてが、それを隠そうとしているわけではありません。中には単にAIで人々の関心を引きたいだけの人もいるのです
生成AIの進化はもう止まらない。今後はテクノロジーへの規制や法整備を待つだけでなく、私たち一人ひとりのリテラシーが問われることになるだろう。
だからこそ、我々も「見極める力」を進化させていかなければならない。それはこのデジタル時代における、新しい防災の形なのかもしれない。
References: PBS
東北の震災時にテレビでメルトダウンに
言及した所はなかった。ネットではあった。
テレビが不確定な情報を流せないというの
はわかる。が、結果として大事な情報が
国民に届かなかった。ネットはその穴を
保管するツール。けして安易に規制しては
イケナイと思う。
その不確定な情報に対して本人がきちんと責任を持てるんなら好きなように情報発信したらいいと思うよ？
その大事な情報とやらがある一方で無責任なデマの拡散や選挙等の誘導•操作みたいのもあるわけでね
規制はある程度考えないといけない段階に来てると思うよ
オールドメディアだから悪い、ネットだから良い、って事ではなくて
要はメディアの主体が複数無ければいけないってこと。
日本のテレビ新聞などの既成メディアが画一的な報道しかできないのは全国主要新聞が五社しかない寡頭制だから。
全国紙がだんまりなのを地方紙がちゃんと報道してるってケースはよくある。（それも業界全体の衰退で風前の灯だけど）
今のネットの言論プラットフォームもビッグテック五社の寡占だから全く同じ問題に陥っている。
アメリカの場合、ビッグテックがそのままオールドメディアの経営も乗っ取ってるケースが増えてるのでより深刻だとも言える。
だから寡占状態のネットのプラットフォーマーはちゃんと規制されなければならないし、
オールドメディアの場合にはローカルジャーナリズムをちゃんと支援しないといけない。
ほぼシャークネードやないかい
うん 元ネタのわかるフェイクはダサさ倍増
まじそれな
新作の宣伝かと思われそう
「次はどこに出るか、どんなシチュエーションかと思たけど。な～んや、以外に普通やったな」←もうすでに麻痺してるw
www
とある作品で、遊び目的で主人公をバカにしたおふざけ動画を拡散する人々を見て「インターネットに心は無い」というセリフがあったけど、本当にそんな感じ
野獣先輩とかあれも実在の人物やら会社やらに迷惑かけて権利元も嫌がってて挙げ句の果てに未成年自〇物まで出してるからな
Ｚ級映画の宣伝かい
ww
究極的にはAIを規制するしかないですけど、SNSを規制できないようにそれもまた無理でしょうから、嘘の波の中で溺れながら生きていけばいいと思いますよ。
わかどらんぞ、テレビも視聴者提供の動画を流すだろ？あれがフェイクだったらもうナニも信じられん。泣き叫ぶ幼稚園児を咥えたまま悠々と立ち去るクマの動画なんか拡散希望してみろ？いまのトレンドだからな、一気に拡散するぞ
そして本当にクマが子供を拐った事件が発生したとしても、誰も信じてくれなくなるんですよね
できの悪いAIじゃねえか
映画では空中や宇宙を飛び宇宙船すら食らうんだぜ
ここまでぶっ飛んだものでない限り受け入れん
もしかしてアメリカ人は日本人ほどシャークネードを知らなかったりするのか？
だとしたらもったいない話や
人生の半分は損してる
人生の半分はシャークネードで出来ている
ポロロッカに乗ってこないのかな
そしてこれらのフェイク映像を学習し続けるAIが延々と吐き出す更なるフェイク情報を信じてしまう人が続出する、という所までは、chatGPTが話題になった時点で多くの人々が指摘してたことだよね。
学習源を制限しないと使えなくなる。そしてそのネタ元には知的財産権が存在する。当たり前の事だけどね。最初から判ってる事だから早く規制しないと駄目なのに、お金には誰も勝てないからどうしようもないねｗ