この画像を大きなサイズで見る偽の顔画像がネット上にあふれる今、私たちは画面の向こうの人物が実在するのか、それともAIが作り出した偽物なのかを見極める必要に迫られている。
最新の技術では、一目見ただけでは本物の人間と区別がつかないほどリアルな表情を作り出すことができるため、今やデジタル詐欺やなりすましの道具として悪用されている。
イギリスの研究チームが行った調査によると、何の知識もない人間がこれらを見分けようとすると、当てずっぽうで選ぶよりも低い確率でしか正解できないことがわかったという。
そこで研究チームは、わずか5分間のトレーニングを受けるだけで、AI特有の隠しきれないミスを暴き、偽画像を見破る力を劇的に向上させる訓練法を開発した。
最新のAI生成による顔画像はよりリアルに見える
イギリスのレディング大学、グリニッジ大学、リーズ大学、リンカーン大学の研究チームは、664人の参加者を対象に、生成AIである「StyleGAN3」が作成した架空の人物の顔画像と、実在する人物の顔を区別する実験を行った。
今回の調査対象は、特定の人物の顔を別の人にすり替えるディープフェイクとは異なり、最新システムである生成AI「StyleGAN3」がゼロから作り出した架空の人物画像である。
特別な知識なしにテストに挑んだ参加者のうち、一般的な顔認識能力を持つ人々の正解率は31%にとどまった。
顔認識において人口の1%ほどしか存在しない、天才的な能力を持つスーパーレコグナイザーであっても、正解率は41%という結果だった。
目をつぶって運任せに選んだ場合の確率である50%を大きく下回るこの結果は、最新のAIが描く顔が、本物の人間以上に人間らしく感じられてしまうほど精巧であることを示している。
この画像を大きなサイズで見る5分で習得できるAIの描写ミスを見抜く手法
この危機的な状況を改善するために研究チームが導入したのは、わずか5分間の短いレクチャーだ。
参加者は、AIが画像を合成する際に残してしまう隠しきれない不自然な痕跡（描写ミス）に注目するよう指導された。
例えば、背景に溶け込んだような不自然な髪の毛のパターンや、人間にはあり得ない歯の数、左右で形が合わない耳やイヤリングといった、顔のパーツや装飾品の細部をチェックする手法である。
この短時間の学習によって、参加者の見分ける力は目に見えて向上した。
スーパーレコグナイザーの正解率は64%まで上昇し、一般的な能力の人々も51%の精度で偽物を見抜けるようになった。
訓練の効果はどちらのグループにも平等に現れたが、スーパーレコグナイザーたちは単にミスを探すだけでなく、独自の視覚的な手がかりも利用して偽物を特定している可能性が示唆されている。
この画像を大きなサイズで見る人間の観察眼と検出ツールの組み合わせでより安全に
レディング大学の主任研究員であるケイティ・グレイ博士は、コンピューターが生成した顔画像がもたらす深刻なセキュリティ上のリスクを危惧している。
AIが生成した顔画像はSNSでのなりすましや本人確認システムの回避に悪用されており、人間が偽物を見抜くための方法を身につける意義は大きい。
今回の訓練プログラムは非常に簡潔であり、特別な知識がなくてもすぐに実践できることが強みだ。
将来的には、人間が持つ高い観察眼とAIによる検出ツールを適切に組み合わせることで、オンライン上の安全性をより強固なものにできると期待されている。
この研究成果は『Royal Society Open Science』誌（2024年11月12日付）に掲載された。
References: Just 5 minutes of training makes fake AI faces easier to spot / Eurekalert / Royalsocietypublishing
昔なら疑う必要もなかった
AIに毎月6000円以上課金してる自分が言うのもおかしいけど。
目に映るものすべてをそのまま信じていた時代というのも恐ろしい
そんな欠点「あっ！」という間に克服されそう、AIの暴走はもう誰にも止められない
見分け方がある！つったところでどうせすぐにそれを加味したAIが出てくるだけだからなあ。
「AIかどうか」の判別にとらわれて、「フェイクかどうか」を見逃しそう
1年前なら指の形状や本数とかAIはどうしてこんなにバカなのかと笑ってられた。
今やAIはそんな初歩的なミスは絶対にしない。
この記事で上げられてる見破り方も26年中には間違いなく克服してくるよ。
普通にミスするけど
そんなことより現実の人間の整形の見分け方や化粧のごまかしかたを見破る方法が重要
女は朝起きたら別人の顔になるからな
サムネってデトロイトだっけ？
いわゆるアニメ絵なら数回のチューリングテストで90％前後見抜けました
アニメ絵ですぐ分かるのは「これほど上手く描く人がこんなミスを放置するはずが無い」というの
あとは全体のタッチと小物のタッチが違う奇妙さとか、背景が無意味に描き込み過ぎとか視線に違和感があるとか
あと猫などの特定の文字入力に強く反応するものがあるらしく猫耳キャラの服の柄が猫状に変形してたり
よくある指の本数や髪とリボン等の細いものが融合してしまうというのは最近はレタッチで直されていることもあるので…まぁ今でも散見されますけれどね
人間の方もフォトレタッチでAI画像に近づけてるからな
やっぱりスーパーレコグナイザーってすごいんだな、かっけえ
やっぱり上2段がA Iなんだな。
気持ち悪かったから。
気分が悪くなって途中で観るのをやめたけど、AIって左右対称なんだよね、平面で。
リアルの人の顔って奥行きを足して非対称だから、AIは気持ち悪さがよくわかりやすいよ。
立体感を意識して見てみると判るかも。