image credit:Metaphysic.ai
AI機械学習アルゴリズムののディープラーニングを利用して、画像や動画を部分的に交換させる「ディープフェイク」技術は、もはや本物とは見分けがつかないくらい巧妙になっており、リアルタイムで顔や声まで模倣してしまうことだって可能だ。こうしたディープフェイク技術を悪用して、他人になりすましてオンライン面接を受ける輩が出てくるのも、ある意味当然なのかもしれない。
だがその危険性は、詐欺師が他人になりすまして企業に潜入し、その機密情報を盗もうとしていると、FBIが警告するくらい深刻なものだ。
だがまだ今なら、ディープフェイクを悪用したなりすましを見破る方法はある。それは画面の相手に横顔を見せてもらうことだ。
広告
ディープフェイクの場合、横顔を向けると顔が溶ける
フェイクを見破る方法をアドバイスしてくれたのは、Metaphysic.ai社。トム・クルーズのディープフェイクを手がけたことで知られるロンドンの新興企業だ。
DeepTomCruise Tiktok Breakdown
同社によれば、AIには苦手な角度があるのだという。
例えば、カメラに映った顔をリアルタイムで他人のものに変えてくれる「DeepFaceLive」で、誰かになりすましたとしよう。
生成された顔はどこからどう見ても生身の人間そのものだが、頭を90度横に向けた途端、まるで顔が溶けたようにバケの皮が剥がれる。
画面の人物が横顔を見せると、AIはその顔を推測して画像を生成し、それを上に重ねていく。が、それがとても下手くそなのだ。
image credit:Metaphysic.ai
学習素材が少ないことが原因
AIが横顔が苦手なのは、学習素材が少ないことが原因であるようだ。ディープフェイクAIはストックフォトのような写真素材サイトから、人間の顔を学習する。有名人の横顔ならいくらでも出回っているので、それなりにリアルなものが作れる。
ところが一般人の横顔の写真はそれほど多くない。おかげで、リアルな一般人の横顔を生成できるほどに学習が進まないのだ。
image credit:Metaphysic.ai
横顔以外で見破る方法
とはいっても、あくまで今のところはの話だ。いずれ技術が進歩すれば、AIは横顔であってもリアルなフェイクを生成できるようになることだろう。そんな時に備えて、他にもいくつかフェイクを見破る方法を教えておこう。
1つは、画面向こうの相手に手のひらで顔を覆ってもらうというやり方だ。こうすると手の上に顔が浮き上がってくることがある。
また咳やくしゃみでも、AIがボロを出すことが多いのとのことだ。
References:To Uncover a Deepfake Video Call, Ask the Caller to Turn Sideways - Metaphysic.ai / You Can Spot Deepfakers By Getting Them To Look Sideways / written by hiroching / edited by / parumo
追記：（2022/08/25）タイトルを一部訂正して再送します。
あわせて読みたい
人間は、AIが生成した顔の方が本物の顔より信頼できると感じていることが判明
AI画像合成技術で自分の顔を使用され、アダルトビデオに出演させられてしまうサイトに専門家が警鐘
死者を蘇らせることができるAIツールが誕生。1枚の写真をアップするだけで滑らかに表情が動く
白馬に乗った宇宙飛行士？希望のワードを入力するだけでその通りの画像を生成する脅威のAIが誕生
新しいAIの読解力がついに高校生と肩を並べるレベルに
0
3947
20
45
コメント
1. 匿名処理班
でもそれを克服した深層学習のＡＩがあれば見抜けないってこと？
2. 匿名処理班
なるほど。
横向いてーとかじゃなくて、あなたの隣にさっきから映ってるの何なの？って感じで聞いてみるのね
3. 匿名処理班
その気になれば朝日サンゴ問題みたいな事がもっと精巧＆簡単に出来る時代になったのに
我々の意識がまだ追い付いてないのがやばすぎる
4. 匿名処理班
そして対策として横顔も学習要素に取り込まれてしまうと
5.
6. 匿名処理班
広めてるってことは対策済みのソフトがあるってことだよね？
7. 匿名処理班
一番最初のトムはなんか変
二番目の公園のトムは違和感がない
8. 匿名処理班
>>4
SNSに顔を晒すことへの抑止力になったら面白いな。
9. 匿名処理班
でもまあ、サンプリング数がネックってだけなら
それも時期に解決されてしまうでしょうねえ。
10. 匿名処理班
絶対！横顔を映させない芸能人のあの人。
もしかして‥‥‥
11. 匿名処理班
対称性とかアルゴリズム的な問題で難しいという話かと思ったらただの素材不足とは
12. 匿名処理班
昔は横顔が描けない漫画家って
たまに見かけたけど今はみんな
どのアングルも上手よな。
13. 匿名処理班
アニメ絵をCGして横にするとバケモノになるのと一緒か
14. 匿名処理班
こうして知らされれば、対策されるのが早まるだけのこと。
15. 匿名処理班
もう実物じゃないと信じられないね
16. 匿名処理班
まあ確かに、横向きながら喋る人、あんまりいないからねぇ（笑）
17. 匿名処理班
>>1
だからこそ記事の「だがまだ今なら」の文なのでしょう。
18. 匿名処理班
有名人に成りすまして情報配信するならさておき
ビデオ会議で偽物が来たからってなんかできるとも思えんのだが、
そもそもアカウント違うから招待受けられないし
面接で顔だけよく見せて合格したとしても、実際に活動する時には詐称してたってバレるだけだし
19. 匿名処理班
「まだ今なら」の文面の通り、いずれ横顔もマスターされてしまうだろうね。
20. 匿名処理班
※15
いつからあなたの目の前の人が実物だと錯覚していた？
なんてぇことになるかもですね。横向きにする以外にリアルタイムだと今は顔パターンを置くために元の顔の位置を検出するのね。そのために、目や鼻や口の位置検出をおこなってます。そこから考えるに目や鼻や口を隠してもらうと元の顔がでる可能性があります。
どこで見た映像か忘れましたが、男性が女性の顔に変えていてマグカップで何かを飲むと元の顔が出現するというのがありました。そんな感じになるんじゃないかと。
21. 匿名処理班
書かれてないけど、瞬きの仕方とか、目の中のハイライトが崩れてるのとか、見分けるのは他にもある。
結局、学歴取り込んだ画像を無理やり変形させて合成してるから、シャープな部分がどうしても崩れてしまう。
ディズニーとか大学とかが、さらに精細なディープフェイクの研究してるけど、今のところ研究発表程度で出てきてるだけだったはず。
22. 匿名処理班
美少女の皮をかぶったおっさんvtuberをサムネだけで見分ける方法とかない？
23.
24. 匿名処理班
オンラインで本人確認するとき顔を左右に向けて下さいって言われて
てっきり写真とかで騙そうとする人対策なのかなと思ったらディープフェイク対策だったのか
25. 匿名処理班
後ろの黒いやつゴギブリじゃない？って驚かせりゃ良いわけだなw
26. 匿名処理班
※18
アカウントは詐取されることもあれば裏社会で取引されてることもあるし、最初から偽物だったらアカウント制にしても意味がない
そして今は在宅勤務やリモートワークが一般的な時代なのだから、オンラインでしか会ったことのない社員なんてのも普通にありえる
現に北朝鮮などのスパイが実在しないITエンジニアになりすまして企業から情報を盗み出したって事件がすでに報告されてる
27. 匿名処理班
内容とは関係ないけどタイトル「させばいい」じゃなく「させればいい」じゃない？
タイトルだけ見たときナイフか何か鋭利なもので顔刺すのかと思ったわｗ
28. 匿名処理班
人は元々「人を欺き出し抜き利益を得るため」に知能が進化してきた側面を持つ。冷静に考えるとディープフェイクもこすズルい詐欺師的能力を増幅する残念なものなのよね。
良く人生を送るためにもその才覚ではなく、人間としての王道を伸ばすことに執心したい。
29. 匿名処理班
自身の横顔に自信のあるAIなら古塔罪ツールもサクサクのカリッと上がりますよという事ですね
30. 匿名処理班
>>7
もう関わって来ないでほしい
31. 匿名処理班
自分の顔にも肖像権が必要な時代になってきたなー。
良いも悪いも使う人次第だろうけど悪用する人の方が多そう,,,。