この画像を大きなサイズで見るAI機械学習アルゴリズムののディープラーニングを利用して、画像や動画を部分的に交換させる「ディープフェイク」技術は、もはや本物とは見分けがつかないくらい巧妙になっており、リアルタイムで顔や声まで模倣してしまうことだって可能だ。
こうしたディープフェイク技術を悪用して、他人になりすましてオンライン面接を受ける輩が出てくるのも、ある意味当然なのかもしれない。
だがその危険性は、詐欺師が他人になりすまして企業に潜入し、その機密情報を盗もうとしていると、FBIが警告するくらい深刻なものだ。
だがまだ今なら、ディープフェイクを悪用したなりすましを見破る方法はある。それは画面の相手に横顔を見せてもらうことだ。
ディープフェイクの場合、横顔を向けると顔が溶ける
フェイクを見破る方法をアドバイスしてくれたのは、Metaphysic.ai社。トム・クルーズのディープフェイクを手がけたことで知られるロンドンの新興企業だ。
同社によれば、AIには苦手な角度があるのだという。
例えば、カメラに映った顔をリアルタイムで他人のものに変えてくれる「DeepFaceLive」で、誰かになりすましたとしよう。
生成された顔はどこからどう見ても生身の人間そのものだが、頭を90度横に向けた途端、まるで顔が溶けたようにバケの皮が剥がれる。
画面の人物が横顔を見せると、AIはその顔を推測して画像を生成し、それを上に重ねていく。が、それがとても下手くそなのだ。
この画像を大きなサイズで見る学習素材が少ないことが原因
AIが横顔が苦手なのは、学習素材が少ないことが原因であるようだ。
ディープフェイクAIはストックフォトのような写真素材サイトから、人間の顔を学習する。有名人の横顔ならいくらでも出回っているので、それなりにリアルなものが作れる。
ところが一般人の横顔の写真はそれほど多くない。おかげで、リアルな一般人の横顔を生成できるほどに学習が進まないのだ。
この画像を大きなサイズで見る横顔以外で見破る方法
とはいっても、あくまで今のところはの話だ。いずれ技術が進歩すれば、AIは横顔であってもリアルなフェイクを生成できるようになることだろう。
そんな時に備えて、他にもいくつかフェイクを見破る方法を教えておこう。
1つは、画面向こうの相手に手のひらで顔を覆ってもらうというやり方だ。こうすると手の上に顔が浮き上がってくることがある。
また咳やくしゃみでも、AIがボロを出すことが多いのとのことだ。
References:To Uncover a Deepfake Video Call, Ask the Caller to Turn Sideways – Metaphysic.ai / You Can Spot Deepfakers By Getting Them To Look Sideways / written by hiroching / edited by / parumo
追記：（2022/08/25）タイトルを一部訂正して再送します。
でもそれを克服した深層学習のＡＩがあれば見抜けないってこと？
>>1
だからこそ記事の「だがまだ今なら」の文なのでしょう。
なるほど。
横向いてーとかじゃなくて、あなたの隣にさっきから映ってるの何なの？って感じで聞いてみるのね
その気になれば朝日サンゴ問題みたいな事がもっと精巧＆簡単に出来る時代になったのに
我々の意識がまだ追い付いてないのがやばすぎる
そして対策として横顔も学習要素に取り込まれてしまうと
>>4
SNSに顔を晒すことへの抑止力になったら面白いな。
広めてるってことは対策済みのソフトがあるってことだよね？
一番最初のトムはなんか変
二番目の公園のトムは違和感がない
>>7
もう関わって来ないでほしい
でもまあ、サンプリング数がネックってだけなら
それも時期に解決されてしまうでしょうねえ。
絶対！横顔を映させない芸能人のあの人。
もしかして‥‥‥
対称性とかアルゴリズム的な問題で難しいという話かと思ったらただの素材不足とは
昔は横顔が描けない漫画家って
たまに見かけたけど今はみんな
どのアングルも上手よな。
アニメ絵をCGして横にするとバケモノになるのと一緒か
こうして知らされれば、対策されるのが早まるだけのこと。
もう実物じゃないと信じられないね
※15
いつからあなたの目の前の人が実物だと錯覚していた？
なんてぇことになるかもですね。横向きにする以外にリアルタイムだと今は顔パターンを置くために元の顔の位置を検出するのね。そのために、目や鼻や口の位置検出をおこなってます。そこから考えるに目や鼻や口を隠してもらうと元の顔がでる可能性があります。
どこで見た映像か忘れましたが、男性が女性の顔に変えていてマグカップで何かを飲むと元の顔が出現するというのがありました。そんな感じになるんじゃないかと。
まあ確かに、横向きながら喋る人、あんまりいないからねぇ（笑）
有名人に成りすまして情報配信するならさておき
ビデオ会議で偽物が来たからってなんかできるとも思えんのだが、
そもそもアカウント違うから招待受けられないし
面接で顔だけよく見せて合格したとしても、実際に活動する時には詐称してたってバレるだけだし
※18
アカウントは詐取されることもあれば裏社会で取引されてることもあるし、最初から偽物だったらアカウント制にしても意味がない
そして今は在宅勤務やリモートワークが一般的な時代なのだから、オンラインでしか会ったことのない社員なんてのも普通にありえる
現に北朝鮮などのスパイが実在しないITエンジニアになりすまして企業から情報を盗み出したって事件がすでに報告されてる
「まだ今なら」の文面の通り、いずれ横顔もマスターされてしまうだろうね。
書かれてないけど、瞬きの仕方とか、目の中のハイライトが崩れてるのとか、見分けるのは他にもある。
結局、学歴取り込んだ画像を無理やり変形させて合成してるから、シャープな部分がどうしても崩れてしまう。
ディズニーとか大学とかが、さらに精細なディープフェイクの研究してるけど、今のところ研究発表程度で出てきてるだけだったはず。
美少女の皮をかぶったおっさんvtuberをサムネだけで見分ける方法とかない？
オンラインで本人確認するとき顔を左右に向けて下さいって言われて
てっきり写真とかで騙そうとする人対策なのかなと思ったらディープフェイク対策だったのか
後ろの黒いやつゴギブリじゃない？って驚かせりゃ良いわけだなw
内容とは関係ないけどタイトル「させばいい」じゃなく「させればいい」じゃない？
タイトルだけ見たときナイフか何か鋭利なもので顔刺すのかと思ったわｗ
人は元々「人を欺き出し抜き利益を得るため」に知能が進化してきた側面を持つ。冷静に考えるとディープフェイクもこすズルい詐欺師的能力を増幅する残念なものなのよね。
良く人生を送るためにもその才覚ではなく、人間としての王道を伸ばすことに執心したい。
自身の横顔に自信のあるAIなら古塔罪ツールもサクサクのカリッと上がりますよという事ですね
自分の顔にも肖像権が必要な時代になってきたなー。
良いも悪いも使う人次第だろうけど悪用する人の方が多そう,,,。