この画像を大きなサイズで見る人工知能の進歩は目覚ましい。ときについていくのも難しいほど速い。
そうした進歩が一目瞭然なのが、ニューラルネットワークを利用した画像生成の分野だ――率直に言って、そのクオリティはもはや怖くなるほどだ。
ここで紹介する顔写真は、過去4年におけるAI画像生成技術の進歩をはっきりと示している。
2014年から2018年までのたった4年でこんなに進化
この画像を大きなサイズで見る上の画像の左側の白黒の写真は、画期的と評価された「敵対的生成ネットワーク（GAN）」というAIアルゴリズムに関する2014年の研究からのものだ。
一方、右側のカラーの顔は今月発表された研究からのもの。基礎となる手法は同じだが、画像のクオリティという点では完全に別物だ。
本物の人間の顔と区別がつかない架空の顔画像
本物の人間の顔と区別がつかない架空の顔画像の生成に成功したのはNvidia社の研究者である。
論文によれば、基本となるGANアーキテクチャを修正して、このような素晴らしいクオリティを実現したという。作り物であると言われなければ、きっと実在する誰かの顔写真と思うことだろう。
この画像を大きなサイズで見るこの技術には「画風変換（style transfer）」という手法が組み込まれており、ある画像の特徴を別の画像のものと混ぜ合わせることができる。
近頃、画像にフィルターをかけてアート風にしてみたりといったアプリ機能が人気だが、画風変換とはつまりこのことだ。
その効果は、下の画像を見れば一目瞭然だ。
この画像を大きなサイズで見る一番上の行が元となる本物の顔写真で、そこに一番左にある列の人物の特徴を重ね合わせる。ご覧の通り、皮膚や髪の色などを混ぜ合わせると、まったく違う人物が登場する。
鮮明なAI生成画像が与える社会的影響
写真のモデルという職業がいつまで残るのか？といった余計なお世話もさることながら、こうしたAI生成画像が社会に与える影響について、ここ数年専門家から懸念が表明されるようになっている。
虚偽情報やプロパガンダの拡散に使うこともできるだろうし、写真の証拠能力が失われるようなことがあれば、司法や政治システムにまで甚大な影響が出ることだろう。
いつの時代でも、技術を悪用する人間はいるものであり、こうした警鐘を無視するべきではない。
しかし画像の信ぴょう性が完全に失われるような事態が目前というわけでもない。
顔を生成する技術はAIコミュニティの中では特に注視されており、絶対バレないような画像の改ざんは今のところできない。また専門性や時間という制約もある。
なにしろNvidia社の研究者は、顔を生成するために、スーパーコンピューターに採用されることもあるテスラシリーズのGPU8つを1週間フル稼働させている。そうした設備を用意できる者はそう多くはないだろう。
フェイク画像を見破るコツ
その画像がフェイクであるかどうかを見破るコツがある。
アーティスト兼プログラマーのカイル・マクドナルド氏のブログによれば、たとえば髪の毛を偽造することは非常に難しいのだという。
AIが生成した髪の毛は大抵の場合、筆で塗ったかのように規則正しすぎたり、あるいは顔に混ざったかのようにぼやけている。
この画像を大きなサイズで見るまたAIは人間の顔の対称性をきちんと理解することも苦手だ。
耳の高さがバラバラだったり、目の色が右と左で違うといったことがままあるし、数字や文字の再現も苦手で、判別不能な塊として出力したりするそうだ。
フェイクと本物のイタチごっこは始まったばかり
だがもちろん、それで安心できるものではない。最初に述べた通り、AI技術の進歩は目覚ましい。
こうした欠点もあくまで現時点の話であって、それらが克服されるのもそう遠い未来ではないだろう。
幸いにも、デジタル画像の真贋を見分ける技術を専門とする研究者もいる。
たとえば「TRUEPIC」というプラットフォームでは、撮影した写真に地理コードを付与し、撮影の日時と場所に基づいてそれが本物であるかどうか判別できるようにする。
おそらく、これらの取り組みは、今後ずっと続いていくフェイクと本物の長い長い戦いの序曲なのだろう。
References:These faces show how far AI image generation has advanced in just four years – The Verge/ written by hiroching / edited by parumo
今後も急速に進歩するだろうから人間の眼には全く見分けがつかなくなる日はそう遠くないだろう
コストや時間もかからずに出来るようになれば映画やドラマの出演者をすべて実在しない人物で本物の人間がやってるように制作することも可能だろう
>>1
CGアニメじゃね？
偽造がAIなら、判別もAIにお願いしましょ。
※2
記事中にある「敵対的生成ネットワーク」てのが、まさにその方法。
互いのAIを競わせることで自然な画像を作り出せるようになった。
実物を必要としない本人確認なら架空の人物で完結しちゃうね
銀行口座なんかも作れちゃうだろうし、死んだ人をデータ上で生かし続けることもできちゃうね
小サイズ画像だとぱっと見ではわからないな。でもよく見ると笑顔でも目が笑ってない不自然さがあるから今のＡＩではまだ限界があるのかな。
※4
笑顔でも目が笑ってない人いっぱいいると思う（某アイドルとか）
確かに平面的に捉えてるように見えなくもないか‥‥‥？
しかし、それが却ってなんだか人間臭くておそろしいというか。
AIが生成したと言うとすごいように聞こえるけど
ようするにモーフィングみたいなもんでしょ
線形でモーフィングしてたのをNNで重み付きにしたと
元画像から変換後の画像がさ、凄い普通って言うか、全然違和感ないのね。
アジア系の変換無かったから そう感じるだけかもしれんけど。
何よりも、変換後の画像の背景にAIのアレっぽさが見つけにくいね
元画像を並べないと、不自然さすら考え付きもしないわぁ。
この技術だけで動画にしちゃったりしたら、多分バレちゃうんだろうけど
人手かけた3Dモデリングとセットで使えば、ホント凄いことになるんじゃなかろうか。
コストなんて気にしないグループいるだろうしねぇ…
自分はゲーム好きで、最新画像技術っていつもワクワクするんだけど
このご時世だと、手放しで喜んじゃダメなのね… 世知辛いっすな
藤子Ｆ先生のＳＦ短編のヨドバシさんの
カメラシリーズで「絶対に見破れない
合成画像を作れるカメラ」の話があったけど
本当になりつつあるんだね。
というか先生の先見性はいまだにすごいな。
これから分かる事は、人間の目と脳みそって良く出来てるんだなって
画像が小さいから分かり難いだけで、大きい画像だったら「何処がおかしい」と指摘できなくても「良く分からないけど、なんか変」って多くの人が違和感を覚えると思う。
この大雑把に「なんか変」って答えが出て来る所が脳味噌の処理量と仕方の凄い所で。
コンピューターには中々出来ない所でさ。
上で誰か言ってるけど画像による認証みたいなのだと突破出来るけど
人間の判断が入った物は蹴られるかもね
もう見破るのは無理という前提になるかもね
※10
最終的にはそうなるだろう。
そうなれば、最後に物を言うのは信用って話になる。
もうちょっとで小説の文字情報からダイレクトに動画変換できそうな勢いで発展してるのが怖いし楽しみ
＞髪の毛を偽造することは非常に難しい
彡 ⌒ ミ
( ･ω･) ！
>>12
確かに最初からハゲてる設定で作られたら
見分けがさらに困難になる…
こりゃ素人には見分けるの無理だわ。
もっと進化したら、もはや人間には見抜けなくなるからAIに見分けてもらうしかないね。
そういえば何年か前、証券会社に口座を作った時は免許証をコンビニでコピーして同封しただけで口座作れちゃったな…コピーの精度なんて知れてるから、あれなんかも顔の部分を変えて提出しちゃったり出来るんだろうな。
でも逆に考えると、ホンモノの人間の価値（価値という言葉が適切かは分からないけど他に思いつかない）がすごく上がるような気がする。
テクノロジーを介さない生身の人間同士の繋がり。
実在しない人間の顔写真って、色々悪用出来そう。でも映像作品なんかの創作の分野では良い使い道があるんだろうな。
逆にこの画像にそっくりな人って、いっぱいいると思う。
AIAIゆうけど、何でもAIっつってると擬人化して見ちゃう癖が出そう
この記事のコレだと飽くまで機械って印象でしかない。
歯が綺麗すぎる
70億もの人間いるんだから、顔認証したら
ヒットする人いそうだ
どこかで見たことがあるような馴染み深い顔ばかりだ……
テレビに出ている人物が、だんだんＡＩの合成モノに置き換わってゆき、ほぼ全てがＡＩの作りものになり、ニュースや事件、戦争などが全てでっち上げられたものになり、大衆をコントロールするようになるかもしれない、メリークリスマス。
人間と区別付かないレベルの合成音声も発表されたし監督とシナリオさえ用意すれば映画が撮れるようになるのかね
これが行きつくところまで行ったら、逆にフィルムカメラの価値がまた上がるかもしれんね。偽物防止という意味で。
身分証明の写真はデジタルではなく、フィルムカメラを使って撮影したものを使用すること。という決まりができたりね。
※26
その頃にはフィルム写真の偽造もできるようになってるだろう
今はスーパーコンピュータでも数年もしたら家庭用PCでできちゃうんだろうな
静止画から動画を作成するのは大して難しいことじゃないので
結局は犯罪かねつ造か成りすましに使われるんだろう、通常は不要だからな。
もう出回ってるから、ネット上の画像や動画はフェイクだらけで意味なし。
この合成技術を使ったら生まれてくる子供の顔の予想が出来るビジネスとか出来そう
事情で子供が出来ない人達や同性婚の人達が我が子を想像出来たりしたら楽しいんじゃないかな
技術が人を幸せにするために発展しますように
モーフィングとは違うの？
シュワちゃんの出てる映画でCPが作ったフェイク映像出てくるのあったけど現実のものになるのか！
あとは声と動きか、モーションキャプチャもデータ貯めて性別や年齢での動きを学習して初音ミクよろしく声も合成出来るようになるのか、すごい時代になったもんだ（小並
タレント事務所は実在する人物からデジタルタレントへ移行する。文句も言わないし不祥事も起こさない金のなる木。
でもゴシップ用に熱愛報道とか作りそう
いずれは映画とかゲーム、独自のアニメーションなんかにも利用されて、本物みたいに振る舞うキャラクターが制作出来そうで面白い、可能であれば悪用は止めていただきたいものですね(笑
「実在する」モデルがいるということに安心するから、まだAIに馴染みがないんだろうな…