image credit:aiornot
自動生成系AIの勢いが止まらない。文章から画像、映像にいたるまで、知らぬ間にAIが関与していたなんてこともあるわけで、精度が上がるにしたがって見分けるのが難しくなってくる。ただの雑コラですら見分けられない私なんか、もうどうすりゃいいのよ？って感じなのだが、そんな人のために、AIの痕跡を見抜くツールが開発されていたようだ。
話題の「AI or Not」は、オンライン上で画像を選ぶかURLを入力するだけで、その画像がAI生成か否かを95％の高確率で瞬時に判定してくれる。
少なくとも偽物のUFOを見抜くことはできそうだな。
広告
AIが作ったかどうか、画像を95%の精度で迅速に判別するツール
一般向けサービス開始から、あれよあれよと破竹のいきおいで世界を席巻しているAI。その精度もグングン上がっており、ネット上では、AIで生成された文章や画像が人間によるものか判断しにくい問題が物議をかもしている。そこで話題になっているのが、新興企業 Optic（オプティック）社が開発した「AI or Not」だ。
ダウンロードをせずとも、オンライン上で利用できるこのツールはある画像がAIによって生成されたのか、人間によるものかをなんと95％の精度で迅速に判別できるという。
AI or Not より。AI生成と判定されたつぶらな瞳の猫画像
image credit:aiornot
判定してもらいたい画像をアップロードすると信憑性を判断
AI or Not の使いかたは簡単。判断に迷う画像を ネット上にアップロードするか、URLを貼るか、ドラッグ＆ドロップするだけ。
image credit:aiornot
すると画像をAI製どうかを即判断。また画像に使ったAIモデルまでわかるそう。
image credit:aiornot
AI or Not は、Stable Diffusion、Midjourney V4、DALL-E、GANなどのメジャーなAIモデルの作品に精通しており、アップされた画像をウェブ上の他の画像と比較してソースを見つけ、その判断を行う。対応の画像形式はjpeg や pngだけでなくwebp、gif、tiffなど多様。サイズは最大で10Mbまで。一括画像解析も可能だ。
AI or Not によると、最先端のアルゴリズムと機械学習によりその精度は95％。判別にかかる時間は0.5秒もかからないそう。
料金は単一画像の分析が無料。大量の場合は有料。なお対応言語は今のところ英語のみ。また任意のサイト上でAI生成画像を検出できる Chrome拡張機能 Ai or Not（ベータ版・英語のみ）も提供中だ。
興味がある人は『AI or Not 公式サイト』をチェックだ。
image credit:aiornot
絵画メディアが8つの画像をさっそく検証。精度はいかに？
というか機械学習ってあたり、Ai or Notも AI ツールの一種といえそうだが、さっそく海外メディアが8つの画像を用意し、その精度の検証を行っていた。最初はAI生成の画像2枚を検証。
アメリカのAI自動画像生成サービス Midjourney（ミッドジャーニー） で作った2枚をそれぞれ AI or Not に判定させると…結果は両方とも「ganerated by AI」つまりAIによるものとの判定で正解。
AIで生成した男の子の画像
image credit:aiornot
AIで生成した男性の画像
image credit:aiornot
次は Midjourney のミックス機能で、実際の人物写真と女優を混ぜた画像2枚実在する人物 X 女優フリーダ カーロ
image credit:aiornot
実在する人物 X 女優サルマ・ハエック
image credit:aiornot
両方AIという結果に。これは正解だろう。さらに今度は人が撮った写真
すると人間のものとまた正解！
image credit:aiornot
続いて加工した女性の写真。これは人間によるものという結果に。
するってーと、AIを介さず人間が作り上げたコラは「人間」として判断されてしまうということになるのか。個人的にはそっちも何とかしてほしいものだが。
image credit:aiornot
昔に携帯で撮った実際の母子の写真だが、その判定は人間によるものとなった。もちろんこれは正解である。
image credit:aiornot
だがこの上の写真をAIでよりくっきりさせるため、AI加工ソフト「Photo Enhancer」を使用したところ、人間によるものとの結果となったようだ。
image credit:aiornot
確かに精度は高いものの100％まではいかず、元から存在する画像の解像度を上げるくらいの処理だと、判別が難しくなるようだ。
AIのフェイク画像を使った悪質な情報の拡散も現実のものに
とはいえ近年はフェイク画像の悪質な情報の拡散が現実のものとなっている。先月ツイッターで拡散し、人々を震撼させた偽画像「国防総省近くで爆発」なども現実には起こっておらず、のちにAI生成画像の疑いが報じられた。
この件に関して米国防総省本庁を管轄する現地消防も公式に否定。
フェイク情報研究者ジョン・スコット・レイルトン氏のツイート@PFPAOfficial and the ACFD are aware of a social media report circulating online about an explosion near the Pentagon. There is NO explosion or incident taking place at or near the Pentagon reservation, and there is no immediate danger or hazards to the public. pic.twitter.com/uznY0s7deL
— Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023
今朝「ペンタゴン爆発」のフェイク画像を流した認証済みアカウントの1つが、前も同じことをやってた。ちょうど先月だ。画像を精査すると生成的なAIの特徴が明らかだ。
先のAI or Not もこうしたニュースを危惧。ツイッターで呼びかけている。6/ Back to today: One of the key blue check accounts responsible for pushing today's "pentagon explosion" fake this morning has done it before.
— John Scott-Railton (@jsrailton) May 22, 2023
Just last month.
Scrutiny of the image again shows hallmarks of generative #AI. pic.twitter.com/cbyEtfD50g
最近、ローマ法王とトランプのフェイク画像に騙された人は何人いますか？AI画像生成ツールの機能が急速に進化する中、誤報のリスクは高まる一方です。AIトラスト＆セーフティ企業のOpticは歩み続けます。
How many of you got fooled by the fake images of Pope & Trump recently? With rapid evolution of capabilities of AI image generating tools, the potential for misinformation is increasing rapidly. Optic as an AI Trust & Safety company has been keeping pace. 🧵#ai #aiornot
— optic (@Optic_xyz) April 11, 2023
AI or Not 系のツールが今後も登場？何を信じりゃいいのやら
とまあ、AIよる生成物が一般向けになったのもごく最近だし、AI or Not の公称 95％も出たての割には良いほうなのかな。というか生成系AIによる精巧なフェイク画像が悪用される限り、これからもこの手の判定ツールがどんどん乱立しそう。
想像するに、今度はこうしたツールを判定するツール、さらにそのツールを判定するツールが登場するとか？で、それらをうまくかいくぐる画像を作るツールもすべて中身が同じAIだったりしたらびっくりなわけだが。
今までのネット上の画像や情報と同様、よほど信頼性が高い判定ツールが開発されない限り、結局いたちごっこめいた展開が続きそう。
AIの学習能力と生産能力からしても、人によるもの以上にリアルで真偽がつかめない生成物がネットを席巻する日も遠くなさそう。何を信じりゃいいのやらの時代はもう目前にきてるのかしら。
というか、昔ながらの手作業のコラがもしかしたら一番厄介な代物になりそうな予感すらするな。
References:designtaxi / diyphotography / aiornotなど /written by D/ edited by parumo
あわせて読みたい
サイバーセキュリティの新たなる脅威。AIが生成した偽の報告書に専門家も騙される
2026年までにネット上のコンテンツの90%がAIによって生成されると専門家
人知を超えた超知能AIを制御することは不可能。ドイツの研究者が試算
ディープフェイクを使ったなりすまし映像を見分ける方法は、横向きにさせればいい
フェイクニュースや意見の偏りがあるウェブサイトを見破るAIが開発される（米研究）
0
3947
20
46
コメント
1. 匿名処理班
盛った写真はAI認定されそう
2. 匿名処理班
AIと判定された絵と、違うと判定された絵の違いをAIに学習させればいいだけよ
3. 匿名処理班
生成AIの活用は個人的には賛成
ただ、画像や絵を見たらまず不審な点(人物画の指とか)を捜す癖を人々に植え付けてしまったのは芸術鑑賞という文化への大きなダメージだと思う
写真にしても創った画像やイラストにしてもそうだけど、ぱっと見の印象、じっくり見た印象、人々の目線の動かし方とかそういったものも意図して創作するものだけど、そういった意図が全く汲み取られなくなってしまった
4.
5. 匿名処理班
政治的な捏造はもちろん、身近で言うとキアヌが変なことしてるディープフェイクとかかなり悪質だもんな。
国際的になんらかのルールを設けた方がいい。ファイルのヘッダーとかにAI生成だということを署名しなくちゃいけないとか。
AI生成がどんどん巧妙になっていけば、極端な話、某国の陰謀論みたくビ○ラディンみたいなモデルにあることないこと喋らせて、それを口実に戦争を吹っ掛けるとかも出来てしまう。
とはいえ、巷のAI生成プログラム全部にルールを守らせることが出来るかっていうと事実上不可能だし、いよいよこれから先、なにがホントかわからなくなってくる。
6. 匿名処理班
自分で描いた絵を10枚くらい判定してもらったけど、ちゃんと人間判定してくれてよかった
7. 匿名処理班
AIによる画像、動画の処理よる高度化が進めば、その真偽の判断は困難になっていくのは必然
いずれ報道や裁判における証拠としての価値が失われていく事に対して多くの懸念が寄せられているのは至って真っ当な見解だと思った
8. 匿名処理班
自分の描いたイラストで試してみたけど
アニメ塗りだと人間判定されて厚塗りだとAI判定されたんだが。
9. 匿名処理班
同じ絵を何度か繰り返しアップしてみたけど
AI判定だったり人間判定だったりポンコツだな
10. 匿名処理班
フリーダ・カーロは画家やけど
11. 匿名処理班
the hive aiというサイトでai判別はできるよ。
どのaiエンジンを使ったかもわかるし、aiであるかに限らず、画像がセンシティブかどうかとかも数値で判別してくれる便利なサイト
12. 匿名処理班
>>5
>>ファイルのヘッダーとかにAI生成だということを署名しなくちゃいけないとか。
ルールを守ってくれる前提の性善説は悪意の前には通用しないですから
ルールを設けて守らせることが事実上不可能だという見解はごもっともかな
今よりさらに何が真実かわからない未来の到来か。。。
13. 匿名処理班
これはこれでいい技術だなぁ
14. 匿名処理班
>>3
今は新技術への過渡期だから粗製濫造だけどいずれAIならではのメッセージ性とか生まれて来るんじゃないかな
絵に対する写真術が生まれたときも似たような批判が出たけど今の写真ってプロもアマもいるわけだし
んで写実絵は現代でも細々残ってる辺りオリジナリティがちゃんとある絵師なら生き残ってくるんじゃないかなと
しかしここのコメント欄は割りと皆中立的で良いなぁ…
AI術師やってるけどtwitterとかyoutubeとか理由ないAI嫌悪が多いから嫌な気持ちになる…
15. 匿名処理班
今のAIの絵って何故か見た瞬間、あAI生成だなってなんとなく感じない？
人間の絵なんか似たり寄ったりだし。
印象でどこか不気味に感じる。
16. 匿名処理班
>>2
人間には違いはわからない
じゃあAIに判定させればって言うと、それはもうとっくにやってる
敵対的学習といって、AIが作った画像をAIに見破らせて、それを欺くさらに高精度な画像をAIに作らせて……
ってのを延々繰り返すことで高精度化したのが今のAI生成の画像
AIによる判定と学習それ自体がAI画像を作るプロセスの一部なので、それでは真偽判定はできないんだ
17. 匿名処理班
>>14
自分は絵師の立場だけどAIの台頭については特に危機感は無いし、発展した方が表現の分野に広がりが生まれると思っているよ
AIがあれば絵が不得手な人でも気軽に創作が可能になるし、描き手にとっても時短効果や違う表現の模索などの期待ができる
しかしそういった使い方が広まる前に、あまりに悪用されすぎて必要以上に敵視を集める事態になってしまったね
クリーンな学習元とそれに対する還元、そして使い手のモラルを改めていかない限り今後も燻り続けるだろうね