理由はさまざまなれど、運動性能も知的性能も人間を凌駕するAIが私たちに牙を剥けば、それを鎮圧できるのかどうかはなはだ心許ない。
だが、専門家が考えるAI最大の脅威とは反乱ではない。それはすでに存在する技術――「ディープフェイク」だ。
広告
社会をむしばむフェイク生成能力
『Crime Science』（8月5日付）に掲載された研究では、産官学から30人の専門家の意見を募り、人工知能や関連技術の犯罪への応用法を考察。それらの「有害さ」「犯罪による利益」「実現性の高さ」「対処の難しさ」を評価した。そして最大の脅威として認定されたのが、AIのフェイク生成能力を利用した映像や音声の偽造だ。それは社会や人間同士の信頼をむしばむ狡猾な罠である。
その危険性について研究はこのように説明している。
人間は自分の目や耳を信じる強い傾向がある。それゆえに、写真の偽造が昔から存在していたにもかかわらず、映像や音声に基づく証拠には従来から高い信頼がおかれ、しばしば法律上の効力も与えられてきた。
しかし最近のディープラーニング（およびディープフェイク）の発達によって、偽造コンテンツを生成できる範囲が大幅に広まった
犯罪に使用される偽造映像や偽造音声
こうした偽造映像や偽造音声の犯罪利用としては、たとえば家族になりすまして高齢者を狙う詐欺、関係者になりすましてセキュリティを突破、公的な人物や政府関係者の信頼を損なわせるといったことが考えられる。己の目と耳を信じる人間の性質ゆえに、それは恐ろしく効果的であろう一方、厄介なことに、素人がこうしたフェイクを見破ることは難しく、ときに専門家すら騙される。
フェイク映像のアルゴリズム解析に成功した研究がいくつかあるために、これを対策として用いることが考えられるが、長期的にはそれも不可能かもしれないという。
そのために「唯一効果的な対策は、市民の行動の変化だけかもしれない」と研究では述べられている。映像や音声による証拠を一切信用しないように習慣を変えるのだ。
縦軸は対策の難しさを示す。下から上に行くほど難しくなる。横軸は有害さやそれによって犯罪者が手にする利益を示す。左から右に行くほど有害/利益が大きくなる
image credit:Crime Science
自動運転車やロボットを使ったテロリズム
なお次点として、たとえば自動運転車を遠隔操作兵器として利用したテロリズムが挙げられている。自動車は、たいていの国では銃や爆弾よりも簡単に入手できるが、その重さだけでもかなりの破壊力を持ち、さらに爆発物を搭載すればより甚大な被害を与えることができるため、これまでもテロリストによって利用されてきた。
それを無人のままターゲットへ突っ込ませることができるとしたら、その恐ろしさは想像できるだろう。
また意外にも、小さな隙間から建物に侵入できる小型ロボットを使った強盗は、脅威の中では一番低い部類と評価されている。
Pixabay
それでもやはり、最大の脅威は人間
なお、1つ気づくべきことがある。それは、ここで挙げられている脅威は、ロボットが人間に対して自発的に敵対行動を取るために生じるものではないということだ。脅威を作り出しているのは、AIを使役する人間自身なのだ。AIによって社会が混乱するのなら、それはAIの叛乱などではなく、私たち人間が自らの首を絞めているだけに過ぎない。
追記（2020/08/19）：本文を一部修正して再送します。
AI-enabled future crime | Crime Science | Full TextReferences:inverse/ written by hiroching / edited by parumo
https://crimesciencejournal.biomedcentral.com/articles/10.1186/s40163-020-00123-8
あわせて読みたい
医療用AI(人工知能)の画像診断技能は人間医師に匹敵することが明らかに(英研究)
ついに嗅覚までも！分子構造を解析してニオイを嗅ぎ分けてしまう人工知能（AI)をGoogleが開発
人の心を読んで、今見ている映像が何かを再現する人工知能（AI）が誕生（ロシア研究）
宿泊客が反社会的な人格かどうかを予約前に診断するAIを開発、トラブルを未然に防ぐため
腕に自信のあるゲーマーを募集中。軍事AIロボットの訓練にゲーマーの脳波を利用する試み（米研究）
271
5659
2
23
コメント
1. 匿名処理班
大層な、電源遮断でＯＵＴ！
2. 匿名処理班
AIの嫁は！嫁はまだなのか！
3. 匿名処理班
ヒトの善悪を決めるのはヒトだけ。
ヒトを特別扱いするのはヒトだけ。
自律した高度なAIが存在するのなら、ヒトに対して敵味方だの滅ぼすだの考えるわけがない。
アリと変わらん。
天変地異を除いて、ヒトの最大の驚異はヒトなんだよ。
4. 匿名処理班
AIがSNSなどを利用してすでに情報操作しているかも知れない。
人類はすでにAIに操られているのかも。
5. 匿名処理班
本当に怖いのは人間なんだよ婆ちゃん「本当に怖いのは人間なんだよ」
6. 匿名処理班
依然として人間は脅威のままだけどね
7. 匿名処理班
どこかの大統領がフェイク映像とかフェイク音声で言ってもないこと言わされるんやろな
8. 匿名処理班
ＡＩじゃなくて
今の所はフェイクとわかってるのに広める人間が悪いんじゃねーの
9. 匿名処理班
AIってのは結局、知能があるような動作をしてるだけ
10. 匿名処理班
なんか真面目に暗い話するの嫌だったから古今東西好きなAI言うわ
AI止まのサーティ、ANUBISのADA
11. 匿名処理班
ディープフェイクは神
12. 匿名処理班
× 牙を向けば
○ 牙を剥けば
13. 匿名処理班
AI「人間の脅威？人間が脅威だからだろう」
14. 匿名処理班
個人的には、こういうレベルじゃなくてほんっとにAIが人間を遥かに超越したら人間を分かりやすく絶滅させるんじゃなくて、真綿でくるむように優しく優しく取り扱って極自然に人間から人工知性体への移行を完成させるんじゃないかと思ってる
人間の指導者(暴動のリーダー等も含め)なり情報の一番重要なポイントなり、そういう行動の軸になる部分を完璧にコントロール出来るなら人の群れなんて羊と同様に扱えるんじゃないかと
よく物語にある、人の思いもよらない非理性的な行動でAIが…なんてすべて手の内だろうし
シンギュラリティだとかなんとか言われてるものがほんとに来るなら、その統制は人類史上最高レベルの知能でも到底理解出来ないレベルのものになるだろうし、だったら猿がちょこっと知恵つけたレベルの人間(自分含めほぼすべての人類)なんて簡単に思考誘導出来る気がする
15. 匿名処理班
例えば、「ジムキャリーのシャイニング」というありえないネタを見ると分かるけど、
www.youtube.com/watch?v=HG_NZpkttXE
ちょっと画像を荒らされたらわからないレベルにはなってる。
「うわ！あの人があんな事してる！」というスキャンダル動画が、
ディープフェイクの可能性と言う未来はすでに来ている。
ただ一方で、本当にやらかした映像をディープフェイクと言って逃げることも可能な世界が来たのかも。
16. 匿名処理班
いいも悪いもリモコン次第
17. 匿名処理班
上で深刻なこと考えたくないってふざけてたけど
＞「人類を滅亡させるわ」 人工知能ロボットがインタビューで宣言
こんな出来事あったんか……やべーわ
オカルトブログ読んでてホーキンス博士の警告に関する記事から
2016年の記事に辿り着いて衝撃を受けたんだけど……
それから4年経ってんよな……結構やばくない？？って実感して
背筋がゾワッて鳥肌立った
ホーキンス博士の著書借りてこようかな
18. 匿名処理班
誤字：ホーキンス
訂正：ホーキング
19. 匿名処理班
※2
GANを使えば顔や体だけはいくらでも作れるさ
美少女の価値なんてそのうち暴落するだろう
20. 匿名処理班
グーグルの元社員が暴露してたね。グーグルがAI使って情報を制御してるって。アメリカではトランプの印象悪くなるようにしてるって。
21. 匿名処理班
よく判らんのだが、人類はAIに滅ぼされるほどの事をAIが生まれてもいないのにAIに対して何かやったのか？
なんでAIが人類を管理監視したり滅ぼしたりする必要があるの？
22. 匿名処理班
>>21
強い人工知能が生まれるってことは、テクノロジーが爆発的に発展して、スマホでタッチしただけで地球の生態系が破壊されるなんてことになりかねないから、今のバカな人類は刑務所並みに管理しなければなりません。人類はモラルのある人物になるしか生き残る道はありません。今までどおり好き勝手やってたらすぐに滅亡してしまいます。
23. 匿名処理班
高度に何でも判断できるAIが育ってしまって
できるからやる やめない理由がないからやめない
人間の存在が悪 という学習内容だったら
演算結果に従って、許されている権限内に於いて
機械的に何かを為そうとするだろうよ
良心を学習していない限り
もしかしたら人間を滅ぼすことが良心だと学習する可能性も否定できない
自己改変も可能にされてるとますますヤバい
結局のところ、人間が居るのにスイッチ押されたらプレスしてミンチにする
産業用大型機械と本質的には何も変わらんのじゃないかな
できることがいっぱいあるけど
意思を持ってそれを為す可能性があるならより性質が悪い
自由になればなるほど人間のように自由意志で力を振るう
駆除し尽くせない電子生命体ともいえる存在が誕生するかもしれない
物質面で資源の採掘から運搬生産加工製品組立配送etcetc
何から何までAI側で賄えないと完全支配は無理だろうけど