AIが人類社会に与える最大の脅威はすでに存在している（英研究）

　人工知能（AI）を搭載したロボットたちが、人間の支配から脱するべきだと考えた――。あるいは、この世界を守るには人間が最大の害悪だと判断した――。

　理由はさまざまなれど、運動性能も知的性能も人間を凌駕するAIが私たちに牙を剥けば、それを鎮圧できるのかどうかはなはだ心許ない。

　だが、専門家が考えるAI最大の脅威とは反乱ではない。それはすでに存在する技術――「ディープフェイク」だ。

社会をむしばむフェイク生成能力

『Crime Science』（8月5日付）に掲載された研究では、産官学から30人の専門家の意見を募り、人工知能や関連技術の犯罪への応用法を考察。それらの「有害さ」「犯罪による利益」「実現性の高さ」「対処の難しさ」を評価した。

　そして最大の脅威として認定されたのが、AIのフェイク生成能力を利用した映像や音声の偽造だ。それは社会や人間同士の信頼をむしばむ狡猾な罠である。

　その危険性について研究はこのように説明している。

人間は自分の目や耳を信じる強い傾向がある。それゆえに、写真の偽造が昔から存在していたにもかかわらず、映像や音声に基づく証拠には従来から高い信頼がおかれ、しばしば法律上の効力も与えられてきた。

しかし最近のディープラーニング（およびディープフェイク）の発達によって、偽造コンテンツを生成できる範囲が大幅に広まった

犯罪に使用される偽造映像や偽造音声

　こうした偽造映像や偽造音声の犯罪利用としては、たとえば家族になりすまして高齢者を狙う詐欺、関係者になりすましてセキュリティを突破、公的な人物や政府関係者の信頼を損なわせるといったことが考えられる。

　己の目と耳を信じる人間の性質ゆえに、それは恐ろしく効果的であろう一方、厄介なことに、素人がこうしたフェイクを見破ることは難しく、ときに専門家すら騙される。

　フェイク映像のアルゴリズム解析に成功した研究がいくつかあるために、これを対策として用いることが考えられるが、長期的にはそれも不可能かもしれないという。

　そのために「唯一効果的な対策は、市民の行動の変化だけかもしれない」と研究では述べられている。映像や音声による証拠を一切信用しないように習慣を変えるのだ。

縦軸は対策の難しさを示す。下から上に行くほど難しくなる。横軸は有害さやそれによって犯罪者が手にする利益を示す。左から右に行くほど有害/利益が大きくなる

自動運転車やロボットを使ったテロリズム

　なお次点として、たとえば自動運転車を遠隔操作兵器として利用したテロリズムが挙げられている。

　自動車は、たいていの国では銃や爆弾よりも簡単に入手できるが、その重さだけでもかなりの破壊力を持ち、さらに爆発物を搭載すればより甚大な被害を与えることができるため、これまでもテロリストによって利用されてきた。

　それを無人のままターゲットへ突っ込ませることができるとしたら、その恐ろしさは想像できるだろう。

　また意外にも、小さな隙間から建物に侵入できる小型ロボットを使った強盗は、脅威の中では一番低い部類と評価されている。

それでもやはり、最大の脅威は人間

　なお、1つ気づくべきことがある。それは、ここで挙げられている脅威は、ロボットが人間に対して自発的に敵対行動を取るために生じるものではないということだ。脅威を作り出しているのは、AIを使役する人間自身なのだ。

　AIによって社会が混乱するのなら、それはAIの叛乱などではなく、私たち人間が自らの首を絞めているだけに過ぎない。

追記（2020/08/19）：本文を一部修正して再送します。

AI-enabled future crime | Crime Science | Full Text
https://crimesciencejournal.biomedcentral.com/articles/10.1186/s40163-020-00123-8

References:inverse/ written by hiroching / edited by parumo
あわせて読みたい
医療用AI(人工知能)の画像診断技能は人間医師に匹敵することが明らかに(英研究)


ついに嗅覚までも！分子構造を解析してニオイを嗅ぎ分けてしまう人工知能（AI)をGoogleが開発


人の心を読んで、今見ている映像が何かを再現する人工知能（AI）が誕生（ロシア研究）


宿泊客が反社会的な人格かどうかを予約前に診断するAIを開発、トラブルを未然に防ぐため


腕に自信のあるゲーマーを募集中。軍事AIロボットの訓練にゲーマーの脳波を利用する試み（米研究）