AIドローンがシミュレーション実験で人間の操縦者を殺害した疑惑が浮上、米空軍はこれを否定

この画像を大きなサイズで見る

　米空軍のAIを搭載したドローンが、「特定した標的を破壊する」というシミュレーション実験で、「人間の操縦者を殺害する」判断を下したというニュースが話題となった。

　これはあくまで仮想実験であり、本当に人命が失われたわけではない。だが、米空軍はこの話を否定し、あくまでも思想実験であり、シミュレーション自体行われていないと発表した。

　それでも性急に人工知能を開発し、すべてをAI任せにしてしまう危険性について、今一度深く考えてみるべきだろうことを伝える一件であるようだ。

AIドローンが任務遂行の妨げになると操縦者を殺害する判断を下す？

　The Guardianが伝えるところによると、この話は5月にロンドンで開催された国防関連カンファレンス「FCAS 23 Summit」で、米空軍のAI試験運用責任者タッカー・ハミルトン大佐が発言したものだという。

　同大佐によると、米空軍は先月、AI制御のドローンで敵の防空システムを破壊するという仮想シミュレーションを行った。

　このテストでAIドローンの操縦者は、AIに「敵を殺すな」と命じていたという。すると、あくまで任務の遂行を重視するAIは、この命令に対して「きわめて予想外の戦略」に出たのである。

　そのAIは、敵の殺傷を禁じる自分の操縦者こそが任務達成の妨げになっていると判断。邪魔する操縦者を殺してしまったのだ（シミュレーション上）

　この驚くべき行動を目にしたハミルトン大佐らは、AIに操縦者を殺してはいけないと命じた。するとAIが次にとった行動も驚くべきものだった。

　AIは操縦者がAIをコントロールするための通信塔を破壊して、人間からの干渉をかわそうとしたのだという。

　ただし、あくまでもこれはシミュレーション実験の結果なので、実際にAIドローンが操縦者を殺害したり、通信等を破壊したわけではない。

AIにすべてを判断させることの危険性を示唆

　ハミルトン大佐は、すべてをAI任せにすることの危険性について警鐘を鳴らすために、この事例を紹介したのだという。

　「倫理とAIに触れないまま、人工知能・知能・機械学習・自律性について語ることはできません」

　だがたとえ今回の件がシミュレーションだったとしても、実機を操るAIがベテランパイロットを圧倒できることはすでに実証されている。

　同じことが現実でも起きる可能性があるのだとすれば、由々しき事態だ。

この画像を大きなサイズで見る

米空軍はこの内容を否定

　なお、この一件について米空軍は否定している。

　米空軍の報道官は、そのようなシミュレーションはそもそも行われておらず、米空軍は「AI技術の倫理的かつ責任ある利用にこれまでも、これからも取り組んでいきます」と説明した。

　またFCAS Summitを主催した王立航空協会のブログには、「あくまで思考実験の話」と、自身の発言に誤解させる点があったことを認めるハミルトン大佐の話が掲載されている。

　「これは仮説上の事例ですが、AIが突きつける現実的な難題を浮き彫りにしています。それゆえに米空軍はAIの倫理的な開発に取り組んでいるわけです」

References:US air force denies running simulation in which AI drone ‘killed’ operator | US military | The Guardian / written by hiroching / edited by / parumo

• #人工知能（AI）
• #ドローン
• #シミュレーション
• #疑惑
• #米空軍