来るべきAI戦争に備えて米国防総省がホワイトハッカーチームを設立

この画像を大きなサイズで見る

　AIは戦場でも存在感を強めつつある。そんな状況を受け、米国国防高等研究計画局（DARPA）が、AI専門のホワイトハッカーチームを設立し、米軍が採用するAIシステムの脆弱性を探っていく計画を発表したそうだ。

　このミッションは「Securing AI for Battlefield Effective Robustness」頭文字をとって「SABAR計画」という。その名の通りサーベル（洋刀）のごとき鋭さで人工知能の弱点を突き、米軍の軍事技術的な優位性の確保に貢献していくことになる。

人間を凌駕するほど賢いAIにも弱点はある

　AIの影響力は、日常生活だけでなく、軍事の領域でも急速に拡大している。偵察ドローンから自動脅威検出システムまで、すでにAIが採用されたシステムは多岐にわたっており、今後もこの勢いが続くだろうと予測される。

だが、どんなに高度なAIであっても弱点はある。

　そもそも機械学習モデルは、巧妙に操作されたデータでシステムを欺くような攻撃に弱い。たとえば、人間の視覚を模倣するコンピュータビジョンは、人間ならばすぐに見抜けるようなシグナルに騙されて、誤認することがある。

　さらに深刻なのは、大金を投じて開発されたAIが、複製されて勝手に利用されてしまう恐れだ。

　たとえば、最近中国の企業が発表したディープシークは、主流のAIに遜色のない性能があるとされる一方で、その開発費の安さが世界に衝撃を与えた。だが、その開発は既存モデルへの質問を通じて行う「蒸留」という方法なのではないかとの疑いがある。

　こうしたAIに内在する弱点は、過去10年間にわたって研究されてきたが、現実にAIを利用した軍事システムにどのような影響があるのか、はっきりしたことはわからない。

　このような弱点がよくわからないAIシステムを性急に採用すれば、当然ながらリスクをもまた抱え込むことになるが、米国国防総省がついに動き出したのだ。

この画像を大きなサイズで見る

攻撃を通じてAIシステムの脆弱性を炙り出す

　このほど国防高等研究計画局（DARPA）が発表した「SABER計画」では、各分野の専門家を集めてAI専門の「レッドチーム」が結成されることになるという。

　レッドチームとは、それが所属する組織の弱点を炙り出すために、敵の立場から自分の組織の分析し、攻撃を仕掛けるチームのことだ。

　システムにハッキングを仕掛け、問題があることを伝える善意のハッカーを「ホワイトハッカー」というが、SABERレッドチームはいわばAI専門のホワイトハッカー集団といえよう。

　差し当たってSABERレッドチームがターゲットにするのは、今後1～3年以内に配備が見込まれる地上・航空AIシステムだ。

　そのために高度な敵対的AIやサイバー・電子戦技術を駆使して、システムの脆弱性を評価し、その対策を考案していくという。

　また最終的な目標として、軍用AIが実践配備される前にそのセキュリティを評価できるような、持続可能モデルの開発が掲げられている。

この画像を大きなサイズで見る

2025年3月中旬SABERの説明会を開催

　なお、来たる2025年3月12日にはバージニア州アーリントンで、SABER計画の説明会が催されるとのこと。

　残念なことに一般公開はされず、あくまで研究者や業界関係者にその趣旨を説明するためのものになるそうだ。

　だがもしも、あなたがそんな関係者の1人ならば、どんな話だったのかカラパイアに報告し……いやいや、うっかり口をすべらせて機密を漏らさぬよう気をつけてもらいたい。

References: Darpa / Jedonline / Thedebrief

• #アメリカ
• #戦争
• #DARPA
• #システム
• #計画