この画像を大きなサイズで見る中国軍（中国人民解放軍）の戦略支援部隊に所属する研究チームが、戦場で潜在的な敵の人間の行動を予測する軍事AIを訓練しているそうだ。
その特徴は、バイドゥの「文心一言（Ernie）」やアイフライテックの「訊飛星火（Spark）」といったChatGPTのような、市販の大規模言語モデル（LLM）を使用していること。
軍事AIは戦場に関するデータを用いて、こうした規模言語モデルと議論を交わし、敵側の人間が次にどのような一手を取るのか予測するという。
戦場で敵側の人間の行動予測する軍事AI
中国の軍事AI（人工知能）は、前線部隊からもたらされた大量のセンサーデータや報告書を与えられると、その情報を文心一言や訊飛星火といった市販のAIチャットボットに渡す。
そこから敵の人間がとるだろう次の行動について、様々なシミュレーションを重ねながら予測するという。
このプロジェクトは、解放軍信息工程大学のソン・イフェン氏らによるもので、その詳細は昨年12月に中国の学術誌『Command Control & Simulation』に掲載された。
研究チームによれば、このプロジェクトは人間と機械どちらにとってもメリットがあるものだという。
人間側は意思決定を支援するツールが手に入り、機械側は戦闘の知識を洗練させて、戦闘認知レベルを向上させることができる。
これは、中国軍が市販の大規模言語モデルの使用を認めた初めての事例でもある。
論文において、軍事AIと大規模言語モデルの関係について、具体的なことは触れられていない。一方、この研究は予備的なもので、あくまでも研究目的だったことが強調されている。
この画像を大きなサイズで見る人間の行動原理を理解した軍事AIを作り上げる試み
今回の研究の主な狙いの一つは、軍事AIをより人間に近い存在にし、人間の指揮官の意図をより正確に理解できるようにすることだ。
これが重要なのは、人間の気まぐれさや適応能力が、しばしばAIの予測の斜め上をいくことがあるからだ。
そこで大規模言語モデルを組み込み、より人間らしさを学習させることで、人間の行動をより的確に予測できるようにしようというのだ。
実際それが有効だったことを裏付ける証拠もある。
それは2011年の米軍によるリビア侵攻をシミュレートした実験の結果だ。AIは文心一言に、両軍の武装や配置に関する情報を与え、対話を行った。それによって、米軍の次の動きを見事に的中させたという。
論文では次のように述べられている。
最高位の生命体である人間であっても、認識力は完璧ではなく、頑固なまでの信念、すなわちバイアスを持つことが多い。
ゆえに戦場におけて脅威の過大評価や過小評価をしたりすることもある。機械が人間の状況認識を支援することは、開発の方向性として重要なものだ
この画像を大きなサイズで見る現時点で、中国の軍事AIはまだまだ完璧ではない。市販の大規模言語モデルは戦争用に作られたものではないため、予測が一般的すぎて戦場で役に立たないという可能性もある。
この弱点を補うために、研究チームは軍用AIで訊飛星火によって分析されたマップを作成するといった工夫を行っている。
これにより大規模言語モデルの性能が向上し、より実用的な予測ができるようになったという。
研究チームによると、今回公開されたものは、この野心的なプロジェクトの氷山の一角に過ぎないとのこと。
こうした動きが、人類が機械と絶望的な戦いを繰り広げるターミネーターの世界線に続いていないことを願わんばかりだ。
References:China have built an AI army general using LLMs like ChatGPT / China’s military lab AI connects to commercial large language models for the first time to learn more about humans | South China Morning Post / written by hiroching / edited by / parumo
どうすれば敵を作らなくて済むかをAIに考えてもらった方がいいんじゃない？
どうすれば勝てるか教えてくれるAIじゃなく、どうすれば戦わなくて済むか教えてくれるAIが先に出来て欲しい
我々はどこから来たのか 我々は何者か 我々はどこへ行くのか
NTの戦争利用と同じやな
お互いを理解し合えば争いなんてなくなる
んじゃなくてその想いを利用して先読みすれば有利になるってことやん
あー知ってる、いつの間にか暴走したAI自身のために戦わされるヤツだ
味方を敵判定しそうで怖いな
もう実際に戦わなくてもこのAI達がシミュレーション勝負するだけでいいんじゃ
戦うこと前提なんだ。
やる気満々だね。
大規模言語モデルも、「～という問いかけ」には「～と返している」ということを学習して文字列を表示しているわけだから、相手の思考を読むのは確かに適しているかもしれない。
ただし思考の元になる学習モデルをどのように数を稼ぐかが不明だけど。
実効性がゼロだな
敵側の武装や配置に関する情報を与えることは不可能なんだから
これ実用性はないだろうな
いくらAIだろうがルーデル、シモ・ヘイヘ、船坂弘クラスのリアルチート持ちが出てきたら対策不可能だろうし、もしもできても下級の一般クラス程度の対策くらいしかできないだろうから
AI「人間がいなければ争いは無いのに、、、、」
アシモフの三原則を組み込んでおけ
どれだけ精度が高くてもAIの予測に命を預けるにはまだまだ技術不足だよ、俺なら絶対ヤだね
アメリカの戦闘機でAIをテストしたとき「相手を殺さずに無力化せよ」と命令したら「殺すのが最適解だろ」と命令した味方を排除しようとした、という記事がカラパイアにあったな。
このAIも優秀であればあるほど「無能な味方なんていないほうがマシ」という結論に達するんじゃなかろうか。
こういうヤル気も宇宙やら深海やらの方に向けてくれと常々思うけど…犯罪抑止とかなら分かるけど…。
何でかねぇ…。
ハッキングとかじゃないのか。
てか、何が何でも戦争したいのはなんで？
AIに誰がこの不毛な戦争を起こしていて誰を不利にすれば余計な争いが終わるかを判断できる知能がつけばその原因になってるとこをわざと負けさせてくれると思うんだけどまだ難しいかねえ