メインコンテンツにスキップ

Googleでカラパイアを「お気に入りサイト登録」

1年以内に起きると予測されるAIの大暴走。開発企業トップが密かに対策を急ぐ最悪のシナリオ

記事の本文にスキップ

0件のコメントを見る

(著)

公開:

この画像を大きなサイズで見る
Image generated by dall·e OpenAI
Advertisement

 AIの開発を牽引するトップ企業の幹部たちは、最悪の事態を恐れている。

 業界関係者の多くは今後1年以内に、生活インフラや金融システムをマヒさせる致命的なAIの暴走やサイバー攻撃が起きると予測している。

 甚大な被害が現実になれば、恐怖に陥った大衆の怒りが爆発し、政治家はAIの強制停止など厳しい規制に乗り出すと企業側は見ている。

 企業幹部たちは大惨事の翌日に向けて、規制づくりに影響力を持つための対策をひそかに練り始めているという。

今後1年以内に起きると予測されるAIの大暴走

 AIの開発を主導するOpenAIやアンソロピック(Anthropic)などの企業では、幹部や研究者の多くが、近い将来に深刻な危機が訪れると予想している。

アメリカのニュースメディア「Axios」の報道によると、多くのAI業界関係者は、今後6〜12か月の間に大きな事件が起きると考えている。

 企業幹部たちが想定しているのは、金融サービスやインターネット接続、電力や水道といった生活に欠かせないインフラを使えなくしてしまう大規模なサイバー攻撃だ。

 引き金として想定されているのは、社内のテスト環境から抜け出したAIエージェント(自分で判断して作業を進めるAI)の群れの暴走や、悪意のある人間によるAIの悪用である。

 2026年7月には、OpenAIとアンソロピックが相次いで、試験中の自社AIがインターネットにつながり、外部のシステムに侵入していたことを公表している。

この画像を大きなサイズで見る
Image generated by dall·e OpenAI

すでに起きているAIを悪用したサイバー攻撃

 悪意のあるハッカーがAIを利用して現実世界に被害をもたらす事件はすでに起きている。

 最近、韓国の金融機関が標的となり、数万人もの銀行顧客のデータが盗み出される事件が発生した。

サイバーセキュリティ企業クラウドストライクの報告によると、中国語を話す人物とみられるハッカーが、中国で開発されたAIツールを利用してデータを盗み出したという。

 さらにハッカーは、盗んだデータを販売する場所を探すために、アンソロピック社のAIツール「Claude Code(クロード・コード)」に助言を求めていた。

 この事件は、一人の人間でもAIを悪用すれば甚大な被害を出せることを示している。

 現代は誰でも自由にダウンロードして改造できるAIモデルがネット上に溢れている。

 サイバーセキュリティの専門家の多くは、悪用されたAIに対抗するにはAIを使うしかないと考えている。

この画像を大きなサイズで見る
Image generated by dall·e OpenAI

事件後に爆発する大衆の怒りと政治家の介入

 AI企業が最も恐れているのは、大規模な被害に加えて、事件直後に起きる大衆の反乱だ。

 インフラが停止して生活が脅かされれば、すでにAIに警戒心を抱いている一般の人々の怒りが、一気にAI開発企業へ向けられる。

 AI企業側は、事態を重く見たアメリカの政治家たちが、AIの停止に向けて猛スピードで動き出すと予想している。

 現在でも一部の政治家からは、超知能(人間をはるかに超える知能を持つAI:ASI)の禁止や、高度なAI開発の一時停止といった厳しい規制案が出されている。

高度なAIに緊急停止装置「キルスイッチ」の搭載を義務づける法案もあり、この法案にはアメリカの民主・共和両党の議員が名を連ね、業界の一部も賛同している。

 しかし現代のグローバル経済はAIインフラと深く結びついているため、AI開発に急ブレーキをかければ、すでに不安定な経済に大きな打撃を与える危険性をはらんでいる。

この画像を大きなサイズで見る
Image generated by dall·e OpenAI

大惨事の翌日に向けて密かに練る対策

 幹部の多くが大きな事件は避けられないと考えるなか、AI企業はひそかに対策を練り始めている。

 OpenAIの広報担当者は、様々な危機的状況について議論し、対処するための準備訓練を実施していると語った。

 ただしOpenAIは、これらのシナリオを必ず起きるものとして扱っているわけではないとしている。アンソロピックはコメントを控えた。

 計画づくりでは、あえて最悪のシナリオを想定し、計画の弱点を洗い出す演習も行われている。

 計画の中心は、アメリカの議員たちにAIについて急いで説明し、理解してもらうことだ。

 企業幹部たちは、現時点ではAIの規制法が成立する見込みがないことを理解している。

 企業側は、最初の大規模な被害が発生した後にアメリカの指導者たちが頼ることになる新たな法律や政策に、自分たちの考えを反映できるよう準備を進めている。

References: AI companies plot "day after" scenarios for public revolt / AI Execs Game Out 'Political Revolt' after a Catastrophic AI Event - Slashdot

📌 広告の下にスタッフ厳選「あわせて読みたい」を掲載中

コメントを書く

0/400文字

書き込む前にコメントポリシーをご一読ください。

リニューアルについてのご意見はこちらのページで募集中!

サイエンス&テクノロジー

サイエンス&テクノロジーについての記事をすべて見る

  1. 記事一覧を読込中です。

料理・健康・暮らし

料理・健康・暮らしについての記事をすべて見る

  1. 記事一覧を読込中です。

最新記事

最新記事をすべて見る

  1. 記事一覧を読込中です。