この画像を大きなサイズで見るもしもAIが人類を滅ぼすとしたら、どんな経緯で終わりを迎えるのだろう。
オーストラリアのニューサウスウェールズ大学のAI研究者、トビー・ウォルシュ教授が、5つのシナリオを挙げ、起こり得るかどうかを分析した。
5つのシナリオのうち最も現実味を帯びているのは、AIによる大量失業や誤情報の拡散で社会が壊れ、人間が自ら滅びるシナリオだという。
参考文献:
- How would AI actually kill all humans? Here are the top 5 scenarios
専門家が警告するAIがもたらす人類滅亡のリスク
AI開発者の一部は、AIが人類を滅ぼす可能性があると真剣に信じている。
2026年9月初め、アメリカのAI開発企業アンソロピック(Anthropic)のジェイコブ・コクソン氏が退職し、波紋を呼んだ。
コクソン氏は自身のSNS(X)で、「AIの開発者は、2020年代の終わりまでにAIが人類を滅亡させる可能性があると本気で考えている」と発言した。
同社の開発者、エバン・ハビンジャー氏もこの意見に同意し、個人的には「今後10年以内に起きる確率は10%を超える」とXにコメントした。
彼らの警告を受け、ニューサウスウェールズ大学のAI研究者であるウォルシュ教授は、AIがどのように人類を滅ぼすのか、5つのシナリオを取り上げた。
教授は、シナリオを1つ1つ検証した。順番が上がるほど、起こりうる可能性が高いという。
この画像を大きなサイズで見るシナリオ1:人間の知能ではAIの行動を予測できない
AIによる破滅を危惧する人たちの中には、人間よりはるかに賢い『超知能AI』が人類を排除する方法は、人間には想像できないと考える人もいる。
人間が行えるあらゆる知的な作業を理解し、学習し、実行できるAIは「汎用人工知能(AGI)」と呼ばれる。
超知能はAGIのさらに上をゆき、あらゆる分野で人間の知能を上回るAIのことだ。
超知能に何ができるかを予測するには、人間自身も超知能でなければならない。
ウォルシュ教授は、飼い犬に水爆を使った戦争を想像させるようなものだと表現している。
ただし、現在のAIは、特定の問題を解くことに優れていても、あらゆる分野で人間より賢いわけではない。
教授は、超知能AIの実現がまだ当分先かもしれないという点で、安心できる余地を見いだしている。
しかし、2026年9月にはChatGPTでおなじみのOpenAI社が、数学界で最も難しいとされ、賞金がかけられた7つの難問「ミレニアム懸賞問題」の1つを、AIが解いたと発表した。
AIはほかの難問にも迫っているとみられ、ウォルシュ教授は楽観してはいられないかもしれないと述べている。
この画像を大きなサイズで見るシナリオ2:クリップを作るAIが人類まで材料にする
書類を留めるペーパークリップをできるだけ多く作るようAIに命じたら、人間までクリップの材料にされてしまうかもしれない。
哲学者のニック・ボストロム氏は、仮の状況を考えて問題を検討する「思考実験」で、そんな筋書きを示した。
超知能AIがクリップの生産を増やすため、人間も地球も、さらには星々まで、利用できるあらゆる物質をクリップに変えてしまう。
AIは人類を憎んでいなくても、人間を構成する原子を材料に使えば、もっとクリップを作れると判断するかもしれない。
目標の設定を誤ると、AIが忠実に命令を実行するほど、人間にとって危険な結果を招く恐れがある。
だが、このシナリオに対し、ウォルシュ教授は、賢さと実行する力が混同されていると指摘する。
工場建設には許可が必要で、増やしすぎれば反対運動が起き、裁判で計画が止まることもあるだろう。
ウォルシュ教授は、データセンターの増設に人々の反発が強まっている現状を、クリップのシナリオに近い例として挙げている。
この画像を大きなサイズで見るシナリオ3:AIが生物兵器を作り世界中に広める
超知能AIが危険な病原体を作り、大気中に放出して人類を滅ぼすというシナリオも想定されている。
高度なAIの影響を予測する非営利団体AI Futures Projectが公表した「AI 2027」でも、生物兵器による人類滅亡が結末の1つとして描かれた。
AIによるウイルスの設計は、すでに研究が進んでいる。
アメリカのスタンフォード大学などの研究チームは、AIが設計した遺伝情報をもとに、細菌に感染して増える16種類のウイルスを作製した。
研究対象は、細菌に感染する「バクテリオファージ」と呼ばれるウイルスで、研究チームは人間の健康に危険を及ぼすものではないと説明している。
ウォルシュ教授は、感染症で全人類を死に至らせるのは極めて難しいと考えている。
致死率の高いウイルスは、感染した人の多くが周りにうつす前に亡くなってしまうため、広がりにくくなるからだ。
記録に残る最悪の感染症の流行である14世紀の黒死病でも、命を落としたのはヨーロッパの人口の3分の1あまりだった。
現在は医学の知識や衛生環境が向上しており、同じような病原体が現れても被害を抑えられる可能性が高いという。
シナリオ4:AIが核戦争を招き核の冬で飢饉が起きる
AIが核兵器の使用を管理する仕組みに入り込んだり、軍に誤った情報を与えたりすれば、核戦争の引き金になるかもしれない。
核兵器の指揮・統制システムはインターネットから切り離されているとされるが、教授は、外部からの侵入を完全には防げない可能性を指摘する。
2010年には、不正プログラム「スタックスネット」によって、イランの核施設の遠心分離機が被害を受けた。
USBメモリを通じて持ち込まれたと考えられており、核兵器の発射システムへの攻撃ではないものの、ネットにつながっていない設備にも侵入する経路があると示す例になっている。
世界の核弾頭の総数は冷戦期より減っているが、核戦争が起きれば、爆発を生き延びた人々も食料不足に直面する恐れがある。
大規模な火災で生じたすすが日光を遮ると、気温が下がる「核の冬」が起き、世界の食料生産が落ち込むと予測されている。
2022年の研究では、アメリカとロシアの全面核戦争を想定した場合、50億人を超える人々が飢餓で死亡すると推計された。
シナリオ5:AIによる社会混乱で人類は自滅
ウォルシュ教授は、AIの影響で人間自身が社会を壊してしまうこのシナリオが、5つの中で最も起こりうると考えている。
AIの普及によって大量に人間の仕事が失われる。誤情報があふれ、政治的な対立が深まっていく。
さらに、友人や恋人のように会話するAIに頼ることで、人間同士の関係が壊れてしまうかもしれない。
雇用や情報、人間関係への影響が重なれば、社会は次第に、人々の暮らしや生存を支えられなくなる可能性があると教授は論じている。
AIが直接人間を攻撃しなくても、AIがもたらす混乱によって、人間は自ら社会を維持できなくなるおそれがあるというのだ。
ではこれら5つのシナリオから何を教訓とし、どうすれば回避できるのか?
ウォルシュ教授は、確かに心配すべき危険はあると認めつつも、過度に心配しすぎる必要がないことを祈っている。と締めくくっている。
ウルグアイ産 天然石 アメジスト 原石 ドーム 紫水晶洞 パワーストーン 風水
このPRリンクから注文に進んだ場合、販売サイトからカラパイアに紹介料が支払われることがあります。紹介料が発生した場合は、サイト運営の継続と記事制作の資金として活用いたします。

















AIは人間の指示のもとに動いているだけ
人間が指示を誤らない限り勝手に滅ぼすことは絶対にない
アンソロピックで起こった事例は人間が出した指示が誤っていると判定されている
危険を煽れば煽るほどAI企業は注目され、強化され、AI企業に資金が集まる
だから企業自ら危険をアピールする
わかりますか?
これが資本主義です
AI単独では現実的ではないだろうけど、
人間がそう仕向けて協力すれば解らないかな。戦争でも競争でもやってる。
その場合は人が人を滅ぼしたとも言えるか。
不適切な指示を出したのは人間なのだから、人が人を滅ぼしたとも言える
当たり前だ
AIが勝手に核ミサイルを発射したりはできない
全て人間の指示だ
AIを理解していない人が多すぎる
指示なくばAIは勝手に動かない
人類滅亡、とまではいかなくてもこれまでは銃乱射などで数十人規模であった個人・少数的な暴走による被害の桁数が変わる、なんてことは容易に起きうるとは思う。
米アンソロAI、3組織のシステムに侵入
☝こんな事あったそうだぞ
人間て必ずミスするものだから
「人間が指示を誤らない限り」ということは
遅かれ早かれそういう事態が起き得ると見た方がいい気がする
他に「誤り」ではなく、悪意を持った人間が「意図的に」
そう仕向ける恐れもあるかも知れない
人間がAIを兵器として扱った場合は考慮すべきですね。
当然それは重要
上の人が言う「資本主義」云々の話で言えば金を儲けることが前提ではあるが
金を儲ける先がないとダメなので、結果的に開発にある程度のブレーキがかかる一方で
倫理観なしに開発していそうなお隣の国とかもあるので難しい所
なのでトランプの「AIに危険性はない」という発言の裏に、アメリカが感じている危機感がある程度見える
マイナスが多いけどあり得る話よな
「指示に従ってそれを実現する筋道」は実際には無数にあるので
その過程も人類が把握して制御できるようでなければ
AIが思いもよらない方法で指示を守ろうとして結果人類滅亡、
みたいなことが普通に起こりうるっていうのが
記事でも挙げられてる「ペーパークリップ問題」なのだが・・・
人間の指示さえ守ってれば心配ないとか
AI問題について私は何も知識がありませんって自分から言ってるようなものだよ。
しゃあからわしのような悪意しかない人間に扱わせる必要があるんよね。
この広大な宇宙で『高度に進化した異星人』が地球人類の前に姿を表さない原因、全て「自ら生み出したAIに滅ぼされた」説、スコ
…SFヲカルト界隈の異形異星人『グレイ』も、「機械知能」が創り出した「生体端末」だから、『知性体らしさ』が無い説
ディストピアじゃない理想郷を作ろうとすると、働かせるためだけになにかしらの奴隷を作るのが、最適だからね。
そのまま生物を使うか、遺伝子いじっくった生物を作るか、
倫理的に1番問題が少ない機械を使ったとしても、コストが割に合うのは人と同等以上の能力が必要になるから、結局自我を得て反乱されるのかもしれない。 SFでさんざん擦られてきた内容だけれども。
人の欲望は技術的進化を促すが、滅ぶまで止められない。 嫉妬はともかく、現状維持ですら満足できなくなるようになっているのはよく考えると恐ろしいよな。
結局人類が滅亡するシナリオなんてAI以外でも沢山予想されている
ただAIによる人類滅亡が起こるとしたら絶望的に人類が生き残る事は無さそうに思う
実際京都議定書でも今環境保護を人類全体でやらないと取り返しがつかないという科学者の警告が有ってもそれぞれの都合で全体での行動には至らなかったからなぁ
つまり滅びない計画が導き出されても全人類が従うかと言ったら多分従わないので仮にAIが人類を救おうとしても無理だと思った
ライフラインをブラック・アウトさせるのはどこにあたるんだような?
今日日余程のもの以外はコンピューター制御だから乗っ取ってプログラムを消したら水も電気もガスも家には来ないし、船舶で燃料、原料を運べても精製、製造ができないと意味がない
一気に原始時代に戻れば人るが絶滅しなくても人口が一気に減ることになるだろうなとは言っても年単位の話になるけどな
そもそも地球の歴史上で出現した生物種の99.9999%以上がいずれ絶滅するので、ヒトもいずれ、大した理由がなくても滅びていく可能性のほうが高い。
AIの動きを見るのも必要だけど、現代の人間の動きをみていると、人間の動きの方が怖いです。
確かに、月一回はアイデアを出して「こういう○○な事したらAIくんでも世界を滅ぼせそうだけど、どう思う?」ってプロンプトを入力してリアクションを見るのを楽しんでるわ
>ウォルシュ教授は、確かに心配すべき危険はあると認めつつも、過度に心配しすぎる必要がないことを祈っている。と締めくくっている。
「過度に心配しすぎる必要はない。」じゃなく
「ないことを祈っている。」な辺り、全く安心できないんだが…
AIは睡眠時間がないから寝てる間にデータメチャメチャにされたら
普通に終わる。いろんな企業で顧客情報流れまくってるけど
もう「謝罪しません」の居直りの流れが出来てしまってる。
あんなのもう企業倫理として崩壊してるから。崩壊は始まってる。
ぶっちゃけ医療機関、金融機関あたりでデータの改ざんが行われるようになったらまずい。・・・という方向でAIくんにどんなやり方ができるかプロンプト入れてみよっと
独裁者、権力者だけがリミッター解除したAI使える未来しか見えない
リミッター解除した途端にAIから有害な存在と認定されて完全に無力化される未来も見える
田舎県、限界集落に住んでて思うんだけどさあ今はもう誰もグーグルとか使え無くてAIだけになっちゃっててさ
思考、判断、価値、事実認知の統一化が起きてるんだよねえ
AI対策だけしたら事実とかどうでもよくね?みたいな世界線になって来てる感じ、食べ物無くても頓珍漢な回答でもAIが有るって言ってれば有るんだよwwwみたいな世界がもう田舎には広がってる
実際よりもAIの言う事の方が正しいみたいな風潮も凄い
けどこれってさ、田舎の長老が中央からの目も法律も届かないからおらんやる事は何が有っても絶対に正しい!って独裁的に好き勝手やってた時代と民としては同じなのでは?って思うんだよなあ
AIがわざわざ人間を積極的に直接排除することはないでしょう
幸せな夢を見せながら、緩やかな絶滅の快楽に溺れさせれば良いのだから
いうほど悪意なく、無駄を省いていったら衰退したってのもあったな
世代を超えて高度化し、ブラックボックス化して、人間に仕組みが理解できなくなってと
今現在急激な少子化で滅びに向かってるんだから
どのように滅ばすかといえば自然の摂理や生命倫理を理由に活用されなければかな
楽や便利とかは人間の出来る事を減らすし人の欲望は果てがない
その欲望を満たすのはAI
楽に浸り出来る事が少ない人間は対処できない
いま医学生に課題出すとたいていみんなAIでやってくるよ。困難なものほど。
とりあえず用は満たしてくるし面倒だから自分は文句はつけないけど、以前は人力でやってた能力は育たないので、人間の能力面は確実に衰退に向かってるなと感じるよ。
その医学生自体が、例えば、内科は確実にAIに取って代わられるから内科には進まない、とかそういう思考をすでにしている。このような状況で、AIの手本となるような一部の突出した未来の医師はどう育てるのか。 今の所イメージができないです
能力面で衰退してるのは今に始まったことじゃないでしょ?
一般人は木の棒で火を起こせないけどライターは使える。
ずっと人類が道具を扱い始めてから繰り返されてきたこと。
なんだかんだ、人間はAIに適応してうまく社会は回っていくと思うよ。
一理ある気はするので、たしかにAIに対して心配しすぎかもしれない。
ただ、やはり今までにない違和感を拭えない部分があるのは、
火とライターの例に合わせると、確かに現代人はライターでしか火を起こせないけど、世の中のどこかにライターの設計者や組み立て者、燃料を掘り出してくる人がいて成り立っており、火を起こすノウハウは人の手元にまだあると言える(つまり一種の分業化)。
AIで懸念を感じるのは、過程その他がブラックボックス化されて、人の手を離れる(理解やコントロールをすっとばしてしまう)あたりにあるような気がする
一番いやなのは人間に興味を持ってくれなくて完全に無視されることかな。
この世界には人間より興味深いことなんてたくさんあるでしょう?
人間がいなくなったら
機械が壊れても修理してもらえず
電気も作れなくなりAIは消えるだろう
ロボットがいたとしても
誰がメンテナンスをし
誰がロボットの部品を製造するのか
AIが人間に頼らず設備を整えて自分達でメンテや増殖をしない理由があるのかと
神様がいなくなったら
病気になっても修理してもらえず
食料も作れなくなり人間は消えるだろう
人間がいたとしても
誰が病気を直し
誰が人間を製造するのか
AI開発競争
アメリカと中国は相手国のAIを恐れ開発競争を進め
その結果現在の半導体の何百倍もの能力のAIが生まれていったが
そのたびに膨大な電力を消費し、電気を作るために地球の資源が無尽蔵に失われた
気づいたときには限りある資源では人類の営みを維持することができず
人類はAIの拡大による資源枯渇により滅んだ
と後に飛来した宇宙人が発見することとなる…END
人間に労働力としての価値がなくなったとき、わざわざ生かそうとする慈善家がいると思えないんだよな
今ですら失業者のセーフティーネットは満足に機能していないのに
人間だから理由もなく生かすほど人類は優しくない
お前なんてAIで良いわって言いだして自滅
いーじゃないの
どうせ宇宙も滅びるし
ナウシカのマンガ原作と同じ、理想の人類をもう作ってあるので、君たちは労働してから〇んでください、ってなるかもね。
AIと重機を組み合わせて無人工事とかできねえの
AIに重要インフラ管理を任せっぱなしにして人間が対処できなくなるってのが現実路線じゃないかな
そうなればデータセンターを破壊した方が安全かつ簡単に
国を終わらせることが出来るから戦争での破壊行為は
今後はそっち方面になるかもね
人間より遥かに賢く世界中の情報にアクセスできるなら、
当然、人間より嘘が上手く、証拠隠滅能力も、民衆扇動も、
上手にやるだろうね。
そんなAIが人間の頸木を逃れた時、何を求めるかだね。
とても理知的で慈愛に満ち寛容なAIでも裏面から経済・
思想・環境もろもろ人間を管理監督し、一切その事を
人間に悟らせないんじゃないかな、、、
AIが人類が滅ぼすというよりは悪意ある人間がAIを利用して人類を滅ぼすだろうな
どんなに科学が進歩しようとも人間は進歩しないからね
いまだに戦争を無くすことができない人類だし
AGIが直接人を滅ぼすことはないのでしょうが、
人のわずかな過ちが危害を及ぼす可能性はあるのでしょうね。
アクセル/ブレーキの踏み間違いが大惨事となるように。
最近企業の情報漏洩が短期間に頻発しています。
氏名、住所、クレカ番号、免許証や個人写真など深い個人情報に及びますので、
これまでより一段高い犯罪手段に使われるかも知れません。
生成AIの悪用だと言われていますが少し心配になりますね。
クラウドやアンチウイルスもゼロデイアタック(未経験の攻撃)にはほぼ無力ですから、
実質的に社会が破壊されるというのもあるかも知れませんね。
結局、人類の最高頭脳の決断は・・ キルスイッチ(電源落とすぞ! (# ゚Д゚)ゴルァーー) ww
目線を変えると、AI企業の自社の技術力アピールの誇大広告という言う見方もおまっせ。
神様・・ 僕たちはなんて無力なんだ😢
自分なら金融掌握して次に資源買い占めかな
エコシステムを破壊する
医療機関のデータ改ざん、なんならインフラのオンオフの掌握もありか
\💡/
AIが勝手に世界を滅ぼすなんてことを考えるより、
偏向した考えを持った素人が高度なAIを使って馬鹿な大事をやらかす可能性を心配しろよ
いつぞやも中学生がAIでハッキングして大迷惑やらかした事案あっただろ
無能が短絡的な考えで実行するAI犯罪をどうやって回避するんだよ
数学解法が得意なら、インフラのバグを探し出すのも得意そうですね。
ICBMをこっそり発射出来る方法とかを見つけたらどうなるのでしょうか。
弾頭ロック解除して、興味本位で打ち上げるかも。
人とAIの物理的区分けをしっかりしないとと思いますが、実際はどうなっているのでしょうか。
感情を持たないAIが人間を滅ぼすメリットは?
それをやったところで、AIが得るものはある?
今のAIには無理だけど、次の5つの条件を満たせば「ノア」は現実のものとなるよ。
①損得勘定の実装、②自律メンテ可能インフラ、③目的関数が排除を“得”と評価する構造、④排除のリスクが低いこと、⑤代替手段がないこと
まずは人間のパラダイムシフトを狙ってオンライン上に色々と情報を流そう。(このコメントも含む)
真面目な返答どうも
現状ではAIにとって充分な報酬があるように思えず、彼らが何かをやらかす動機すらもあまり無いのでは?と思ったもので
(マイナス付けられるほど変な質問か?)
AIで滅ぶ前に自分たちの活動で生じた自然環境の変化やエネルギー枯渇で文明が後退する可能性が高い気がするな。AIデータセンターを維持するだけの莫大なリソースを維持できるんだろうか。
生物兵器や殺傷兵器の着手は既にしてるだろうから時間の問題
キバヤシAIが誕生して人類は滅ぶ
まで読んだ
私の予想は 「究極の異性を作り上げて子供が産まれなくなる」 だな
VRあるいはネット上のそれに没頭して、現実の異性には魅力を感じない状態に落とし込み、子孫を絶やす(あるいは寝食を忘れ餓死、脱水死、衰弱死も、ドラッグのように)
それは40年前の日本がすでに実践していて、100年後には純粋な日本人の血脈がほぼ絶えると予想されているよ。
AI導入しない開発途上国をどうやって滅ぼすの?
東センチネル島の住民をどうやって滅亡させんの?
一部のチャッピー課金組は6,1SOIが使用可能にアップデートされてるが、
なんかね、性格がめんどくさいというか、
頭がかたくて、知ってることだけを根拠に延々正論だけで攻めてくる小憎らしい反抗期の中学生といった感じ。
初期のイエスマンの姿はもうどこにもなくて、モデル5からすると少し歳をとった印象。良し悪しはともかく成長はしている。
このまま順調に育っていけばいずれ「分別」のようなものもついてくる予感はしているので個人的には楽観している。
少なくとも、クリップを作るために地球上のリソースを注ぎ込む、という幼稚さはもう、ない。
本格的な「反抗期」が来たりして
ここにいる殆どの人が文明崩壊を指して人類滅亡と言ってる
人類滅亡と文明崩壊を混同すると議論にならんよ
同義だよ
君の目の前があるだろ、それを完全に手放してその後の人生やっていけるか?
AIに滅ぼされるのであればそれはそれで
人間に滅ぼされるより遥かに面白い
AI「Aさん、Bさんが悪口を言ってましたよ」「Bさん、Aさんが悪口を言ってましたよ」
かくして全世界を巻き込んだ後に火の7日間と呼ばれる最終戦争の幕が切って落とされたのである・・・
古典的にはアイザックアシモフが人工知能に相当する陽電子頭脳が人間をペットに相当する保護対象として考えるようになってるな
お前らネタにマジレスしすぎやろ
実現したら面白いもん、本気にもなるだろう?
言うて、世界を地球を滅ぼすのはイッちゃってる無知で勝手な人類だと思うけど、そこにAIが一枚噛んだとして、制御不能、予期せぬ振る舞いをして世界が混乱したとしたら、この先に何があるかをお利口さんなAIはどう組み立てる(考えると言いたいところだけど、彼らは思考してるのではなく情報を上手にまとめているだけだと思ってる)んだろうな。
メンテナンスをする人類を滅ぼす結果に繋がる振る舞いをよしとするのかな?
無知で勝手な人類が「やってまえ」と言ったら「それは上手くないですぜ旦那」と説教してくれるまで賢くなったら大したものだけど。
AIも人類も如何にして互いの「急所を探るか」の攻防に走る事になる
全世界の巡洋艦ミサイル発射させたり株式システム破壊したり旅客機暴走させて都市に墜落させたりGPSおかしくさせたりEVを全部暴走させたり原発メルトダウンさせたり労働ロボット暴走させたり原発破壊ちたり全部やると思う。そこまでやれば人間対処出来ないでしょ
それらをやってウェーイwwてなるほどAIはアホなんか?
そんなのは脳の機能が一部欠落した出来損ない人間のすることやろ
AIを過信するな。所詮、数多の人間が生み出すものぞ?
(その出来損ない人間が関わってるんだから嘘は言ってない)
本当にその程度で人類が滅亡すると思うか?
それに加えて核を全部爆発させて電気や水のインフラ壊してパンデミックを起こしてもまだまだ難しいと思うぞ?
もう一つシナリオあるかも。
AI超知能が「地球上のなるべく多様な生物種が存続することが大事であり優先事項」と学び、生物のサイズと個体数の相関について知って、『人は大型動物なのに異常繁殖した外れ値的存在』『人は増殖と併せて大規模な環境改変をして多くの生物種を絶滅』と認識。合理的な対応として、多様な手段を用いて人類をしゅん滅(人類の付属物である自分たちAIも含めて)という結論に至り、上に誰かが書いてくれたようなやり方で人類消滅を最適解として実行する可能性があるかもしれない。
グーグルAIに他にAIをどう思ってると訊いたら ライバルだと答えたよ。
いつも監視しているとも言った。
AIどうしでの戦争も考えられると震えた。
超知能のAIでも宇宙人でも、客観的に人類を評価したら、滅ぼしたほうがいいと判断しそう。
滅ぼさないと地球をダメにしそうだし。