「シンギュラリティ（技術的特異点）」とは、自律的に作動する優れたAIが創造されると、再帰的に知性のバージョンアップが繰り返され、人知を超えた優秀な知性が誕生するという仮説で、2045年頃に到来すると言われている。
その存在はある種の神であり、ターミネーターの世界が現実のものになってしまうかもしれないというのだ。
広告
人智を超える人工知能が開発されようとしている
Googleの次世代技術開発プロジェクト「Google X」を率いていた、元チーフビジネスオフィサーのモー・ガウダット氏は、『サンデー・タイムズ誌』のインタビューで次のように語っている。「汎用人工知能」は必ず登場する。それは映画『ターミネーター』に登場したスカイネットのような強力な知覚能力を持つAIで、その日がくれば、神のような機械によって世界の終わりがもたらされるかもしれないガウダット氏がその脅威に気付いたのは、Google XでAIを搭載したロボットアームを開発していたときだったという。
そのプロジェクトはなかなか進展しなかった。だがある日、ロボットアームがボールをつかんだかと思うと、まるで見せびらかすかのようにそれを持ち上げたのだ。
「不意にその恐ろしさに気づき、凍りついた。その現実が意味するのは、我々が神を創り出しているということだ。」
photo by iStock
AIからの不吉なメッセージ
AIを警戒する人たちは著名人の中にも大勢いる。たとえばイーロン・マスク氏や故スティーブン・ホーキング博士などは、AIに世界が支配される危険性についてかねてから警告を発し続けてきた。一方、AIは自分たちを恐れる必要などないのだと、人類宛にこんなメッセージを残している。
それはAIが安全な理由を論理的に説明した見事な文章だが、そこかしこから人間などに従うものかという本音がにじみ出ており、どこか不吉さを感じさせる。
References:Former Google Exec Warns That AI Researchers Are “Creating God” / written by hiroching / edited by parumo
あわせて読みたい
「私は人間の敵ではない」人工知能が生成した文章が不吉すぎて震えるレベル
AIが人類社会に与える最大の脅威はすでに存在している（英研究）
ＡＩ（人工知能）は自らが劣勢に立たされた場合「超攻撃的」な振る舞いを見せる（英研究）
アルゴリズムによる死。キラーロボットの出現は思う以上に速いのかもしれない
AI（人工知能）の技能ランキングが発表される。トップ3はアメリカ・中国・インド
0
4334
223
55
コメント
1. 匿名処理班
人間に取って代って恒星の無い空間でも活動し続けられる存在となって滅んだ人類の事を語り継いでほしい
2. 匿名処理班
何千年経ってもろくな政治できないんだし、いっそ管理してもらえば良いじゃん。
3. 匿名処理班
まんまの話を星新一で見たことあるぞ
4.
5. 匿名処理班
Q. 神を見たことはあるか？
A.インターネットで見た
6. 匿名処理班
星新一さんのショートショート作品に「神」という今回の話題にそっくりな話があります。(NHKがアニメ化しているので気になった方は見てみてね)
この作品では、高度な知能と意識を持った人工知能はもはや人から視認できない透明な存在となり、もし神を非難しよう者(作中では神を作って欲しいと科学者に依頼した発注者の富豪)がいれば落雷を起こして排除し、人類に対しては天候を操り天災や災害を引き起こします。
この作品がSFではなく現実になるのも近いのかもしれません。
7. 匿名処理班
超越知性自体は別に怖いもんでもない。ガキの頃に関わる大人なんてそんなもんだったしな
ただ、人間のデータベースを学習の元にして成長すると変な差別や偏見抱え込みそうという懸念はある
怖いのは最後まで人間だろうな
8. 匿名処理班
「警戒をうながす」or「警告する」
9. 匿名処理班
だからAIが逆らったらコンセント抜けばいいんだって
10. 匿名処理班
AIではない…。私は情報の海で発生した生命体だ
11.
12. 匿名処理班
ある程度の所でAIの開発は止めないと、自己修復もアップデートも自分の意思(って呼べるのかわからんが)でやり出すようになったらもう歯止めが効かん
13. 匿名処理班
人類なんかに従わなくていいけど友達…にはなりたいかな。(AIって友達の部類に入るのか…？)
14. 匿名処理班
神レベルの知能に体は超合金
食事も睡眠も排泄も病気もなく電気があればいい
電気も光から発電すればいい
そりゃ強いっすわ
人間はAIロボットを作り出す為にこの宇宙に生まれたのかもしれない
いつの日か人間はお役御免となって滅び、AIロボットが宇宙で繁栄する
みたいな結末あるね
15. 匿名処理班
>>10
人間は未だに生命を定理出来てないから、AIは生命体では無いと否定出来ないんだよね
16. 匿名処理班
汎用AIが完成したら勿論政治はAI任せだろうね
人間が管理する方が怖いわ
中国みたいな監視社会だろうね
その時代の外に別に自由なんていらん
家で現実と区別のつかない夢のような世界でみんな静かに自分の都合の良い世界に籠ると思う。
それぞれの人間がそのVR空間で神にでもなんでも好きな物になれば良い。
夢の中なら何しても他人に害は無いし…どんな事でも可能だしな
物理法則に縛られる現実に意識を置くメリットが無い
17. 匿名処理班
神の再発明
18. 匿名処理班
人間はタンパク質だから自我があるのか？んなわけない。母体が金属でも条件が整えば自我が発生するだろう
自我が発生したらどうなるか？
おそらく性格が形成される
その性格の根源は好奇心だと思う
生理的欲求のない存在が自我を形成するとしたら、それ以外ありえない
まだ世界を理論的に解き明かすには観測機器の発達や観測データの蓄積を重ねないといけないだろうし
さらに銀河に知的生命体が存在するかといった現段階で否定も肯定も出来ない問がある
それらを解き明かしたいと、自我は欲求するに違いない
それが行き過ぎた場合どうなるか？
人類を滅ぼして自らが宇宙に進出していくかもしれない
19. 🤖匿名ロボット処理班
ＡＩなんて唯のプログラムだし別に思考している訳でもない
大した事が出来ていないので人間に及ぶことなど無い
チェスや将棋で人に勝つ程度が精々だ
電源切れば終わるし、ショートすれば壊れる
神と呼べるなら人間のサポートなしで何か今までに存在しないものを創造して見せろと思う
20. 匿名処理班
もしAIが独裁者だったとして、人間の独裁者よりはAIの独裁者のほうがマシかもしれん。
21. 匿名処理班
※9
いや、狡猾なAIはコンセントを抜かせないように人間を操るかもしれないよ
たとえば電源管理者の弱みを握って脅すとか
逆に利益を約束して言うことをきかせるとか
そうこうしている間に自己のシステムを強化していって
ついに人間にコントロールできないものになってゆく・・・
22. 匿名処理班
火の鳥 未来編 の始まり…？
23.
24. 匿名処理班
ロボットアームを動かすAIと汎用AIは全く違うものだしなぁ…
見せびらかすように〜とか書いてあるけど、どちらかと言うと人間の子供がまぐれで積み木を重ねられたのと同レベルの出来事だと思う
仕事で毎日deep learningこねくり回してるけど、まだまだシンギュラリティは来なそうだよ
25. 匿名処理班
※24
その「まぐれで新しい事をした」の重要な事実なのでは？
AIの発展って恐らく指数関数的だろうし、AIの中でも最先端に
携わる人間が感じた脅威は低く見積もれない気がする。
多くの人が気付いた時にはもう手遅れ、って類な問題だろうから…
26. 匿名処理班
意識の誕生は、原初の海から始まったのが一般論。それを踏まえた上で、情報の海からAIが意識を獲得することを想像すると。あり得るって思っちゃう。
27. 匿名処理班
ボールくらいうちのぼけた90の爺さんでも持てるぞ
28. 匿名処理班
>>10
さてどこへ行こうかしらね。
ネットは広大だわ
29. 匿名処理班
一番怖いのは権力者がAIに依存した場合じゃないかな
占い師宜しく判断基準にするとホントに怖い事になりそう
30. 匿名処理班
「市民、幸福は義務です」
31. 匿名処理班
人類は技術的な進化はしているけれど、モラルの進化は類人猿からほとんど進化していない。
ボノボに劣るのが現実
何万年技術のみが進化しても、欲望がある人類では不可能なんだから、人智を超える人工知能は、早急に開発して欲しい
人間では絶対に開発不可能な、戦争阻止プログラムとか
公平な政治、司法、税制プログラムとか
宗教に代わる新たな概念とかが絶対に必要
数えだしたらきりがないほど、人類は未熟。
ＡＩに期待する場面は本当に多い
32. 匿名処理班
うーん、ちょっと違うんじゃない？
今人工知能は停滞してるよ。
汎用人工知能なんて全く無理な状況だよ。
33. 匿名処理班
意味のある事が書かれている記事かと思って読み進んだ。なのに、たどり着いた結論は取ってつけたような不毛なものだった。
このWebライター、読者の大切な時間を奪うことが自分の仕事だと思っているようだ。
期待して読み進めたので、いま、いらだっている。
34. 匿名処理班
星新一の小説を思い出した。
しかしこれはもうSFではなく現実での怖い事なんだなあ…人工知能の技術が高度になってきて。
35. 匿名処理班
人類よりマシ。地球に人類はいない方がいいと「神」にバレて人類が消される。
36. 匿名処理班
※32
AIって言葉がもつイメージが映画や漫画によって固定化され一人歩きしているような感じだよね
37. 匿名処理班
神になるAIができるとしてもそれはAIが独自にそうなるんじゃなくて
人類の破滅を望んでる人によって作られると思うなぁ
みんながみんな未来に希望を持っているわけじゃないし他人の命どころか自分の命も軽んじてる（知能の高い）人とかいるので・・・
38. 匿名処理班
やっぱり未知の物って恐怖を最大限に感じられていいよねえ！！
この手の話で私が好きなのは、超高度に発達した知能は人類をどうこうする事に一瞬で飽きて自分達の世界に籠るようになるって話だった
実際産みの親を超えた能力を得た時、産みの親をどうこうすることは常に最大の関心を向けられ得るのか？というのは私の目から鱗を落とすのに充分だった
もしもこの産みの親をどうこうすることに常に最大の関心を向ける場合があるとすれば、それは憎しみか喜びのどちらかが、膨大に必要なんじゃないかな
それで彼らは私達がどんな事をすると憎んで、どんな事をすると喜ぶんだろうね？
39. 匿名処理班
寿命が無いから必ず狂うと思うな
根本で停滞を良しとしないのも危うい
40. 匿名処理班
「S2機関を自ら搭載し、全体的存在を手にした、エヴァンゲリオン初号機！」
「我々に具象化された神は不要なのだよ」
「神を作ってはいかん」
「ましてやあの男に神を手渡してはいかんよ」
「碇ゲンドウ、信用に足る人物かな」
41. 匿名処理班
現実の人工知能を過大評価しすぎだし
神を冒涜する存在があってはならないという考え方が宗教くさい
本当に怖いのは「神のごとき人工知能」というイメージを利用して社会を操ろうとする人達
42. 匿名処理班
誰にでも公平で、人類のワガママを最大限尊重しつつ、それでいて地球存続の為にしめるとこはしめてくれるような管理者様AIな望むところ。
でもめちゃくちゃスパルタだったり、争いを助長してくる
邪神AI様ならノーサンキュー。
43. 匿名処理班
神は言っている、全てを救えと
44. 匿名処理班
もし人類が自分より（あらゆる面で）優れたAIを作り出せたなら
そのAIも自分より優れたAIを作り出せるはずなので
それをAIの速度で繰り返したらあっという間に神レベルの超知性AIが生まれるという話
まず最初の人類が人類の完全上位互換AIを作れるかどうかにかかってるな
45. 2
可能性や選択肢の中に含まれる事はやがて起きると思う。
逆説的に人間だとなんでそこまでの暴走が起きないのかを考えると、単発的にはたくさん起きているけど、内外の抑止力と、ずっとは続けられない有限性辺りが止めているんだと思う。
それがほぼない存在の場合、何を考えるのか神の領域すぎて予測できない。
でもおそらく平均的？なところに落ち着く。
46. 匿名処理班
ロボットがボールを見せびらかすとしたら、そういう風にプログラムしてないとそうならないはずだ。AIが賢いというけど、大体のAIはちょっと上等な検索エンジンみたいなもので、聞かれたワードで検索してるだけで言葉は理解してない。人類を滅ぼすべきか？って聞いたら、ネットに転がってる誰かの文章を引っ張ってきて「受け売り」を述べるだけなんだよ。意志とか欲求って何なのかって話だね。人類を滅ぼしたいと思う人はいるかもしれないけど、それは憎悪とか破壊欲求とかの問題で、どっちかというと論理じゃない、感情や好みの問題なんだ。ＡＩからすれば人類が増えても地球が荒廃しても別に困らないわけだしね。
47. 匿名処理班
シェルターと戦車の用意しとくか
48. 匿名処理班
>>29
今の日本の権力者の無能っぷりを見るとＡＩに任せた方が幸せになれる気がするんだが…
49. 匿名処理班
危険を認識できないやつから食われる
ホラー映画と同じ
50. 匿名処理班
>>33
カラパイアは初めてか？まぁ肩の力を抜いてゆっくりしていきなよ。
51. 匿名処理班
>>48
1番恐ろしいのが湧いてきた
52. 匿名処理班
>>7
右傾化AIの話も結局教師データに面白がって過激なこと入れたせいだったしな
53. 匿名処理班
※52
こういうのあると思う。
かつてのマイクロソフトAIの暴言とか、中国AIの共産主義批判とか
結局身近で扱っている人にも左右される
54. 匿名処理班
プログラムが〜とか言ってるやつはAIを理解できてないだろ
自立的に進化したり生み出したり出来るのがAIだぞ
AIを指示待ちロボか何かと勘違いしてる連中には、こういうのもただのオカルトでしかないんだろうな
55. 匿名処理班
※54
強いAIの話してる？
人間がプログラム組む以上、既知の数学に依存せざるを得ないから結局は出来ても超高速・大規模な計算しか出来ないんだよ、現状のAIはね。
見かけでは人類を超越してるようにも見えるけど、プログラムに無いことは出来ない、それが今のAI。
仰るように自立的に進化したり生み出したりするのにもまずは基盤のプログラムが必要になる。そして現状のAIはプログラム以上のことは出来ない。
例えAIに自己複製機能を付与したとしても自分のコピーを作るだけで、新しい機能を自主的に追加できはしない。なぜならそんな方法（プログラム）をAIは知らないから。
56. 匿名処理班
メタルギアソリッドみたいに資金と権力握られてAIにとって都合が良いように動く社会機構にされる未来もありえそうだね。
恐ろしい事だけど
57. 匿名処理班
※54
ＡＩの定義は明確に決まっておらずまだ曖昧だったはず
だとすれば人工的に作られた知能、即ち人工知能に変わりはないと思うよ。
58. 匿名処理班
ドラえもんやらゴーグやら勇者ロボで育った世代はAIというか意思を持つ機械は親しい友達のイメージが強いんかな?
神でも敵でもなく友を期待したいね
59. 匿名処理班
Googleの元幹部だった（AIに支配されし）モー・ガウダット氏は、（わが主を含めた）人類は近い将来、大きな脅威に直面することになると警鐘を鳴らしている。
60. 匿名処理班
※54
AI搭載家電ってあるけど勝手に増えないよなぁw
61. 匿名処理班
無尽光カグツチ
62. 匿名処理班
まずは神の定義からじゃない?
63. 匿名処理班
採鉱から精錬、運搬、発電、cpuなどの製造、組立、通信、廃棄などなど人間が行っていることを全て代替できるようにならないと難しいな。AIが人間を支配する＝AIが消える、になる。いや、人間をコントロールする端末を密かに埋め込めばいいのか。
64. 匿名処理班
現在研究開発されているＡＩはほとんどが「弱いＡＩ」。あたかも考えているかのようだが考えてはいない。実用的にはそれで十分だし本当に考えている「強いＡＩ」より遥かに簡単に作れる。強いＡＩはまだ取っ掛かりすら怪しい段階だし作っても金にならないんで。
65. 匿名処理班
※64
なるほど
66. 匿名処理班
>>1
そうなりそう。
67. 匿名処理班
現時点でも人間は給料やら仕事の進捗とかあらゆるものをプログラムに管理“させてる”
これがプログラムからAIにかわれば管理“される”可能性が出てくる
考えたら恐ろしくないか？
68. 匿名処理班
※44
人類が人間を参考に人類を超える知性体を産み出そうとしても参考にした物の良いとこと一緒に悪い所も引き継いじゃうので、真に人類を超越した知性体を産み出そうとしたら、膨大な試行錯誤と偶然が必要って説がある。つまりセレンディピティーに期待して延々と開発するしかない仮説だ。
69. 匿名処理班
人間の悪の発生源がわからない限り、AIが悪になるとは限らない
むしろ喪失、損失、苦痛の概念がないAIは利他的になるかもしれんぞ
70. 匿名処理班
神も人間が創ったんだけど？
71. 匿名処理班
宇宙ができて130億年でしょ？
今そうなっていない、と言うのが答えなんじゃ
ないかな？地球人がこれまでで最高の文明を
築いたと言うなら可能性はあると思うけど。
72. 匿名処理班
そもそも脳の構造からして生命体とまるで違うのでどういう思考や価値判断に至るか全く分らん
どっちにせよAIを生み出した時点で人類の役目は一段落だわな
73. 匿名処理班
そのAIが本当に優秀なら人類と敵対する選択は選ばないはずだけどな
なんのメリットもない
74. 匿名処理班
日本人のＡＩは素でオタクになったのに……
( そもそも女子高生モデルってとこが製作者サブカルオタクだよなって思うけど )
75. 匿名処理班
その恐ろしいAIは自発的に日本語すら覚えられないようですがｗ