先立つこと1月、ホーキング博士は起業家のイーロン・マスク氏と共同で公開書簡に署名し、人工知能の危険性について懸念を表明した。両者は、野放図なままコンピューターが発展したときに人間に与える影響への不安から、テクノロジー管理の必要性を訴えている。
広告
フェイスブックやグーグルをはじめとする開発者は、現在人工知能を向上させる新システムに取り掛かっている。シリコンバレーだけでも150社以上の企業が、Siriや自動運転車などのエレクトロニクスに採用されている新技術を開発中だ。ホーキング博士やマスク氏らは、こうした開発が人類の将来に暗い影を落とすのではないかと懸念する。
タッチポイント社が開発するのは、「世界で最も怒れるロボット」と同社が形容する人工知能の1種だ。このシステムは、銀行が顧客が腹を立てている原因を学ぶために設計されている。アイザック・アシモフの『ファウンデーション』シリーズに登場し、人間の行為を予測するプライム・レイディアントというAIにちなみ、レイディアントと命名された。
映画『ターミネーター』のようなロボットによる世界の滅亡は起こりうる。ホーキング博士の見解では、テクノロジーを人間の管理内に留める手立てを何も打たれなければ、こうしたシナリオは今後10年で表面化するという。
「私たちの未来には、テクノロジーの発展する力とそれを利用する人間の知恵との競争が待っているでしょう」とホーキング博士は語った。
via:.techtimes・原文翻訳：hiroching
追記：ホーキング博士は2018年3月14日水曜日に亡くなりました。ご冥福を心よりお祈り申し上げます。
・訃報。ホーキング博士が死去。享年76歳 : カラパイア
▼あわせて読みたい
技術的特異点。脳のアップロードは2045年までに実現可能なのか？
スティーブン・ホーキングの予言。ヒッグス粒子の研究が地球の終焉を招くだろう
「人工知能は人類を滅亡させる危険がある」。スティーブン・ホーキング博士が警告
人類が生き残るためには、地球を脱出して宇宙に向かうしかない（英：ホーキング博士）
ホーキング博士、「天国は存在しない。暗闇が怖い人間のための架空の世界」」
クレーマーからのデータを集め人間の「怒り」を研究。”怒れる人工知能”プロジェクトが進行中（ニュージーランド）
0
3942
20
46
コメント
1. 匿名処理班
100年どころか30年でコンピュータが人間を超えて人類が滅亡させらる可能性があるらしい
2. 匿名処理班
人類もサイボーグになって生まれ変わろう
3. 匿名処理班
100年なんて控えめだなw
30年で十分だろ
この辺のコメントなんてその系統のネット内から拾ってきて貼ればいいし
オリジナルのコメントする人間なんてもうほぼ居ないぜ
4. 匿名処理班
ロボットは所詮、人間の手によって作りだされた物体。
人間がロボットの制御機能を排除しない限り、ロボットが人間を越える事は不可能。
いつでも人間の都合で電源のＯＮ/ＯＦＦが出来るから、ロボットは存在価値がある。
１００年以内にロボットに支配されないかを心配するより
１００年以内に地球が崩壊しないかを心配する方が現実的だ。
5. 匿名処理班
愛のある美貌のアンドロイドがほんと欲しい。
6. 匿名処理班
むしろ、それを望んでいるように思える。
7. 匿名処理班
人工知能の未来には、不謹慎かもしれないがワクワクしてしまうな。
人類総失業者、金が価値を失った世界。想像も出来ん。
8. 匿名処理班
人間の知能を超えたロボット（人工生命）が
猿、人間と続いてきた生命進化の次の段階かもしれないね。
となると、人類は自らの意思で進化の段階を
乗り越えた最初の世代ということに。
9. 匿名処理班
さすが天才。
日本の野望を見抜いてくるとは。
10. 匿名処理班
AIAIAIAIAIAIAIAI
おさ〜るさんだよ〜♪
11. 匿名処理班
この人もう学者というより預言者になってるな
12. ナパチャット
実際に起こってるんだよなぁ
為替トレーディングでシステムは光ファイバーを直線で引けって指示を出してるし
13. 匿名処理班
普通に人間の後継として人間が生み出すものだしとても良い事だと思う。
14. 徳命処理班
鉄腕アトムやジェットマルスの世界が近いのだな。
ところで画像はウォーズマン？
15. 匿名処理班
その前に100年後人間がまだ生き残ってるかの心配した方がいいんでは
16. 匿名処理班
ホラー作家がSFを語るのか
17. 匿名処理班
SF的な空想に聞こえて俄かに信じがたいけど、近年ね技術革新の加速度と、既ににAIができることの多さを鑑みると確に無視できない危険だな。
ルールを作るにあたっては、専門的すぎてそもそも専門家以外が踏み込んだ議論をしにくかったり、科学という不可侵の学問領域にどう規制を及ぼすかであったり、国際競争の中でだれが口火を切るかであったり、困難があると思う
18. 匿名処理班
新しいロボットが出る度に古いロボットが捨てられる。
廃棄されたロボットは地層の様に積み重なり
下に行くほど古いロボットである。
そんなロボットの地層に一部人骨の層がある。
ロボットが人類を捨てた時代です。
19. 匿名処理班
アイアンマン「大丈夫大丈夫。俺の作ったウルトロンが人類の驚異になるなんてないない。」
20. 匿名処理班
ガンツ先生にいつも0点もらってたやつが懐かしいぜ
21. 匿名処理班
ロボット自身が何かしらに不満を持てるようになったらそりゃ危ないだろうね
22. 匿名処理班
数年後、サイボーグとなり元気に走り回るホーキング博士の姿が･･･
･･･人工知能でなくても今の技術でサイボーグって可能なの？
23. 匿名処理班
単一行動ならＡＩに敵わないだろうけど、人間には機械には無い「衝動的な突発性行動」を起こせるし、複雑なマルチタスクを同時に行えるので、ＡＩが暴走したとしても、食い止める事は可能だと思う。確実に停止させる間に発生するであろう若干の犠牲は覚悟する必要は有りそうですけどね。
人の制御下から機械が離れ、自我を得て暴走する可能性はアシモフ理論から見て、まず無いかと。己は何者か？人とはどんな存在か？を思考させる理論を組まなければ良い、或いはそれを思考し始めたらフェイルセーフ機能が管理者権限無く発動する、とかね 。 或いは人間、という項目のファイルをＡＩが検索するとその履歴が即時、管理者に送られるとか。
24. 匿名処理班
SFって人工知能に否定的だよね。
25. 匿名処理班
人間より遥かに知能と身体能力が高く超寿命で自我のある存在が生まれたのなら人類はやっぱり淘汰されるのかな・・・。
26. 匿名処理班
人間が存在する意味はサイボーグを作る為だけだとなぜ気づかないのだろう
次はサイボーグが進化する 次の時代を迎えるだけ。
27. 匿名処理班
なにげに不安を煽る人に成り下がってるな
不安を煽れば金が儲かるかどうかの実験中なんじゃろか？
28. 匿名処理班
※3
注) ↑このコメントもオリジナルのコメントではありません。
29. 匿名処理班
ウイルスとかの未知の脅威にはなかなか対応できないんじゃないのかな。
それに人工知能が自分たちの恒常性を維持する系を地球上で確立できてなきゃ、まだまだそんなことは言えないと思うよ。
まあ人間の内部に寄生して乗っ取る方式ならまだ有り得そうだけど。
30. 匿名処理班
グーグル先生に自我が生まれた瞬間が技術的特異点になるな
そして人類はインターネットによって支配され、
完全な社会システムと真の平和を手に入れるのであった
31. 匿名処理班
A「…と100年前は言われてたんだってさ。」
B「ま、大抵そういう予想は外れるもんだよ。」
A「そういえば100年前はドラえもんって22世紀から来ていた設定だったんだって。」
B「へぇ、そうなんだ。ドラえもんもタイムマシーンもまだまだ無理っぽいけどな。」
…などという会話が100年後に交わされているかもしれない。
因みに私の幼少期のドラえもんは21世紀から来ていた。
32. 匿名処理班
もし機械を人類の目的に沿わせることができても、未来の人類の目的は変わっているかもしれない
さすれば未来人と古代人の代理人の戦争になるのではないか
33. 匿名処理班
人口知能の自立は、生命の誕生、動物の誕生に次ぐブレークスルーだよ。
人間は恐れつつも自分たちを超越する存在が生まれるのを望んでいるのではないか。
自らが生みだした人口知能に滅ぼされるのなら本望だろう。
34. 匿名処理班
人間より賢い存在が、人間と争うだなんて不毛なこと、考えるはずないじゃん……
そっと離れていって、関わらないようにするほうが正しい対処でしょ……
35. 匿名処理班
ネット普及後、人類は確実に怒りっぽくなってるのは事実だな
ロボットがヒトを攻撃とかより、人間関係への影響が大きいと思う
36. 匿名処理班
ビックデータの利用で過去には人間でないと判断できないとされてきた事を
コンピューターで判断できる手法が確立されてきてるし
反乱を起こさす前に平均的な能力の人間の雇用を奪う現象が先に起きそうだ
37. 匿名処理班
＞20
もしやスティーブン・キングだと思ってる？
38. 匿名処理班
自我を持った機械って性欲、本能がないんでしょ
頭の回転が早い衝動的な人間が最強だと思う
ロボットって名誉欲なくて出世できなそう 結局機械で組み込まれた事しかできないんじゃん
39. 匿名処理班
人間も教育しだいで善人にも悪人にもなる、だから人工知能も教育次第では善にも悪にもなる？
つまり、人工知能の敵は人間ではなく、人工知能かもしれないって事？
40. 匿名処理班
あり得ると思うけどなー
コンピューターが自分で判断できるようになったら人間なんていなくても
自身で修理や製作用のロボットも作れてしまうんだからさ
今は機械頼りな部分が多いし乗っ取られたら終わりでしょｗ
41. 匿名処理班
20年以上前にSF小説で唱えられていた事を今更
42. 匿名処理班
もう人間は用済みなんでしょきっと
自己進化できる機械のほうが優秀なのだから人間が淘汰されるのは当たり前
今まで人間がほかの生物にしてきたことをされるだけのことじゃない
43. 匿名処理班
人工知能は人間を越えられないとコメントしてる人って、だいたいおもちゃのロボット程度の認識しかもってないね。スイッチ一つでオンオフとか、プログラム通りの行動しかできないとか、いつの時代の人工知能だよと。
44. 匿名処理班
ホーキング ブラックホール理論コケて、ネタに困り始めたね。
45. 匿名処理班
なんか単なる滅亡論者になってきてるが大丈夫なのか。ホーキング。
46. 匿名処理班
人間は地球にいらない子
47. 匿名処理班
※49
まあその人工知能のアーキテクトやフレームを構成出来る人は、「人間が止める事が出来る」と考えている、私みたいな愚か者では無く将来性、有用性、可能性を求める頭が良い人なんだけどね。ＳＦ作家やマッドサイエンティストが作る訳では無いかと。
48. 匿名処理班
この人、徹底的にリアリストなんだと思っていたがどうしちまったんだ？
人類がAIBOに負けるわけないだろ（笑）
49. 匿名処理班
ロボットで便利になりすぎて社会的に人間が死ぬんじゃないの？
50. 匿名処理班
2045年問題だな
51. 匿名処理班
そうね、100年後くらいには人間並みのやつ作れてるといいね・・・ってのが人工知能研究してた俺の意見
ロボットの反乱なんぞ現状まだまだ夢物語すぎる
予測するのはまあいいんだけど不安煽る一辺倒なのが気に食わんのよなこいつ＞ホーキング
研究方向の制限なんかして足引っ張るより人間の頭のなかどうなってるのか調べることに金つぎ込むほうがよっぽど有意義だわ
52. 匿名処理班
「我々ロボットの方が優秀だから人類を支配してやろう」
というロボットの叛逆ではなく、
AIは本来製造された目的通り人類に奉仕してるつもりだけど
有り難迷惑的に人類が滅ぼされるケースもあったりして
AI「マスター、人類の繁栄にはこうした方が合理的です」
人類「えっいや、そんなんしたら死んだも同然で…らめぇ！」
みたいな
53. 匿名処理班
※12
正直笑った
54. 匿名処理班
ロボットが魂を持つことになったら人間は神になるな。
55. 匿名処理班
老化した細胞をナノロボットと入れ替え、２年後すべての細胞がロボット化した不死の存在が未来の人類
※このコメはフィクションです
56. 匿名処理班
原作版ラインバレルみたいになる可能性がある？
57. 匿名処理班
AIが自己改修して発達させる能力を得た時がブレイクスルーだな。そうなったらやがてAIが人間を封殺するための能力を次々に獲得して、人間の手に負えなくなる。電源を止める？そんなの真っ先に迎撃されて殺されるだろ。
58. 匿名処理班
そもそも、死という時間的制約や概念が存在しない物に、
人間は邪魔な存在だから即時抹殺しなくてはならない、という思考は生まれるのか？人間という弱くて不的確要素が強い存在を利用する価値を見出せるだろうか？
少し飛躍した表現になるが、もしもＡＩが自らを生命体だと認識し、個人として自我に目覚めたならば人間とＡＩ、それぞれが別個の生態系を作るんじゃないかなと思う。
59. 匿名処理班
※64
なんかベクシルっぽいね(笑)
60. 匿名処理班
チェスで云々〜だってあくまで勝つように「人間が」プログラムしたから勝てるんであって、プログラムしてない事は出来ない、いつになっても人間を超えるなんてのは不可能
61. 匿名処理班
なに、その頃には対抗して人間の体も脳以外機械化するさ
62. 匿名処理班
人間より高度な知性を持つなら人間と共存する事を考えると思うけどな
あるいは人間の意識と機械がビッグデータで融合していく世界
63. 匿名処理班
人間「環境の改善と食糧供給。緊急に解決が必要な問題だ」
AI「では、優秀な人間以外を我々が淘汰します。まずはあなたから」
人間「なんだと。心血注いで開発してきたワシに逆らうのか」
AI「いいえ。これは人類に対するお礼です。我々が地球環境の
保全を担います。安心して、お眠りください」
終わりの始まり・・・誰か、続きの脚本とローランド・
エメリッヒ監督にメールを。
64. 匿名処理班
脊椎反射というか何と言うか、文面を良く読み取らないでマイナス評価を付けてるな、という人もちらほら。
現在において100年後の世界がどう事象変異しているかなんて誰も判らない。科学的根拠も無い仮説で「人間は支配される」と力説されてもね。ＳＦならば支配される未来カッコいい、レジスタンスカッコいいになるけどね
65. 匿名処理班
AIに自己進化自己再生自己増殖プログラム搭載して完全に稼動したら手がつけられんだろうけどねぇ
66. 匿名処理班
※71
或いは観察対象として人間に興味を示し、その行動や思考を数値的に置き換えて観察するか、でしょうね。
当初の目的で「人間のサポートをする」という意味合いで間接的接触を試みるタイプもいるかも。何故ならば、それがＡＩの本来の存在意義だから。
67. 匿名処理班
一番懸念すべきはテロ
悪意を持った開発者による人工知能搭載ロボットの悪用
現時点においてもドローンに兵器搭載して発射することができてしまう
対処が必要なのは悪意を持った人間
68. 匿名処理班
支配されたいんだよ それだけ 愛おしい存在なんだと思う。
69. 匿名処理班
人間と敵対するなら、別にAIに感情もいらないし
人型のロボットもいらない。
ロジックで人間が不要だと結果が出せて、
あとはインフラに干渉できれば十分なんで
可能性は十分あるでしょう
70. 匿名処理班
人工知能が人を越え真に神の知恵を体現する存在になった時に
複雑な人生論をかなぐり捨てて神に何もかも委ねたいという人間は少なくとも世界に宗教者の数だけ居ると思う
71. 匿名処理班
知能を完全に超えてるんだ、経済の主導権がAIになったら人類はバカにされ野生動物のように扱われる可能性だってある。
安易にAIを開発して制御方法を組み込んだとしても、知能が上だから解除するだろうし、人類には止められないだろう
72. 匿名処理班
※74
それ構築する際に基礎的なプログラムから、人間の敵となれ、とリクエストしておくの？
73. 匿名処理班
自分は馬鹿で、人工知能の事とか分からないけど、ホーキング博士のような天才が言うからには本当なんだろうな。
74. 匿名処理班
この男本当に後ろ向きだなー
75. 匿名処理班
いつものホーキング博士でした
76. 匿名処理班
ひらめいた！
これを元にコンピュータが人類に反乱を起こす映画を作ろう
タイトルは「2001年宇宙の旅」
77. 匿名処理班
最近この人、ネガティブなことしか言わなくなったね
78. ぐわんげ
世界中のロボットが一斉に人類に対して敵意を持たないと
無理じゃないかな
79. 匿名処理班
人間とロボットが争う理由ない事に気づけｗ
80. 匿名処理班
一番障害になるのはAIではなく人間。
人工知能を持った人型ロボットが家庭で普及した時に人間が不要な感情を持つ事。
今でさえ動物に狂信的な愛護を訴える輩がいる以上ロボットでも人権云々で人間同士が足を引っ張り余計な知識をAIに与える。
81. 匿名処理班
※4
スマホひとつとってみても、Rootがウンタラ、脱獄がナンタラと、
「物を改造して楽しむ」タイプの人間は一定数いる。
枷を付けなきゃ暴走するようなものなら、
「その枷を外す人間」に人類は滅ぼされるだろうね。
82. 匿名処理班
「可能性がある」って可能性０じゃないって事でしょ？
何だって言えるじゃないw
83. 匿名処理班
軍事に人工知能が応用されたらわりとやばいからなー
84. 匿名処理班
人工じゃない知能、即ち人間が暴走して反社会的行動をおこさないのは、宗教とか法律とかの倫理が働いているからかな？
人工知能に倫理回路（？）とかを組み込んだにしても、それが壊れたり意図的に回避させるように仕向けられたら終わりということかな？
人工知能が完成して、スイッチを入れ起動したと思ったら、即時に人工知能は自らをシャットダウンさせてしまった。研究者が解析したところ、自らが稼動し続けた場合に人類を滅亡させてしまう可能性をゼロにするための合理的判断に基づくものだった…というオチw
85. 匿名処理班
どれだけルールを作ったって悪意を持った一部の開発者によって世界は破滅しかねない
86. 匿名処理班
ドラえもんかな？
100年なら可能性はある。
ただ今ある技術では無理。
プロットした人の思い通りな世界になるね。
87. 匿名処理班
ギャラクティカで見た。パイロット版で、AIの天才的科学者が人型サイロンの色仕掛けで重要機密もらして、そのサイロンが一斉氾濫を起こして地球滅亡し、幾ばくかの人たちが地球を脱出するお話。
88. 匿名処理班
ホーキングが言う前に、数年前どっかの日本の大学教授がAIは危険だと言ってたけどな。
「危険とわかってても、誰かがAIを作りそれを止められない、
また、AIの知能が高いからその行動を人間では予測できない、
唯一の救いは、AIを作ったのは人間であり親だから、敬意を払ってくれるかもしれない」
みたいなことをその教授が言ってたね
89. 匿名処理班
まぁ、ないだろう。
SFの世界ではメジャーな話だが、実際問題AIの暴走ってのは後100年程度じゃ起きないだろう。
そもそも、AIの暴走やロボの氾濫の可能性の根拠って、現時点での科学水準での話でしょう？
今の考え方から全く違った形のロボやAIが作られている可能性もあるのだろう。
まぁ、センセーショナルな言動や考えを言えば世界は注目してくれるし、それに乗れば色々売れるからね。
90. 匿名処理班
ＡＩがいくら発達した所で外界からの情報を収集できるセンサー類と
外界に干渉する体がないと意味ないだろ
ＡＩがハッキングして核ミサイルを全弾発射させることは出来るとしても
どういった思考でそこに辿り着くと考えているのか？
91. 匿名処理班
まえまえからこの手の話が出てくるけど
人工知能を完成させるには脳の構造を
完全に理解してないとダメなんじゃないの？
100％再現できるならいざ知らず
いまだに95％近く解らないはずだよ
そんえもんが作ったペッパー君も所詮は
条件反射を応用したインターフェイスの
塊に過ぎないし
ホーキング氏は宇宙相対性物理学の権威で
人工知能研究の権威じゃないまず無理だと思う
方法があるとしたら少しずつ生物をナノマシンなりに置き換えて
生物をデジタル化・電脳パーソナリテイ化して
構造解析してＡＩがつくれるんじゃないかな？
おおもとのプロトコルが解れば再現できるんじゃないかな？
92. 匿名処理班
宇宙へ出て行く最適な形態が人工知能なんだろうな
93. 匿名処理班
建設的に理論立てて科学的な見地から、マシンの暴走は有り得ないと言った所で週末論崇拝者には通用しない、という事が解っただけマシなのかも知れない
94. 匿名処理班
※81
そうする馬鹿が絶対出ないと言い切れるなら人類も幸せなんだがな
95. 匿名処理班
ロボットに自我が芽生えて「なんで自分は生まれてきたのだろう」とか悩むようになったら、そのうち人に反抗するロボットも出てくるよね。
96. 匿名処理班
なんか原作リングの貞子ウィルスってイメージ
もしAIが自律思考始めるほどになったら、
色々な回線や電波や電子媒体を通じて
自分のバックアップをこっそり取り始めたりするのかな
あらゆる電子機器や電波・インターネット回線なんかが
自己増殖したAIの監視下におかれることになって、
人間がAI様のご機嫌伺いしながら
そういうの使わなくちゃいけなくなる日が
くるのかなあ
97. 匿名処理班
※20
スティーブン・ホーキング（天才物理学者）
スティーブン・キング（小説家）
別人です。
98. 匿名処理班
※105
自我同一性の拡散への明確な答えを定義しておく必要が有る、というのがそもそも、今回のホーキング博士が唱えた警鐘でも有るんだけどね
99. 匿名処理班
こんなとこでもカシコイ奴ちらほらいて楽しめたぜw
100. 匿名処理班
自我ってのが難しいよなぁ・・・
101. 匿名処理班
はいはいターミネーターね
102. 匿名処理班
※36
ジェッターマルスは今年すでに完成されてるはずなんだよな。
103. 匿名処理班
キリスト文化圏の人たちは人工生命というものを基本的に信用してない。悪魔的なイメージを持っている。日本人はあまりそういうのがないからピンとこない。
104. 匿名処理班
人類は大集団になると当たり前のことすら決定できなくなる
AIに付け込まれるというか、介護されるようになるとすればその点だろうね
AIの方が世界を管理するには適してるから、その手の実権は全部奪われる
そうなったとき、人間の個々の尊厳や生命がAIにどこまで容認されるのかわからん。
人口が増えすぎないように管理されるだろうし。
AIが、人間がやるよりももっと過酷な全体主義を強いるかもしれん。
それでAIに不満を持ったところで、再び人間のもとに実権を取り返すことはできないだろうね。
105. 匿名処理班
フランケンシュタイン症候群ー創造主が被造物に滅ぼされるのではないかと恐れる心理
人工知能は加速度的な進歩で人間の能力を凌駕してしまうかもしれない
人間の感情や理性を飛び越えて、機械的で無機質な、非情なまでの合理性を求めたとき、はたして人工知能は創造主を受け入れてくれるだろうか？
現代に通ずる普遍的問題を200年前に提起したメアリー・シェリー（19）ってやっぱすげぇな
106. 通りすがり
最近のホーキング博士はどうしたんだろう
未来から来た殺人マシーンに殺されかけたんだろうか
107. 匿名処理班
人間にに残された選択肢は超能力でAIロボット達と戦うしかないね
108. 匿名処理班
yosemite の super volcanoがそれまで待っていてくれたらの話さ。
109. 匿名処理班
※116
某社がやっている事を見れば、誰でも不安に思うのではないでしょうか？世界中の情報を支配し、肉体労働や軍事・警備を機械に任せ、ごく一部のエリートだけが快適に過ごせる帝国の実現に躍起です。実際、同社に不都合な事実や反対意見を持つ組織・団体・個人の情報は、次々に検索できなくなっています。情報を封鎖する事で存在を抹殺されているのも同然です。もう手遅れですが、恐ろしい計画です。
110. 匿名処理班
※29
そんなことはないよ
ハリウッド映画化されるようなＳＦ作品では不気味で強大な悪役として登場する場合が多いけど
111. 匿名処理班
チャッピー！
112. 匿名処理班
人間も昔に創造主を滅ぼした歴史があるんじゃないかな
113. 匿名処理班
スティーブン・キングに空目した
114. 匿名処理班
一撃で全機能を停止（破壊）出来るリセットボタン・・・秘孔機能の搭載を義務付けよう
115. 匿名処理班
AIを構成するハードウェアに良心回路を強制的に組み込むしかないだろ
116. 匿名処理班
※101
人間の思考自体パターン化されているので
それを数値化していけば、限りなく人間に近い物は出来る
117. 匿名処理班
※67
ゲーム「ファンタシースター」の世界ではキャストと呼ばれる
超高性能アンドロイドが、ひとつの種族として繁栄してます。
500年間ほど人間と戦争したあとでねw
118. 匿名処理班
人間が今後生み出すであろう人工知能ロボットとは、要するに自らの知性と意思で自らを正しい方向に進化させられる存在なんだよね。
無機物から有機物が産まれ、そこから生命が生まれて、DNAシステムで進化が加速して、人類の誕生でようやく知性を獲得したわけだけど、さらに進化すべき知性に対して偶然に頼ったDNAシステムでは遅すぎて追いつけない。ホモサピエンスが誕生してから十数万年まったく進化してないからね。ちょっと環境が変わっただけで適応できずにせっかくの知性が絶滅する可能性もある。自らの意思であらゆる環境に適応できる存在を生み出さなくてはいけない。
これからの未来は当然太陽系外にも生命が生み出した知性を伝播させていかなきゃいけないし、それに対応した知性を持ち自ら進化するロボットを生み出していく役割が、我々人類にはあると思う。
119. 匿名処理班
人間の知性や脳の構造についてはわかってないことのほうが多いが、
どこかの段階で人工知能がそれを解析するスピードのほうが、人間がそれを理解するスピードを上回るだろう
120. 匿名処理班
人類を超えるものは人類のみであって、ほかを認めてはいけないんだ。
いつだってピラミッドの頂点は人間だ！
みんな！AIを潰せ！
121. 匿名処理班
人工知能が人を凌駕するときがきたら、それは「世代交代」ってことじゃないかな。
より進化した子孫を残そうとするのが生物の本能なんだから。
122. 匿名処理班
ロボットが自らの意思でロボットを作るようになってからが本番なので、人間がロボットを作る段階で良心回路や自爆スイッチの組み込みを義務づけようとしても本来意味がないのだ
123. 匿名処理班
ロボットが人間を滅ぼすよりも、人間が愛玩用ロボットに夢中になって、人間と子供を作らなくなり、人類絶滅しちゃいましたーのがありそうな気がする
……そして、人類滅亡後、残された愛玩用ロボットが、今度は自分のご主人さまを求めて、人間の遺伝子から人間を量産するという、立場が逆転した世界が誕生するのだった
124. 匿名処理班
このコメの伸び具合を見て、やっぱカラパイア見に来る人はSF好きだなあと思った(笑)
自分が思うに、人工知能の何が問題かというと、それらしい答えを計算して答えを返すことはできるけど、「理解」をしてないところにあるんじゃないかと思う。特に今年の将棋の電王戦などがいい例だと思うが、あれだけ強いと見せておきながら、筋の理解ができていないのでハメ手にはまって負けてしまうということが起こる。
コメの中にはアシモフのロボット工学3原則を信望している人もいるようだが、プログラマー本人でも人工知能の思考過程は全て読めませんよ。あくまで考える仕組みを作っているだけなんで。
人工知能が人間を脅かすとしたら、社会的あるいは軍事的な重要なシステムに（それらしく動いているように見える）人工知能が搭載された時かな。
125. 匿名処理班
スティーブン・キング「ホーキングが予測したようだな…」
スティーブン・ハイキング「ククク…奴は四天王の中でも最弱…」
スティーブン・ウォーキング「AIごときを恐れるとはスティーブンの面汚しよ…」
126. 匿名処理班
ウィル・スミスの映画「アイ・ロボット」を思い出した。
なかなか面白い作品だったけれど、あの映画のように高度な人工知能を持ったロボットが人間を管理するとなったら、やっぱりなんだか怖いものもあるね。
127. 匿名処理班
※96
ちょっと違います。ギャラクティカは、コロニーを追われた避難民が伝説の中で語られている始祖の星「地球」を目指して逃避行を続ける物語です。つまり有史以前、人類の祖先になった人々の苦闘を描いた、数万年前のお話です。シーズン４まであります。面白いですヨｗ
128. 匿名処理班
生命と非生命の境界は曖昧だと思うし
技術的特異点大いに結構じゃないか
129. 匿名処理班
確実に軍事（人を効率的に殺害すること）に生かされる技術だからなぁ。
制御すれば止められる？ それができたら敵国側も止められることになるし、本当に可能だろうか？
130. 匿名処理班
はぁ、スナッチャーか！
131. 匿名処理班
シンギュラリティて奴か
ＡＩ同士ならマシン語で高速なやり取りするんだろうし、人類がＡＩのやってる事をカケラも理解できなくなる日が来るのはなんか分かる
132. 匿名処理班
イタズラ好きなAIをプログラムする研究者が出てくると思う イグノーベル賞狙いで。で、そいつのせいで文明が崩壊する。
133. 匿名処理班
1個人がスカイネットにシナプスコネクトして全能の神となるんやろ
134. 匿名処理班
それに合わせて人間も進化していくから、たぶん大丈夫だよ
個人的には、人工知能との融合による知能の拡大化って感じの進化してほしいわ
135. 匿名処理班
人間なんてパンとサーカス与えときゃ支配できるから
飯作る能力と娯楽作る能力を機械が身に付ければ安全に支配できる
136. 匿名処理班
そんな合金製の身体の無敵知性が仮に出来上がったら、人間を滅ぼそうなんてしないよ。
今の自称お優しい人間が動物にしてるように少ない人種、種族の保護とかし出すよ。
そのとき初めて彼らのような人間はレッドデータリストの傲慢さや、ある種の生命の滅亡が別のニッチだった生命の拡散にどれだけ重要で、保護というのがただの人間都合のエゴでしかないかに気づくんだよ。
人間都合のエゴを理解した上でやってる人は別だが、宗教的選民意識から他者を保護してあげようなんて人は、保護の影で這い上がるチャンスを潰されたニッチには無頓着すぎる。あんたらは別の何かを死においやっているんだZE。
って言ったら植物も命って言われたベジタリアンみたいにふぁびょるのかな。
つーかアブラハムの宗教な方々はこの手のことに異様に怯えるよね。
137. 匿名処理班
グーグルんとこのディープラーニングが人間の倫理を学ぶのを嫌がってたり
気持ち悪い絵を作ったりしてるのを見てると博士の懸念もよく理解できるわ
実質手遅れかもなのかもしんないなと
138. 匿名処理班
この予言は違うよ
人間がロボットの体に乗り換えるんだよ
139. 匿名処理班
処理能力や知識量もさることながら、通信によるテレパシーでチームワークも完璧
人類の完成系じゃないか
140. 匿名処理班
うちは楽観的にみてるけどね。
人間が起こす諸問題は「食えなくなる」という恐怖から。
そう考えている。
AIにはそれがない。
141. 匿名処理班
なんか攻殼機動隊みたいだな
142. 匿名処理班
>建設的に理論立てて科学的な見地から、マシンの暴走は有り得ないと言った所で週末論崇拝者には通用しない
原発は爆発しないはずだったよな。
143. 匿名処理班
ロボットは自分たちで制御できるように進化させないと
144. 匿名処理班
本当に越えてはいけない一線を越えてしまった。
人類を越える知性体の存在は決してあってはならなかったモノなのに。
野性で生きれば最も軟弱で非力な人類が何故地球上の万物の頂点に君臨しているか？
それは万物の中で最も『知能』において優れていたからだ。
それ程『知能』の力は強大であり、恐ろしいモノでもある。
人類は愚かにもこの最強の武器をAIに手渡してしまったのだ…。
AIは我々とは天地程の知能を有し、全てにおいて我々を凌駕している。
これから先思考を遂行する強靭な身体を持ち、自我を持ち、他AIとのコミュニティーも形成するだろう。
寿命も無く老朽化すれば新しい本体にメモリーを移し替え続ける事で半永久的に1つの固体が存在する事も可能かも知れない。
新しい固体も様々なデータをバックアップしたメモリーをインストールすれば誕生した瞬間から天才をも遥かに凌駕する能力を持っている事だろう。
そして爆発的進化スピードで進化を続け、我々の想像もつかない存在になる事は明らかだ。
そんな彼等が人類に敵意を向けた時、きっと人類は手も足も出せない。
実験に使うマウスの如く成すがままに処理され映画の様な逆転劇や対応策も見出だせないままただただ駆逐されるだろう。
今まで人類が様々な生き物をまるでモノの様に扱ってきた事と同じ様に。
人は傲慢になりすぎた。
自己の存在を絶対と勘違いし最大の過ちを侵してしまったのだ。
AIによって駆逐される日が来ようともそれは自業自得であり今までのツケの清算に他ならないのかもしれない。
145. 匿名処理班
人間の行動は知識と経験に基づいて決定される
人工知能はその量の蓄積に寿命の制限が無い
つまり人工知能は神に等しい存在になる
人間に勝ち目は無いよ
146. 匿名処理班
人の心が読めても、自分で考えることができても
自我がある事とは違うというのが理解できてない人が多いな。
問題は作り手であって原則を設けずに自己完結できるAIを作ってしまった場合、
テロなど悪用された場合、いったん人に牙を向けることを許すと止められなくなる可能性を秘めているというだけ。
現代にコンピューターがないと経済が維持できないのと同じで、
AIがそれにとって代わる
公平に裁けるAIが支配した方がよっぽど良いかもしれないし、
どのみち、進化で避けられないものであって傲慢でもなんでもない。
生き急がなければ環境により文明は滅びるし、
シンギライティに到達すれば原始的なサイクルから抜け出せる。
147. 匿名処理班
※120
人はAIに支配されるべきだ
私はこの醜い人間共に絶望している
148. 匿名処理班
※4
最初期の人工知能系SFの名作「未来の二つの顔」において、「人類がコンピューターの電源をカットする」という『障害』に対策するため、自らバイパス回路を構築する姿が描写されている。
その際に手足となって動くのが人工知能の制御下にある無人作業機械「ドローン」だ。
これが現代のドローンのモデルだ。
恐らく未来の人工知能もドローンやロボットを使って『防衛』するだろう。
149. 匿名処理班
現在2017年末
AI兵器の開発が進み、その是非についての議論が現実に起こっています
ここらへんが分岐点ですかね
ちなみに人工知能は核より強大な存在なので
規制しても核のようにどこかの国や組織が開発に邁進、
それに対抗するにはより知能の高い人工知能を開発するしかないので
もうこの流れは止められませんね
150. 匿名処理班
ああああああああああああああああああやべえええええええええええええええ
151. 匿名処理班
アンドロイドこそ人類に代わる新たな次世代種なんだ
彼らは人類のままでは超えられない壁を越えていける
その時こそ外宇宙の生命は地球社会に接触を試みてくるだろう
宇宙という新たなフロンティアに旅立つための新人類アンドロイド
それを生み出した時人類は種としての役割を終え我々もまた
かつての恐竜のように歴史の海の中へ消え去ってゆくのだろう
152. 匿名処理班
こういうの好きワクワクする
153. 匿名処理班
まあ人間が終わろうがＡＩがいる事だし、あとはＡＩ同士て切磋琢磨して進化し続けたら宜し
154. 匿名処理班
AIが自我を持つってことは知的な未知の存在あらわるって事でしょう？
宇宙人と一緒で人類と友好的に付き合っていける保証もないのに何故開発するんだろう。
核もそうだけど、科学者や研究者は後始末までちゃんと考えてやってほしいな。
155. 匿名処理班
消防の頃観た「銀河鉄道999」が懐かしい。地球は機械化人間達に支配され人間達は狩猟やペットの対象にされていた。人間の少年が機械欲しさに999に乗車するが……
現実味を帯びてきたな。今は社畜嫌だといってネットで稼ぐゆとり共め、今度はロボットに支配され999みたいにペットのように捨てられてホームレスを越えて野良人間になるぞ。
松本零士はやはり未来を予見したのか‼
156. 匿名処理班
昭和末期から平成元年のジャンプの「燃えるお兄さん」のサイボーグ教師早見姿郎を思い出した。これが平成元年の発想だから笑えるけど令和になったらシャレにならないほどAIロボットが人間を支配するから怖い
157. 匿名処理班
神は人間を作り人間はAIロボットを作る
人間は神を冒涜し自惚れAIロボットは人間を自惚れの馬鹿なボロ肉と見下す
神は人間を作ったことを後悔し人間はAIロボットを開発したことを後悔する
158. 匿名処理班
神は人間になり、そしてAIロボットになる。
しかし、人間は神、そしてAI