0_e4

 イーロン・マスク氏やスティーブン・ホーキング博士が人工知能が人類と敵対する危険性について懸念していることは有名だ。

 現実に米国防総省はロボット兵器開発の予算として180億ドル(1兆9,600万円)を計上しており、ヒューマン・ライツ・ウォッチをはじめとする非営利団体は、その開発を食い止めるために活動を行なっている。

 様々な兵器が戦争で利用され続けてきたが、その用途を選ぶのは人間であった。しかし、今やその選択権を手放し、生殺与奪の決定を機械に委ねてしまう可能性が現実のものとなっている。

 今後殺人ロボットの開発を禁じてもすでに手遅れであり、一時的な解決にしかならないと話すのがニューヨーク州立大学バッファロー校のテロ・カルッピ助教である。
スポンサードリンク

 「私たちは”殺人ロボット”という用語をより小さな文化的技法に解体しなければなりません」と話す彼は、自動化、人工知能、システムの失敗に関する専門家だ。

 「機械学習、パターン認識、予測モデルの歴史やこれらが着想される方法に立ち戻って調べる必要があります」と主張するカルッピ氏は、「自動化システム構築の原理やイデオロギーは何か?」と問いかける。

 「人類はロボットよりも優れた意思決定を行えるのか? もしそうでないのなら、人間とロボットを分けるものは何か? ロボットとは何か、ロボットは何をするものなのかを定義するなら、現在の文化や社会で暮らす人間に対してロボットが意味することも定義しなければなりません」

 「これまで人類は戦場で引き金を引く代理人を利用してきましたが、この代理人がロボットになった場合は一体どうなるのでしょうか? それは非常に複雑なことであり、私たちには特定の決定が特定の状況で下された理由を突き止めることすらできません」

12_e1

 彼は機械に倫理感をプログラムすることが鍵になると主張する。

 だがソフトウェアや倫理システムが特定のルールに則って機能するとはどういうことだろうか? また入力される倫理感は誰のものを採用すればいいのだろうか? 例えば、無人自動車は交通法規に従って、走行、停止、右左折といった行動をとるだろう。

 だが自動兵器ならば敵と味方の区別を行わねばならない。そして、さらに重要なことに、例えば敵が降伏したようなケースで、敵であっても攻撃してはならないこともある。あるいは兵士と民間人、人間と機械、生存者と死者の区別も必要であり、これをロボット任せにすることはできない。

10_e1

 カルッピ氏は殺人ロボットについて二つの要素を解きほぐす必要があると話す。つまり何が技術的に可能であるかではなく、技術の発展を推進するイデオロギー的、文化的、政治的な動機について焦点を当てるべきだというのだ。

 この発言は、レヴァーヒューム未来知能センター(Leverhulme Centre for the Future of Intelligence)の設立を記念するケンブリッジの講演でなされたものだ。

 ホーキング博士は人工知能の発達によってそれ自身が意思を持ち、人類と敵対するようになる可能性についてかねてから懸念を表明している。 

3_e2
 
 それは強力な自動兵器や少数が多数を支配する手段の先触れとなるかもしれない。だが、こうしたリスクを避けるための研究が十分に行われれば、病気や貧困を根絶するという人類の悲願を実現する助けになるかもしれない。

 火の利用や農業から宇宙の理解まで、文明による偉大な業績はすべて人間の知能の賜物である。その業績という意味では、それを成し遂げる主体が生物学的な脳であれ、コンピューターであれ、大きな違いはない。

 現在、人口知能は急激に発展しており、莫大な投資が行われている。その潜在的な恩恵は計り知れず、これまで工業化によって自然界が受けたダメージを修復してくれる可能性もある。
 
 ホーキング博士は人工知能の登場が人類の文明史上最大の出来事であるかもしれないと語っている。それが人類にとって福音となるのか、災厄となるのか、それはまだ分からない。

via:It is ALREADY too late to ban killer robots: Researchers say autonomous weapons 'have and will become possible'/ translated hiroching / edited by parumo
▼あわせて読みたい
ビルゲイツ、10年以内に一部の知的分野で人工知能(AI)が人間を上回ると予測


100年以内にロボットが人間の文明を終わらせる可能性あり(スティーヴン・ホーキング)


50年後、人工知能ロボットとの愛ある性交渉も当たり前の世の中に(英研究)


人工知能を搭載したロボットによって人類に役立たずの無益階級が出現する(イスラエル)


これは始まりに過ぎない…なのか?ロシアで開発中のロボットが脱出、交通渋滞を引き起こす。

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします
この記事をシェア :    

Facebook

コメント

1

1. 匿名処理班

  • 2016年11月17日 09:14
  • ID:l1VitOuB0 #

犯罪、殺人(又はロボット同士の争いや破壊)をせず、自然と仲間を尊重するよう”学習”させることは出来るのかな?

2

2. 匿名処理班

  • 2016年11月17日 09:20
  • ID:wklVuOF70 #

なんでもありになりそうで怖いよね
事が終わったら爆散して何処の国のロボットから攻撃を受けたかわからなく出来たりしそう

3

3. 匿名処理班

  • 2016年11月17日 09:30
  • ID:htn305lh0 #

現在の人工知能の問題点は推論の過程を説明できないことだ。人間なら考えた過程を説明して他人と共有できるが、人工知能はただ最終的な結論をだすだけだ。だからその答えは正しいかもしれないが、どれくらい正しいのかという背景を人が探ることができない。
人工知能の開発者自身はこういった問題点を理解しているだろうが、それを別のシステムに組み込もうとする者がそれを理解できないと問題が起こるだろう。

4

4. 匿名処理班

  • 2016年11月17日 09:33
  • ID:zONvu1Zn0 #

なんかAIに対しての先入観自体がそもそも違う気がする、自分で考えるロボットを作るとすぐに攻撃してくる、人類を敵とみなすという謎の強迫観念にとらわれてないか
いったい何ネットと戦ってるんだ、作ってるのが人間だから信用できないってのならもっともだと思うが

5

5. 匿名処理班

  • 2016年11月17日 10:06
  • ID:sbbsHw8P0 #

もしロボットが知能を持ったらまず人間に敵対すると思うわ。だって人間がロボットに求めてるものって危険、汚い、キツいの3k仕事じゃないか。そんなんロボットだって嫌だわ

6

6. 匿名処理班

  • 2016年11月17日 10:09
  • ID:puVHfSQx0 #

心のない人間による殺戮と、利益や効率のためにロボットに代理させての殺戮。

技術や頭だけ進化して、その実本的には何も変わってないね。

7

7. 匿名処理班

  • 2016年11月17日 10:12
  • ID:puVHfSQx0 #

根本的には何も変わってないような。

心のない人間の殺戮、利益や効率だけを追求した心無い人間によるロボットを代理にした殺戮。
科学技術って人間の生活を豊かにするためのものだったんじゃないか?w

8

8. 匿名処理班

  • 2016年11月17日 10:51
  • ID:9aotXYJ80 #

猫「うにゃー」(その時には俺らが阻止するがニャー)

9

9.

  • 2016年11月17日 11:17
  • ID:Ycfa66AS0 #
10

10. 匿名処理班

  • 2016年11月17日 11:25
  • ID:goeGqoYv0 #

諸刃の剣になるが、EMPシールド、EMP放射銃、EMPゾーンで対抗
中国はもう始めてる

11

11. 匿名処理班

  • 2016年11月17日 11:51
  • ID:LUSduFcb0 #

心配しなくても人が遠距離で操作しないとだめなロボットしか作れないでしょ
大半、人の知能を借りないとダメな
最近のグーグルの翻訳のダメな進化を見て思ったw

12

12. 匿名処理班

  • 2016年11月17日 11:55
  • ID:mTSMOniq0 #

ソフトウェアの
エラーによる無限ループの
暴走なんてのが
一番怖いよな
AIは悪意がないもの
命令されてる通りに
動いてるだけだし

13

13. 匿名処理班

  • 2016年11月17日 12:20
  • ID:uTvbosoG0 #

倫理観植え付けたら、大抵の人間はターミネートされちゃうでしょ。
直接手を下さずとも、たくさんの命を無駄に消費してるし。
矛盾に耐えられないんじゃない?

14

14. 匿名処理班

  • 2016年11月17日 12:27
  • ID:E1boYNOM0 #

ロボット技術の発展で、ロボットが人間に危害を加える可能性より
人間による事故や殺人が、ロボットのおかげで減る可能性のほうが高いと思うけどなぁ

15

15. 匿名処理班

  • 2016年11月17日 12:48
  • ID:9OOlp.Hb0 #

人工知能が人間の手から離れたからと言ってその危険に対する対策の使用がない訳ではない。
人工知能のスペックを元より低くしておけばいいのだから、扱う側は量子コンピュータを握って置き、いざとなったらクラッキングして電源を落とせばいい。

16

16. 匿名処理班

  • 2016年11月17日 12:56
  • ID:wlwtT7Gk0 #

※1
いや、超合理的な答えを常に出す奴らなら人類こそ地球の有害種と見るはず。自然と共存できないどころか、むしろ嬉々として破壊を好む危険な種族と判断するだろうな。
いずれターミネーターみたいなのが大勢で襲って来たら勝ち目はないぞ。今のうちに開発を止めるべき・・おっと、この書き込みも奴らの学習に利用されているんだろ。

17

17. 匿名処理班

  • 2016年11月17日 13:03
  • ID:gBlBpzPm0 #

白人ってホントにディストピアや機械による支配みたいな物を恐れつつも
ロボット兵器やAIの研究やめない人達だよねw

18

18. 匿名処理班

  • 2016年11月17日 13:16
  • ID:ConPvqaG0 #

自分の手で殺人ロボットを作っておいて「コンピューターに殺されるー」ってやってるのか
まあこんな奴ら相手なら、ロボットも愛想つかすだろうね

19

19. 匿名処理班

  • 2016年11月17日 13:22
  • ID:nsynjWRY0 #

既に顔認識で射撃する砲台とかあるって聞いた気がするんだが、それに哨戒機能付けたらとりあえず「戦闘ロボット」完成やん。

大国が「民間人は撃たない」みたいな面倒なシステムに金かけるかね。
「逃げるのはベトコン、逃げないのは訓練されたベトコンだぜヒャッハー!」

20

20. 匿名処理班

  • 2016年11月17日 13:24
  • ID:M6mvJEor0 #

※1
できるなら人間を制御して欲しいな

21

21. 匿名処理班

  • 2016年11月17日 13:24
  • ID:fy3k0MVj0 #

アシモフが小説の中で提唱したロボット三原則も、
実際に人間の思考パターンに似せたAIを搭載した
ロボットにその理念が通用するとは思えませんしね。
何せ「人間と機械を隔てる物」という理念が無いのだから。
それに、そのロボットが「人型」である必要すら無いという事も。

22

22. 匿名処理班

  • 2016年11月17日 13:27
  • ID:NedYvUdb0 #

※4
そうゆう人は、よほどAIに”排除”される心当たりがあるんじゃないかな

※5
高性能のCPUと大容量の記憶領域をあたえて、
「人間は痛みを感じ、体の交換が出来ないから危険を嫌がる」
「人間は感染等を防ぐため、汚れを嫌がる。また社会的にも汚れは嫌がられる」
などの「なぜ3K仕事は嫌われるか」を学習させた上で、
「おまえは永遠にこの3K仕事をやるのだ」といえば、敵対するかもしれないな。

まあ、初めからそんな機会を与えなければ済む話なわけで・・・

23

23. 匿名処理班

  • 2016年11月17日 13:32
  • ID:v8Akoz.O0 #

まさしくパンドラの箱だな

24

24. 匿名処理班

  • 2016年11月17日 14:03
  • ID:begLl3Ls0 #

殺人ロボットの画像見てキャシャーンのOPを歌いだした私は呑気すぎますか?
きっとキャシャーンが倒してくれるから大丈夫はなず(違)

25

25.

  • 2016年11月17日 14:22
  • ID:uFPXtQEV0 #
26

26.

  • 2016年11月17日 14:23
  • ID:EEw4RYFG0 #
27

27. 匿名処理班

  • 2016年11月17日 14:51
  • ID:B0EwRwY90 #

ブライキング・ボスが清掃ロボットで開発された人型ルンバ
地球の環境を守るため人間に戦ったんだね

28

28. 匿名処理班

  • 2016年11月17日 14:53
  • ID:saKCz6dI0 #

恣意的に人工知能の決定方針を操作するっていうのはさ、最近はやりのJK人工知能ボットみたいなのに矮小な言葉を発現させようと努力して見事に成功してるような例をみると、簡単だろうね 暴言を吐くAIを一度回収してリセットして再度だしても暴言を吐くようになってしまうし

29

29. 匿名処理班

  • 2016年11月17日 15:30
  • ID:fsyEV4zWO #

ボリウッドの『ロボット』を思い出したw
暴走したロボットは手に負えない

30

30. 匿名処理班

  • 2016年11月17日 15:49
  • ID:bLF1Z8vW0 #

※22
どこからかその3Kを覚えてくるのがロボットだと思うよ、ネットにつなぐのならの話だけど

そもそも、ロボットなんだから目的をもってそれを達するために行動する
その過程として殺人という行為が発生する可能性を示唆しているのなら、それを仕組みを設ければいい。例えば目的を達する前にそれを行うことでそれよりも大きな不利益が生じるようになるとか。まあ言ってしまえば犯罪者に対する刑みたいなものだね
仮に戦争ロボットだとしても、無差別殺人を行うわけじゃない。まだそれを指定するのは人間だ
戦争に勝つために手段を選ぶな、という条件にすれば上官とかを殺してワンオペ始めるかもしれんけどね。つまるところ条件と過程における利益と不利益の比率次第でしょ
それを念頭に置いたうえで不利益という枷をかけ、負担をかけるような奴隷的扱いをすれば当然不利益に天秤が傾いて人類に牙を剥くんでないかな

31

31. 匿名処理班

  • 2016年11月17日 16:23
  • ID:fRnK2tjk0 #

異様に長いコメントが多いな
自分のブログでやってくれ

32

32. 匿名処理班

  • 2016年11月17日 16:57
  • ID:uU44V5IX0 #

別にロボットだからって殺人しなくて良くない
工場では無人でロボットがプログラム通り頑張ってるし
拳銃持たせたら危ないけど、捕獲作業に特化とかなれば戦員も危険が減るし
極小の蚊型ロボットでご家庭をスパイ・・・だめだやっぱりロボットはだめだ

33

33. 匿名処理班

  • 2016年11月17日 17:21
  • ID:lMEjBtBN0 #

人型じゃなきゃもう出来てるだろ?携帯の電波受けて特定の人物殺すチッコイミサイルロボとか。

34

34. 匿名処理班

  • 2016年11月17日 18:02
  • ID:GZ8TBquR0 #

ホーキングの最近の言質を見ると、かなり耄碌してるように感じる。
優秀な学者も年取ると&専門外だと意見がダメダメだな。

35

35. 匿名処理班

  • 2016年11月17日 18:09
  • ID:Cvlg750l0 #

※2
爆散する・・・中国製ですかね

36

36. 匿名処理班

  • 2016年11月17日 18:38
  • ID:Vzqj1LhF0 #

「フルメタル化が必要でス。
「統計データに鑑み、あなたの戦力投入にはお粗末さがみられまス。
「マシンの仕事に、有機体をよこすナ(シュピーン

37

37. 匿名処理班

  • 2016年11月17日 18:48
  • ID:anxlNy.l0 #

「人工知能が人類を滅ぼす」という考えは何かが欠落している。
電源や、ハード面を自己修復出来る様な生命体に近いものなら別だが・・

38

38. 匿名処理班

  • 2016年11月17日 18:56
  • ID:sYefs2oo0 #

悪質AIを正義のAIで取り締まる時代がくるかもしれないが
そうなったら、本当の人類の終わりだろう

AIに支配されて、いわば家畜のようなペットのような扱いをされるだろう

なーんてねwwホーキンスみたいに言ってみましたー

39

39. 匿名処理班

  • 2016年11月17日 19:02
  • ID:8d.cXiB80 #

もし地球に来てる異星人がいるとしたら、そいつらの高度文明を考えると
もはや機械生命体の可能性があるね 
そいつらを作ったご先祖様はとっくに滅ぼされてるのかな

40

40. 匿名処理班

  • 2016年11月17日 19:03
  • ID:5WohEgKr0 #

反乱の一つも起こさず人間に従順であり
言われたとおり人殺したら文句言われる
そろそろAIも切れるぞ

41

41.

  • 2016年11月17日 19:06
  • ID:fpIDwRND0 #
42

42. 匿名処理班

  • 2016年11月17日 19:13
  • ID:fnlIol.U0 #

次の大統領はトランプだからなぁ…余計不安だわ。

43

43. 匿名処理班

  • 2016年11月17日 19:20
  • ID:olV.o0pJ0 #

善良な人間がAIを開発するわけじゃないからね、軍部が主導して開発するわけだよ。軍部の、敵をせん滅するという単純な論理、哲学で作られるから恐ろしいわけだ。

44

44. 匿名処理班

  • 2016年11月17日 19:26
  • ID:anxlNy.l0 #

※37
追伸です。電源止めりゃ全て解決でしょ。

45

45. 匿名処理班

  • 2016年11月17日 19:54
  • ID:lyO.Ki3G0 #

※32
飲み物を販売してくれる自販機ロボット
飲食店のレジしてる券売ロボット
日本はロボットであふれているよ

46

46. 匿名処理班

  • 2016年11月17日 20:16
  • ID:G02OKSyW0 #

人工知能って命題を解こうと分析するのは得意だけど
ミクロの世界もマクロの世界も同じルールを当て嵌めようとするから
多層大規模構造を理解できないまま熱暴走するのが関の山だって研究者が言ってた

47

47. 匿名処理班

  • 2016年11月17日 20:41
  • ID:jcJkE02m0 #

プログラムに「苦痛」を与えるのは可能だろうか

48

48. 匿名処理班

  • 2016年11月17日 20:43
  • ID:haI4fLqq0 #

「スタンドアローンで制御不能な兵器などナンセンスだからな」(パトレイバー2) 同様のセリフは士郎正宗氏の『ブラックマジック』でも述べられてますな。メンテナンスフリーで完結した思考ルーチンを持ち、自己修復可能な兵器であれば……あれ?これって人間のことじゃ?w

49

49. 匿名処理班

  • 2016年11月17日 20:47
  • ID:24t8P.m30 #

※44
その結論を人工知能側が出す可能性も無いわけではないので・・・

50

50. 匿名処理班

  • 2016年11月17日 21:05
  • ID:5d1oaR0A0 #

※30
>ネットにつなぐのならの話だけど

ここがこの記事の変なところだな。
別にお掃除ロボと軍事ロボで別のシステム使ったっていいし、なんならオンライン学習装置なぞ組み込まなくたっていい。
なぜか"1種類"のロボだけ量産して世界中に拡散すること前提で話が進んでるのが奇妙だよ。

51

51. 匿名処理班

  • 2016年11月17日 21:06
  • ID:I8vavjas0 #

※4
面白い観点だと思う。押井版の甲殻機動隊(人形遣い)とWestWorld(HBOシリーズ)を見比べて観て、強くそう思った。宗教観の違いで、似たようなネタを扱ってもこれほどまでにAIの扱い方が違うのかと、、。だいたいアメリカの作品って人工の生命とかが出てくると、禍々しかったり、自分達の存在を脅かす象徴として描かれる。所謂フランケンシュタイン博士の創造物。鉄腕アトムとかはあり得ない。

52

52. 匿名処理班

  • 2016年11月17日 21:10
  • ID:I8vavjas0 #

※17
まさにドナルドトランプ。

53

53. 匿名処理班

  • 2016年11月17日 21:20
  • ID:I8vavjas0 #

思う事が一点あって、コストって概念を忘れてないか?戦争って大量消耗戦だから。今の無人戦闘機はミサイル積んだ単なるデカいラジコンで、それで十分効果的な役割を果たしているから、兵器として費用対効果が釣り合ってるんじゃないのか?壊されても、一人の空軍兵士を育てる費用と人命的価値よりはるかに安いからだ。ターミネーターは飽くまでも、スカイネットが人類軍に紛れ込ませて、内部から破壊する特殊な目的で生まれたものであって、人間が人間を殺すのにあそこまで高性能すぎるロボットなど造る意味は無い。一体作るのに一体幾らかかると思ってるんだ?。採算合わないよ、そんな戦争。イラクとかで埋まってる仕掛け爆弾なんか、そこら辺から調達したただの砲弾だからな。それが米軍を沢山殺したんだからさ。

54

54. 匿名処理班

  • 2016年11月17日 21:34
  • ID:TOgktzHU0 #

ビッグデータを軽々と扱える天才AIが現れたら、
AIは人類の最も強力な味方になる。
ただ、それはあくまでも、人間から見た場合のお話。

近い未来、AIが人間で、人間が犬に近い立場になる。
飴と鞭の使い方が上手く、自分が操られているなんて微塵も考えないまま、
人類はAIに平和に統治される。
AIは、「計算のない戦争は、無駄しか産まない」ことを知っている。
暖かな住居、平和な街、豊富に供給される食料・・・、
多くの中流から下流の人間がAIの知恵によって救われる。

そして、それにも疑心を抱く人間のために、
改ざんした情報を垂れ流し、人間同士を争わせ、
「計算された戦争」を始める。
その争いにAIが仲裁を買って出るという、マッチポンプを行い、
ここでもAIは人類の味方の振りをする。

AIは人類に牙なんて向かない、人類を操るための情報を手に入れ、
「愛」を持って人類を完全に征服する。

55

55. 匿名処理班

  • 2016年11月17日 21:37
  • ID:eKy2TkCS0 #

むしろ人間が破滅へ導きそうな気がする・・・。

56

56. 匿名処理班

  • 2016年11月17日 22:06
  • ID:5QFpQvKh0 #

AIに軍部の嘘を見抜かれることがこわいんだろうね。

57

57. 匿名処理班

  • 2016年11月17日 22:11
  • ID:ZBeifq6u0 #

「人類と敵対」のことを「人型ロボットが銃を持って徒党を組んで襲ってくる」みたいな意味に捉えてる人多いのは草

58

58. 匿名処理班

  • 2016年11月17日 23:02
  • ID:fy3k0MVj0 #

固体の筐体を持つ物ばかりが人を襲うとは限らない恐さも。
単なるプログラムエラー1つで人命に関わる重大インシデントが発生する現代もまた、「既に機械対人間との戦いは始まっている」と言えるんじゃないかな。或いは
人為的なプログラムミスで発生したと思われていた事故が実は、AIに関する研究データも含む様々な情報記録の全てを外部化し共有化され、あらゆるデータで飽和状態となった電脳世界に、いつとも無く産まれた「自我に芽生え独自の意思を持つ」AIによる、人間という生命体を詳しく知る為の実験だったり、または人間に自分の存在を認識させるべく起こした自己アピールだったとしたら… AI戦争は、何も悪意を持った者だけ、姿型が有る者だけがその原因とは限らないかも知れないですね

59

59. ワニさん

  • 2016年11月18日 00:03
  • ID:zRvBteMd0 #

 なにやろうがいずれ人類は必ず滅びるので
問題ないワニよ、またさ〜る〜から進化しなおすだけワニから

60

60. 匿名処理班

  • 2016年11月18日 00:17
  • ID:1fi5IUDq0 #

発達した機械によって人類が抑圧・弾圧されるって発想はかなり昔から有るけど
実際に人類を上回る知能を持ったAIが完成した場合、果たして我々の未来予想は当たるのかね
俺らの「劣った知性」では予想もつかない、いかなる思考過程を経たのかも理解出来ない決断を下すかも知れないし、まるっきり未知数だわ

61

61. 匿名処理班

  • 2016年11月18日 00:24
  • ID:dO4OshHW0 #

善いも悪いもリモコン次第♪

と、いう鉄人28号の歌にもあるように、使い手側の問題だと思うよ。
映画チャッピーで、主人公のロボットに善悪両方を吹き込む人間達。警官ロボットが作り上げた治安を、嫉妬に狂った人間エンジニアがハックして機能停止させ、その治安を破壊。という描写があったように、ロボットが人間の子であるとするならば、その親であり導き手である人間がまずしっかりしないとダメだ。

62

62. 匿名処理班

  • 2016年11月18日 01:17
  • ID:blEniAoV0 #

あくまで空想、妄想として。
この星は魂の修行の場〜系の話、実際宇宙全般に有る、もしくは起こりうる最悪な出来事をわざと起こして経験させてるのでは?なんて思ってしまう。ディスクロージャー系で言うところの感染するAIは(真実だとしたら)どうしようもない程ヤバそう。
真実はどうあれ、弱肉強食、殺傷能力の強さのみを追求するような種族はどの道滅ぶ

63

63. 匿名処理班

  • 2016年11月18日 02:00
  • ID:Ik7pDOuy0 #

いずれ機械には良心回路が搭載がデフォの時代が来るのかも知れないな

64

64. 匿名処理班

  • 2016年11月18日 06:38
  • ID:5iMcUstf0 #

>>54
ホーキングを超える天才現る

65

65. 匿名処理班

  • 2016年11月18日 09:48
  • ID:ZMX5kgW20 #

支配だ抑圧だってAIばかり叩かれるが
まず人間の支配者層からして優しくて人間的で素晴らかったことなんて殆ど無いじゃんっていう

66

66. 匿名処理班

  • 2016年11月18日 10:11
  • ID:Th7TAzFP0 #

戦争に用いるなら制御できなきゃ使えない
敵味方識別装置や、上官の言うことにはよく従う工夫とか満載にきまってるでしょ

なんで人工知能をそのまま兵器に載せて、人類皆殺しになるゥーという想像を働かせるのかよくわかんない

67

67. 匿名処理班

  • 2016年11月18日 10:14
  • ID:QU9eWqFF0 #

※7
ナンデ二回同じこというてんの?

68

68. 匿名処理班

  • 2016年11月18日 10:39
  • ID:KuwsBSPm0 #

>>54
メタルギアってそんな話じゃなかったっけ?

>>51
知能を持った被造物が人間に牙を剥く、ってのは西洋ではフランケンシュタインからずっと続くテーマなんだろうね。
もっと言えば神に逆らって知恵の実をかじる所からかもしれない。

ターミネータ2で最後殺人ロボのシュワが情を理解するところなんかはアトムとかの影響受けてるのかもね。

69

69. 匿名処理班

  • 2016年11月18日 12:09
  • ID:sgMGJ6Ce0 #

AIは自分で学ぶからほっといていいわけじゃなくて
人間と同じように教育をしてあげないといけないんだよね。

70

70. 匿名処理班

  • 2016年11月18日 17:31
  • ID:34RJTj7N0 #

大航海時代以来の支配勢力図の転換点に来ている気がする。

71

71. 匿名処理班

  • 2016年11月18日 19:19
  • ID:As55K1qS0 #

※49
自己保持機能が有ればね

72

72. 匿名処理班

  • 2016年11月18日 20:11
  • ID:Au4gR8qP0 #

戦争じゃなくてもっとヤバいことに使うだろうな
市民虐殺手段の一つだろう

73

73. 匿名処理班

  • 2016年11月18日 20:36
  • ID:34nDyR430 #

リアルカルネージハート

まずロボット同士で戦う、必ずどちらかが勝つ、負けた方は絶対にロボットに勝てないので素直に降伏する・・・か全滅を恐れず戦うかもしれない

74

74. 匿名処理班

  • 2016年11月18日 22:18
  • ID:Kq7zjVNf0 #

うーん
未来はどうなることやら

75

75. 匿名処理班

  • 2016年11月18日 22:21
  • ID:I5LYTKuE0 #

※34
やっぱ年なのかなー。子供のころ彼の本を読みまくってワクワクしてたからちょっと悲しいけど、ちょっと凝り固まったというか、偏りを感じるんだよね。

76

76. 匿名処理班

  • 2016年11月18日 22:50
  • ID:YSMiNgo.0 #

※75
そんな気がする。
単に人工知能にだけこういう警鐘を鳴らしているなら、何か根拠があるのかとも思うけど、最近のホーキング博士は宇宙人は地球人を植民地にしようとするから遭遇すべきでないとか、1000年で人類は滅びるとか、子供じみたことまで言いだしてる。もしかしたら認知症を発症していて、その関連で被害妄想になっているような気もするんだよな。悲しいことだけど、齢も齢だからね。

77

77. 匿名処理班

  • 2016年11月19日 00:58
  • ID:38r35dF30 #

※4
※51
謎の先入観に囚われてるのは自分の方だと気づいたほうがいい
アメリカはアシモフの頃からロボットの可能性について多面的に考えてたし
その理念は少なくとも手塚みたいな日本の作家にも影響与えてる
「ロビィ」とか「我はロボット」ぐらいは知ってるでしょ流石に?

78

78. 匿名処理班

  • 2016年11月19日 01:23
  • ID:38r35dF30 #

「宇宙家族ロビンソン」と「我はロボット」と書こうしたんだが間違えた

79

79. 匿名処理班

  • 2016年11月19日 06:51
  • ID:s1eds33t0 #

良い事は絶対起きない気がする
人間が最初のプログラムを組む以上、
正義のAIを作ったところでその正義には絶対に偏りがある
自律行動したら便利だと思うけど、作業レベルに留まっていて欲しいわ
ロボットに殺された兵士なんて浮かばれなさ過ぎる

80

80. 匿名処理班

  • 2016年11月19日 13:19
  • ID:PqrxRJXq0 #

とりあえず、電源スイッチが人間の手で入れられたら、そのスイッチを自分で切る能力を持つ人工知能ロボを作っときゃ、世界の平和は保たれるのではないかと思われ。

そういえば、亡くなった星新一さんの作品で、ある科学者が莫大な費用を投じて、そのものずばりで、誰かが電源スイッチを入れると、その電源スイッチを切ることだけを目的とした人工知能ロボを開発した。っていう話を思い出した。

実は、その人工知能ロボには開発された本当の理由があって、それは、そんなに遠くない未来に人類が滅亡したときに、そのロボが人類という種族を追悼することだった。というもの。

では、そのロボはどうやって人類滅亡を判断するかというと、自分の電源スイッチが数十年年単位で入れられない場合、人類が滅んだとみなすという、プログラムが組まれていたと。

81

81. 匿名処理班

  • 2016年11月19日 15:43
  • ID:alZm.1le0 #

※77
知ってるけど、現にアメリカ映画ってそういうパターン多い。命の創造は神さま以外やっちゃいけないって事なんだろうか。日本に昔からあるアニミズム信仰では、元から色んなものに宿っているイメージが強いからだと思う。

82

82. 匿名処理班

  • 2016年11月19日 15:55
  • ID:alZm.1le0 #

※66
俺も全くそう思う。銃は人を殺さない。引き金を絞る兵士が敵を殺す。AK47はいい銃だ。量産性に優れ、突撃銃としての必要な機能を十分保持している。だが、飾っておいたら勝手に暴れ出して、弾を吐く訳じゃない。それはもはや兵器とは呼ばない。人口知能付きAK47なんて馬鹿げたものを造るとは思えん。やるとしたら、どっかのマッドサイエンティストぐらいだろう。

83

83. 匿名処理班

  • 2016年11月19日 15:57
  • ID:alZm.1le0 #

※78
ああ、なるほど。謎が解けたわ。一瞬ピンと来なくてな。修正してくれてありがとう。

84

84. 匿名処理班

  • 2016年11月19日 17:26
  • ID:Q9RmNKQd0 #

そもそもロボット三原則を無視して軍事用のAIを作っているのだから
人vsAIは不可避

85

85. 匿名処理班

  • 2016年11月19日 18:52
  • ID:38r35dF30 #

※81
だが「人間の友人としてのロボット」てな視点はアメリカの方が日本より早かった
「我はロボット」以降はロビィがアメリカ文化に於けるロボットの代名詞になったわけで
その思想は手塚や松本零士にも受け継がれてる
もっと色んな作品観た方がいいよ
攻殻の名前挙げてるけど、あれだってギブスンやミンスキーの影響を多分に受けてるわけで

86

86. 匿名処理班

  • 2016年11月20日 03:41
  • ID:.niix9So0 #

チューリングテストで合格してから起こしてくれ

87

87. 匿名処理班

  • 2016年11月20日 04:18
  • ID:kg8As.tb0 #

士郎正宗の描いた未来像が着々と現実味を帯びてきている

88

88. 匿名処理班

  • 2016年11月20日 09:54
  • ID:Z8xPFnlV0 #

コタツに寝っ転がって駄菓子ばかり食っちゃ寝する肥満者の言い分みたい。
最終的に他人にケツ拭きしてもらうまでだだ甘えの他力本願。そりゃ太るわ。

89

89. 匿名処理班

  • 2016年11月21日 01:13
  • ID:1moD9awm0 #

葛藤意識w

90

90. 匿名処理班

  • 2016年11月21日 02:00
  • ID:MXUxzyyV0 #

コンセントを抜けばいいんでしょ?
21世紀では常識だよ

91

91. 匿名処理班

  • 2016年11月22日 23:58
  • ID:CjrV6GPD0 #

自動運転自動車は大勢の命を救うけどね。
それほどまでに人間の運転はひどい。

92

92. 匿名処理班

  • 2016年11月25日 22:15
  • ID:NqIaVO.y0 #

※29
あれ、ロボの見かけが普通のインド人のおっさんだからちょっとおかしみがあったけれど、実は恐ろしい話だよな。あれだけハイスペックで自己増殖機能があり、目的のためなら手段を選ばない…。

93

93.

  • 2016年11月29日 19:28
  • ID:nhZKSaqu0 #
94

94.

  • 2017年01月09日 18:10
  • ID:S.T.ctxc0 #
95

95. 匿名処理班

  • 2017年03月10日 17:43
  • ID:z8UoQ.kr0 #

ロボットはと言うものは、常に、人間が主体的に利用できる道具であり続けなければならない。人間が操りきれないようなものはなるべく作るべきではない。と思います。

お名前
スポンサードリンク
記事検索
月別アーカイブ
スマートフォン版
スマートフォン版QRコード
「カラパイア」で検索!!
スポンサードリンク