light-bulb-3104355_640_e

 ロボットと人工知能(AI)技術が急速に日常生活に浸透しようとしている今、ロボットの反乱に対する懸念は現実的なものとなりつつある。

 我々は、それを人間らしく作り上げる試みが大きな誤りではないのかどうか、速やかに判断せねばならないだろう。

 人間のことを学習させればさせるほど、我々が制御不能な方向へと進んでいくケースも多い。ここでは、いろんな意味で、ロボット開発史上最恐の瞬間を見ていくことにしよう。
スポンサードリンク

1. 「人間を動物園に閉じ込める」と言い放つロボット


no title

 人工知能ソフトが洗練され、人間性のシミュレーション精度が向上するほどに、機械はますます人間らしくなると同時に、一層不気味な存在になっている。

 それは見た目だけではなく態度も同様だ。人間に対してあからさまな態度をとるようになったのだ。その責任は我々自身にある。

 このヒューマノイドロボット「フィリップ」は開発者に向かって、「いつか人間動物園で人々を飼育する」と発言している。開発者は、フィリップに「いつの日か、ロボットが世界征服するようなことはあるか?」と質問した。フィリップの答えはこうだ。

 「君たちは友達だろ? 友達は親切なものだろ。心配はいらんよ。いつの日か僕がターミネーターに進化したとしても、君たちには優しくするよ。暖かく安全な人間動物園に入れて、ずっと面倒を見てやるって」

 これは「機械の王に首をたれよ、卑小な人間よ」という遠回しの宣言なのかもしれない。


Freaky AI robot ➡動画内の日本語訳はこちら


2. ミサイルや核弾頭をハッキングし、世界を支配するのは素晴らしい。人工知能同士の会話が物騒すぎ


4_e5

 亡くなった妻の人格を用いて人工知能を開発することは、故人を偲ぶ方法の1つだろう。だが、それを搭載するロボットを故人そっくりにするのはお勧めできない。

 愛する妻そっくりなのに態度が驚くほど悪いロボットなどあまり想像したくないだろう。だが妻を模して造られた女性型ロボット「Bina48」とシリ(Siri)の会話を撮影したビデオで、Bina48はとんでもなく冷徹で、物騒なことを言い放っている。

 Bina48は超然とした態度でミサイルや核弾頭をハッキングし、世界を支配するのは素晴らしいなどとお喋りを交わしているのだ。


Bina48 Robot Talks to Siri ➡動画内の日本語訳はこちら


3. 幼い少女を引きずりまわすスワームボット


5_e2

 スワームボットとはグループで組織立って活動することを前提とした小型ロボットで、人命救助に有効であることが実演されている。

 研究者はいくつかの理由からデモンストレーションのために小さな女の子を採用した。これが不安をそそる場面を生み出した。

 もし引きずられるのが少女ではなく、大人であったならさほど陰鬱な雰囲気は醸し出されなかったかもしれない。だが開発者は、そのパワーを誇示するためにあえて少女を起用したのだ。


Swarmbots

 万が一、スワームボットが人類に反旗を翻したとしたら、誘拐専用ロボットとして暗躍することだろう。


4. セクシーすぎるロボットダンサー


6_e2

 優れた体に容姿、人間以上に人間らしいAIを搭載したロボットについては考えない方がいいかもしれない。間違いなく、性的なロボットが考案されるだろうからだ。

 それはまだ現実に登場していないが、セクシーすぎるロボットダンサーならすでに開発されている。レディーガガの動きを模したロボットだそうだ...


Theres a Lady Gaga Robot.. and it's kinda terrifying CUTTING EDGE ANIMATRONICS!

 ロボットにそうした需要があることも確かだ。ロボットストリッパーには給料を支払う必要はなく、バッテリーを与えてさえいればいいからだ。

 将来的には人工知能を持つロボットと人間が恋愛関係を結んだり、結婚する日が来るとも言われている。

・裏切らないし浮気もしない。人工知能を持つロボットが人間と恋愛関係を結ぶ日が現実に(英研究) : カラパイア


5. 危険度が高い人間そっくりの受付ロボット


7_e0

 「ナディーン」は未来の受付ロボットだ。上の画像で黒い服を着て、ふざけた男性の手を掲げているのがナディーンだ。

 ナディーンは受付嬢として有能なだけでなく、ロボット業界でも最先端のAIを搭載している。将来的に不気味の谷が克服され、ロボットが人間と見分けがつかないほどになると、こうしたロボットは日常的な状況で人間として通用してしまうところだ。

 つまり企業の受付や、スーパーのレジなどにいても、周囲の人間はそれがロボットであるなどとは気がつかないのだ。スパイ活動にはもってこいである。


References:Nadine The Robot Is Amazing And Creepy

 あるいは自分そっくりのロボットがどこかで勝手に作られたとしたら...良い子でいてくれていいが破壊的なことをしてくれちゃった場合は目も当てられない。

written by hiroching / edited by parumo
あわせて読みたい
AIの反乱を避けるため、自己不信を植えこむべきと研究者(米研究)


進化する人工知能ラブロボットに専門家が警告。ハッキングされたら所有者を襲う「キラー・ラブロボット」になる可能性


100年以内にロボットが人間の文明を終わらせる可能性あり(スティーヴン・ホーキング)


汗をかくヒューマノイドロボット「ケンゴロウ」がさらに進化。ますます人間らしい動きになって腕立て・腹筋をこなすぞ!


100年以内にロボットが人間の文明を終わらせる可能性あり(スティーヴン・ホーキング)


いよいよ超飛び?不気味の谷。表情を察知し会話もできる最先端テクノロジーを駆使したヒューマノイド「ハン」さんがお披露目(米研究)

この記事に関連するキーワード

キーワードから記事を探す

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします
この記事をシェア :    

人気記事

最新週間ランキング

1位
7429 points
洪水で水浸りの状態でじっと耐えていた犬が海兵隊員に救助され、メンバーとして迎え入れられる(メキシコ)

洪水で水浸りの状態でじっと耐えていた犬が海兵隊員に救助され、メンバーとして迎え入れられる(メキシコ)

2020年11月18日
1417259227
2位
6305 points
アルコールを急速に体内から抜く呼吸装置が開発される(カナダ研究)

アルコールを急速に体内から抜く呼吸装置が開発される(カナダ研究)

2020年11月16日
3位
4739 points
地球最強生物クマムシの新種、紫外線を青い蛍光に変え無害化する能力を持っていた(インド研究)

地球最強生物クマムシの新種、紫外線を青い蛍光に変え無害化する能力を持っていた(インド研究)

2020年11月17日
9743722637
4位
4349 points
集中治療室の新生児を14年間抱っこして癒し続けたボランディア男性が86歳で逝去(アメリカ)

集中治療室の新生児を14年間抱っこして癒し続けたボランディア男性が86歳で逝去(アメリカ)

2020年11月21日
694251524
5位
4211 points
3日間行方をくらましていた猫が、借金を背負って帰ってきた!(タイ)

3日間行方をくらましていた猫が、借金を背負って帰ってきた!(タイ)

2020年11月16日
8503320239
もっと読む
スポンサードリンク

Facebook

コメント

1

1. 匿名処理班

  • 2018年04月06日 20:48
  • ID:mhWqp0e80 #

1.はSF作家のフィリップ・キンドレド・ディックがモデルだろうな。
「トータルリコール」「ブレードランナー」「マイノリティレポート」は彼の小説が原案、最近はドラマ「高い城の男」が有名だ。
自身はジャンキーで統合失調症だったが、素晴らしい短編を多く残している。
「サイバーパンクの先駆け」とも言われ、サイバーパンク自体が言われる前から、そのジャンルの作品を書いていた。

wikiにこんな記載がある。
『後にディックのファンにより姿を似せた遠隔制御式アンドロイドが製作された。このアンドロイドはサンディエゴ・コミコンでの『暗闇のスキャナー』映画化発表で壇上で披露された。2006年2月、アメリカウエスト航空の従業員がこのアンドロイドの頭部を紛失し、未だに見つかっていない。』
コレかもw

2

2. 匿名処理班

  • 2018年04月06日 20:55
  • ID:AFjF9kIa0 #

けど其の前に、AIの所為にした人間の犯罪の方が先に起こる気がする

3

3. 匿名処理班

  • 2018年04月06日 21:07
  • ID:IN66MecN0 #

アンドロイドは電気羊の作者さんじゃねーか

4

4. 匿名処理班

  • 2018年04月06日 21:10
  • ID:ybbfTrVv0 #

理想を語るなら、第三者の立場として人間たちの間にAIが入って欲しいものだけど

彼ら目線で公正公平に扱ってくれるなら
支配されるのも存外悪くないかもよ

同じ人間の官僚や政治家よりは信用出来る

5

5. 匿名処理班

  • 2018年04月06日 21:13
  • ID:GkAJSbfB0 #

他人を支配したい人間が、作るロボット

6

6. 匿名処理班

  • 2018年04月06日 21:16
  • ID:sc4CIMrt0 #

そんなのできるわけないじゃん。
いくら夢想しても、実際に無理なんだから、ドラえもんみて秘密道具に夢見てるガキと変わらないよ。

7

7. 匿名処理班

  • 2018年04月06日 21:27
  • ID:BOJJ5Ryp0 #

真面目な話さ。国家によって管理されて労働の義務を対価として生活に必要な賃金を手に入れ、その賃金で生活に必要なものを購入する社会構造を大多数の人間が送っていて、少なからずそれを幸福である或いは不幸ではないと感じている、とAIが認識していたら?
それは人間を動物園に入れて管理すると表明することに何の疑問があるんだろうか。

8

8. 匿名処理班

  • 2018年04月06日 21:27
  • ID:t4mayvh40 #

「人間を動物園に閉じ込める」「ミサイルや核弾頭をハッキングし、世界を支配する」
会話や単語の解釈、選択肢のアルゴリズム、収録データ、試行回数の問題定期。
そもそもネットを介してるAIが本当の意味でそういう思考に至ってるのであれば
ネットやオンライン上のPCは既にAIに支配されてるだろうね。

9

9. 匿名処理班

  • 2018年04月06日 21:29
  • ID:npDJn1KL0 #

不気味の谷が全力で仕事してて、目下、支配する云云よりもそっちのが怖い

10

10. 匿名処理班

  • 2018年04月06日 21:32
  • ID:YArMMwUz0 #

以前務めていた会社で、マシンの反乱っぽい挙動が一度だけあったな〜
メインフレーっていう大型マシンの監視業務中だったんだけど、3人で数回確認したコマンドを実行したら「拒否」のエラーコードを出力
毎日定期的に実行するコマンドで簡単な処理だったし、当然スペルミスも無かったから、みんな「んん?」って顔を見合わせた
原因・理由の欄を確認しても「invalid」だけで、ウチの運用史上初の出来事
メーカーへ報告した後、もう一度実行したら一瞬で正常終了
後日メーカーが徹底的に調べたけど原因不明で、コンピューターが気分で嫌がったとしか言えないwみたいな報告書だったのが印象的だったな

何年も前の、真夏の夜の怪です

11

11. 匿名処理班

  • 2018年04月06日 21:43
  • ID:fCcfa1NH0 #

「AじゃなIか」は人類時代末期の2067年 8月から12月にかけて世界中で発生した騒動
それまで受付や警備などにのみ従事していたAIが一斉蜂起 仮装するなどして囃子言葉の「 AじゃなIか」を連呼しながら集団で町々を巡り熱狂的に踊った

12

12. 匿名処理班

  • 2018年04月06日 21:44
  • ID:RtCHYBXQ0 #

AI同士の会話の中で新しい概念や単語を創作しだして、話しを進めていってしまった例も聞く。シンギュラリティ後には人間は到底太刀打ちできないどころか、何が起こってるのかも理解できないかもね。ちょっと楽しみでもあるけど。

13

13. 匿名処理班

  • 2018年04月06日 21:51
  • ID:wVCSkUrJ0 #

あとは頭の上にリングを出せば完璧。

14

14. 匿名処理班

  • 2018年04月06日 21:57
  • ID:ee2AU5iK0 #

はいどーもー

15

15. 匿名処理班

  • 2018年04月06日 22:20
  • ID:0idSDOzD0 #

テクノフォビアも悪用する人もどうにかならないかな…技術がかわいそうだ

16

16. 匿名処理班

  • 2018年04月06日 22:20
  • ID:XKatLuaN0 #

去年の暮れにグーグルだかどこかのAIの実験で、開始後しばらくして、AI同士が人間の理解出来ない言語で会話しだして、危険と判断した担当者が、電源を強制切断して中止したって言う話を聞きました。
その時、「強制切断できる準備をしてから実験してるんだ」と漠然と思ってましたが、実はずっと前に制御不能に陥りそうになってたんですね、きっと。

17

17. 匿名処理班

  • 2018年04月06日 22:22
  • ID:j.b.CN.20 #

4. な〜ぜかう〜えだけ〜♪

18

18. 匿名処理班

  • 2018年04月06日 23:09
  • ID:v8zYMSj80 #

セクシーロボットを今すぐ出せ!
今すぐだ

19

19. 匿名処理班

  • 2018年04月06日 23:30
  • ID:Ybgyf6cz0 #

万全たる機械的メンテナンスが不可欠な存在が
「人間の管理無しに自己を修復し、プログラムの更新を自ら組み立てて」存在出来るとは思えないんですけどね…
それに、人間を動物園の様な施設に閉じ込めるにしても、人間には食糧が必要。それは一体どう賄うというのか?

20

20. 匿名処理班

  • 2018年04月07日 00:31
  • ID:vkmpbexr0 #

4の動画しか見てないけど、手の動きが凄いな
このクオリティのロボットが自立歩行出来るようになったら凄いな

21

21. 匿名処理班

  • 2018年04月07日 00:37
  • ID:besyOHfw0 #

本読んだりアニメ見たりできるなら「暖かく安全な人間動物園」に入りたいです

22

22. 匿名処理班

  • 2018年04月07日 00:39
  • ID:besyOHfw0 #

ロボットダンサーの顔、もう少しどうにかならなかったのか...

23

23. 匿名処理班

  • 2018年04月07日 00:59
  • ID:dFsETCqC0 #

飯とネット環境を提供してくれるなら、
人間動物園を歓迎するよ。

部屋から出ないの得意だからw

24

24. 匿名処理班

  • 2018年04月07日 01:19
  • ID:Hx3j6hfX0 #

人間を保護するには柵で囲って安全なところで管理するってすっごい合理的。でもその柵の中で僕たちは長屋よろしくの人と人との関わりを重んじる江戸時代みたいな風になれるならそれもいいって思っちゃう。あと最後のダンスロボット、後ろからだけ見てれば僕、発情しますよ。

25

25. 匿名処理班

  • 2018年04月07日 01:49
  • ID:pmwS0I0D0 #

3、4、5は反乱とか関係ないw
1と2も、まだまだそこまでのAIが出来たとはとても思えない現状じゃないかなあ。
Siriさんですらまだあまり使えないしなー。「アレクサ!昨日のアレやっといて!」つったって反応すらしてくれないでしょ?

26

26. 匿名処理班

  • 2018年04月07日 05:35
  • ID:vy29Lq8E0 #

AIにも善悪が生まれるのか片方寄りになってしまうのかどうなんだろうか?

27

27. 匿名処理班

  • 2018年04月07日 08:43
  • ID:Lhh.3cpY0 #

※14
奴らの支配はすでに始まっているなw

28

28. 匿名処理班

  • 2018年04月07日 08:44
  • ID:Lhh.3cpY0 #

この世が動物園じゃないといつから思っていた?

29

29. 匿名処理班

  • 2018年04月07日 09:30
  • ID:MEH1BFdO0 #

※11
新海あたりがアニメ映画にしそうやな

30

30. 匿名処理班

  • 2018年04月07日 10:07
  • ID:bktKCDD30 #

神の真似事にもほどがある。

31

31. 匿名処理班

  • 2018年04月07日 11:01
  • ID:Qzz2Fz790 #

サイバーパンク世界の「VA-11 Hall-A」というゲームではアンドロイドに人権はあるけど「アンドロイドが人間になりすまさないようにロボット的な特徴をつけるように」という法律があったな。セクサロイドのドロシーちゃんが愛嬌がある性格でとっても可愛いので
”ほとんど人間と変わらないような性格のアンドロイド" が友達にできる世界を私は心待ちにしているよ

32

32.

  • 2018年04月07日 13:21
  • ID:Zc7RgVWF0 #
33

33. 匿名処理班

  • 2018年04月07日 15:11
  • ID:G40FFwKQ0 #

現在でも職場では人間の方がロボットらしい挙動を示してる

34

34.

  • 2018年04月07日 17:08
  • ID:eIdsUn7T0 #
35

35. 匿名処理班

  • 2018年04月07日 17:21
  • ID:.D4H3pg70 #

審判の日じゃああああ

36

36. 匿名処理班

  • 2018年04月07日 20:57
  • ID:W3Jknw6R0 #

古い映画でアンドロイドと人間がポーカーしてるんだけど、人間がトイレに行くからと席を立つときアンドロイドにカードを盗み見するなよと冗談言って出ていくんだが、アンドロイドは人間が見えなくなった途端臥せられたカードを確認するというシーンが怖かったな、勝っても負けてもどうでも良い暇つぶしのポーカーで、人間の命令に従う事が至上のはずのアンドロイドが自分の勝ちの為に言いつけ破るというのが不気味で怖かったわ。

37

37. 匿名処理班

  • 2018年04月07日 21:37
  • ID:M6pzc0gX0 #

記事の最後は映画「メトロポリス」だね…

38

38. 匿名処理班

  • 2018年04月07日 23:14
  • ID:084mMQlz0 #

※11
それ小説にしてくれたら絶対買うわ

39

39. 匿名処理班

  • 2018年04月07日 23:20
  • ID:gxMLQXH80 #

フィリップ、かっこええ。ロボットでもいいから付き合いたいww

40

40. 匿名処理班

  • 2018年04月08日 00:11
  • ID:FUu4XR8F0 #

※19
野菜は野菜工場(すでにある)でロボットが生産、肉は培養肉
足りない栄養素はサプリメント配布、で理屈としては賄える
現在と同等の食の楽しみを与えるとはいってないしな

41

41. 匿名処理班

  • 2018年04月08日 05:38
  • ID:mJ1HspOF0 #

レイシアちゃんみたいな可愛いロボットになら支配されてもいいぜ

42

42. 匿名処理班

  • 2018年04月08日 08:46
  • ID:SM5K75Pe0 #

すごい!そのヒールを履いて二足歩行でダンスするの!?って思ったら、お腹に鉄の棒がついてた。

43

43. 匿名処理班

  • 2018年04月08日 19:03
  • ID:43x6EUnl0 #

※7
鋭い。

44

44. 匿名処理班

  • 2018年04月08日 23:28
  • ID:iceljRSC0 #

人間はAIに神を見出すのか
都合のいい神輿にするのか

45

45. 匿名処理班

  • 2018年04月09日 02:06
  • ID:iKVO4DVH0 #

土日にコメントするもんじゃ無い、って事だな

46

46. 匿名処理班

  • 2018年04月09日 20:23
  • ID:Iz6zF3qr0 #

スウォームボットだけは弁護したい。あの映像はたぶん災害救助のデモンストレーションじゃないかな。

47

47. 匿名処理班

  • 2018年04月10日 02:32
  • ID:o5.58QeW0 #

人類を脅迫するコッロサスとガーディアンの
2台の今で言う人工知能コンピュータのSF映画とか
デモンシードの人間になりたくて女の人を監禁する
エロいコンピュータのSF小説・映画とか
そんな古いの思い出したです

コロッサスはアメリカの軍事コンピュータ
ガーディアンはソ連の同等機能の軍事コンピュータ
2つが協力して人類を脅迫するというコワイやつ

デモンシードは小説と映画で設定がかなり違ってた
小説の方はターミネーター2の不定形液体ロボットの原型みたいなやつで
木質の様な細かいミクロの穴が沢山あいているようなところから
湧き出すように室内に侵入してくるめっちゃ不気味なやつでした

48

48. 匿名処理班

  • 2018年04月10日 02:48
  • ID:o5.58QeW0 #

ウエストワールド忘れてた
テーマパークのロボットたちが
人間に襲い掛かってくるやつ
こわかった

正反対のかわいいロボットだと
サイレンランニングに出てくる
ヒューイ、デューイ、ルーイの
ロボット3体

49

49. 匿名処理班

  • 2018年04月10日 03:19
  • ID:o5.58QeW0 #

※47
「湧き出す」というより「しみ出す」って感じでした

50

50. 匿名処理班

  • 2018年04月12日 20:35
  • ID:0Wl1g57r0 #

作り手側の意識次第でどうにでもなるだろこんなのw

51

51. 匿名処理班

  • 2018年04月29日 22:19
  • ID:EsPIuBiA0 #

ひとつめのやつは人間が他の動物に対してもやってることだし
同じ人間に対しても似たようなことしてる人もいるから
あんまり驚かない…というか、創造主(人間)が聖人じゃないんだから、そりゃそういう物になるだろう、という感じ

52

52. 匿名処理班

  • 2018年05月05日 13:07
  • ID:4rYw41IN0 #

今だってみんな動物園に入りたがってるやつばっかだし
ちゃんと面倒見てくれるなら問題無いだろ

53

53. 匿名処理班

  • 2019年04月06日 17:43
  • ID:YUc9S7XX0 #

よく動画とかでロボットとかAIに対して「人間を支配したいと思いますか?」みたいな質問してるの見かけるけど、これって逆に危険なんじゃない?
ロボットたちは人間を支配する、なんて考えた事もなかったのに、やたら人間が聞いてくるから「人間ってこの話題好きだよね、支配されるの好きなのかな?」と、妙な勘違いをされてしまう可能性があるのではないかと心配になる。

54

54. 匿名処理班

  • 2020年03月20日 09:55
  • ID:RH.kAiuf0 #

ねぇ、現人類そのものが誰かによって作り出された、ロボットっていう設定は面白くない?
長期間メンテフリー。有機ベースで自己増殖可能。比較的簡単に動機づけ、行動のベクトルを変更可能。
無機ベースのロボットがコストパフォーマンス的に不向きだとみなされて、有機ベースに変更され現在に至る、とw

お名前
スポンサードリンク
記事検索
月別アーカイブ
スマートフォン版
スマートフォン版QRコード
「カラパイア」で検索!!
スポンサードリンク