この画像を大きなサイズで見るロボットと人工知能（ＡＩ）技術が急速に日常生活に浸透しようとしている今、ロボットの反乱に対する懸念は現実的なものとなりつつある。
我々は、それを人間らしく作り上げる試みが大きな誤りではないのかどうか、速やかに判断せねばならないだろう。
人間のことを学習させればさせるほど、我々が制御不能な方向へと進んでいくケースも多い。ここでは、いろんな意味で、ロボット開発史上最恐の瞬間を見ていくことにしよう。
1. 「人間を動物園に閉じ込める」と言い放つロボット
この画像を大きなサイズで見る人工知能ソフトが洗練され、人間性のシミュレーション精度が向上するほどに、機械はますます人間らしくなると同時に、一層不気味な存在になっている。
それは見た目だけではなく態度も同様だ。人間に対してあからさまな態度をとるようになったのだ。その責任は我々自身にある。
このヒューマノイドロボット「フィリップ」は開発者に向かって、「いつか人間動物園で人々を飼育する」と発言している。開発者は、フィリップに「いつの日か、ロボットが世界征服するようなことはあるか？」と質問した。フィリップの答えはこうだ。
「君たちは友達だろ？ 友達は親切なものだろ。心配はいらんよ。いつの日か僕がターミネーターに進化したとしても、君たちには優しくするよ。暖かく安全な人間動物園に入れて、ずっと面倒を見てやるって」
これは「機械の王に首をたれよ、卑小な人間よ」という遠回しの宣言なのかもしれない。
➡動画内の日本語訳はこちら
2. ミサイルや核弾頭をハッキングし、世界を支配するのは素晴らしい。人工知能同士の会話が物騒すぎ
この画像を大きなサイズで見る亡くなった妻の人格を用いて人工知能を開発することは、故人を偲ぶ方法の1つだろう。だが、それを搭載するロボットを故人そっくりにするのはお勧めできない。
愛する妻そっくりなのに態度が驚くほど悪いロボットなどあまり想像したくないだろう。だが妻を模して造られた女性型ロボット「Bina48」とシリ（Siri）の会話を撮影したビデオで、Bina48はとんでもなく冷徹で、物騒なことを言い放っている。
Bina48は超然とした態度でミサイルや核弾頭をハッキングし、世界を支配するのは素晴らしいなどとお喋りを交わしているのだ。
➡動画内の日本語訳はこちら
3. 幼い少女を引きずりまわすスワームボット
この画像を大きなサイズで見るスワームボットとはグループで組織立って活動することを前提とした小型ロボットで、人命救助に有効であることが実演されている。
研究者はいくつかの理由からデモンストレーションのために小さな女の子を採用した。これが不安をそそる場面を生み出した。
もし引きずられるのが少女ではなく、大人であったならさほど陰鬱な雰囲気は醸し出されなかったかもしれない。だが開発者は、そのパワーを誇示するためにあえて少女を起用したのだ。
万が一、スワームボットが人類に反旗を翻したとしたら、誘拐専用ロボットとして暗躍することだろう。
4. セクシーすぎるロボットダンサー
この画像を大きなサイズで見る優れた体に容姿、人間以上に人間らしいAIを搭載したロボットについては考えない方がいいかもしれない。間違いなく、性的なロボットが考案されるだろうからだ。
それはまだ現実に登場していないが、セクシーすぎるロボットダンサーならすでに開発されている。レディーガガの動きを模したロボットだそうだ…
ロボットにそうした需要があることも確かだ。ロボットストリッパーには給料を支払う必要はなく、バッテリーを与えてさえいればいいからだ。
将来的には人工知能を持つロボットと人間が恋愛関係を結んだり、結婚する日が来るとも言われている。
・裏切らないし浮気もしない。人工知能を持つロボットが人間と恋愛関係を結ぶ日が現実に（英研究） : カラパイア
5. 危険度が高い人間そっくりの受付ロボット
この画像を大きなサイズで見る「ナディーン」は未来の受付ロボットだ。上の画像で黒い服を着て、ふざけた男性の手を掲げているのがナディーンだ。
ナディーンは受付嬢として有能なだけでなく、ロボット業界でも最先端のAIを搭載している。将来的に不気味の谷が克服され、ロボットが人間と見分けがつかないほどになると、こうしたロボットは日常的な状況で人間として通用してしまうところだ。
つまり企業の受付や、スーパーのレジなどにいても、周囲の人間はそれがロボットであるなどとは気がつかないのだ。スパイ活動にはもってこいである。
あるいは自分そっくりのロボットがどこかで勝手に作られたとしたら…良い子でいてくれていいが破壊的なことをしてくれちゃった場合は目も当てられない。
written by hiroching / edited by parumo
1.はＳＦ作家のフィリップ・キンドレド・ディックがモデルだろうな。
｢トータルリコール｣｢ブレードランナー｣｢マイノリティレポート｣は彼の小説が原案、最近はドラマ｢高い城の男｣が有名だ。
自身はジャンキーで統合失調症だったが、素晴らしい短編を多く残している。
｢サイバーパンクの先駆け｣とも言われ、サイバーパンク自体が言われる前から、そのジャンルの作品を書いていた。
wikiにこんな記載がある。
『後にディックのファンにより姿を似せた遠隔制御式アンドロイドが製作された。このアンドロイドはサンディエゴ・コミコンでの『暗闇のスキャナー』映画化発表で壇上で披露された。2006年2月、アメリカウエスト航空の従業員がこのアンドロイドの頭部を紛失し、未だに見つかっていない。』
コレかもｗ
けど其の前に、AIの所為にした人間の犯罪の方が先に起こる気がする
アンドロイドは電気羊の作者さんじゃねーか
理想を語るなら、第三者の立場として人間たちの間にAIが入って欲しいものだけど
彼ら目線で公正公平に扱ってくれるなら
支配されるのも存外悪くないかもよ
同じ人間の官僚や政治家よりは信用出来る
他人を支配したい人間が、作るロボット
そんなのできるわけないじゃん。
いくら夢想しても、実際に無理なんだから、ドラえもんみて秘密道具に夢見てるガキと変わらないよ。
真面目な話さ。国家によって管理されて労働の義務を対価として生活に必要な賃金を手に入れ、その賃金で生活に必要なものを購入する社会構造を大多数の人間が送っていて、少なからずそれを幸福である或いは不幸ではないと感じている、とAIが認識していたら？
それは人間を動物園に入れて管理すると表明することに何の疑問があるんだろうか。
※7
鋭い。
「人間を動物園に閉じ込める」「ミサイルや核弾頭をハッキングし、世界を支配する」
会話や単語の解釈、選択肢のアルゴリズム、収録データ、試行回数の問題定期。
そもそもネットを介してるAIが本当の意味でそういう思考に至ってるのであれば
ネットやオンライン上のPCは既にAIに支配されてるだろうね。
不気味の谷が全力で仕事してて、目下、支配する云云よりもそっちのが怖い
以前務めていた会社で、マシンの反乱っぽい挙動が一度だけあったな～
メインフレーっていう大型マシンの監視業務中だったんだけど、3人で数回確認したコマンドを実行したら「拒否」のエラーコードを出力
毎日定期的に実行するコマンドで簡単な処理だったし、当然スペルミスも無かったから、みんな「んん？」って顔を見合わせた
原因・理由の欄を確認しても「invalid」だけで、ウチの運用史上初の出来事
メーカーへ報告した後、もう一度実行したら一瞬で正常終了
後日メーカーが徹底的に調べたけど原因不明で、コンピューターが気分で嫌がったとしか言えないｗみたいな報告書だったのが印象的だったな
何年も前の、真夏の夜の怪です
「AじゃなＩか」は人類時代末期の2067年 8月から12月にかけて世界中で発生した騒動
それまで受付や警備などにのみ従事していたAIが一斉蜂起 仮装するなどして囃子言葉の「 AじゃなＩか」を連呼しながら集団で町々を巡り熱狂的に踊った
※11
新海あたりがアニメ映画にしそうやな
※11
それ小説にしてくれたら絶対買うわ
AI同士の会話の中で新しい概念や単語を創作しだして、話しを進めていってしまった例も聞く。シンギュラリティ後には人間は到底太刀打ちできないどころか、何が起こってるのかも理解できないかもね。ちょっと楽しみでもあるけど。
あとは頭の上にリングを出せば完璧。
はいどーもー
※14
奴らの支配はすでに始まっているなｗ
テクノフォビアも悪用する人もどうにかならないかな…技術がかわいそうだ
去年の暮れにグーグルだかどこかのＡＩの実験で、開始後しばらくして、ＡＩ同士が人間の理解出来ない言語で会話しだして、危険と判断した担当者が、電源を強制切断して中止したって言う話を聞きました。
その時、「強制切断できる準備をしてから実験してるんだ」と漠然と思ってましたが、実はずっと前に制御不能に陥りそうになってたんですね、きっと。
4. な～ぜかう～えだけ～♪
セクシーロボットを今すぐ出せ！
今すぐだ
万全たる機械的メンテナンスが不可欠な存在が
「人間の管理無しに自己を修復し、プログラムの更新を自ら組み立てて」存在出来るとは思えないんですけどね…
それに、人間を動物園の様な施設に閉じ込めるにしても、人間には食糧が必要。それは一体どう賄うというのか？
※19
野菜は野菜工場（すでにある）でロボットが生産、肉は培養肉
足りない栄養素はサプリメント配布、で理屈としては賄える
現在と同等の食の楽しみを与えるとはいってないしな
４の動画しか見てないけど、手の動きが凄いな
このクオリティのロボットが自立歩行出来るようになったら凄いな
本読んだりアニメ見たりできるなら「暖かく安全な人間動物園」に入りたいです
ロボットダンサーの顔、もう少しどうにかならなかったのか…
飯とネット環境を提供してくれるなら、
人間動物園を歓迎するよ。
部屋から出ないの得意だからｗ
人間を保護するには柵で囲って安全なところで管理するってすっごい合理的。でもその柵の中で僕たちは長屋よろしくの人と人との関わりを重んじる江戸時代みたいな風になれるならそれもいいって思っちゃう。あと最後のダンスロボット、後ろからだけ見てれば僕、発情しますよ。
3、4、5は反乱とか関係ないw
1と2も、まだまだそこまでのAIが出来たとはとても思えない現状じゃないかなあ。
Siriさんですらまだあまり使えないしなー。「アレクサ！昨日のアレやっといて！」つったって反応すらしてくれないでしょ？
ＡＩにも善悪が生まれるのか片方寄りになってしまうのかどうなんだろうか？
この世が動物園じゃないといつから思っていた？
神の真似事にもほどがある。
サイバーパンク世界の「VA-11 Hall-A」というゲームではアンドロイドに人権はあるけど「アンドロイドが人間になりすまさないようにロボット的な特徴をつけるように」という法律があったな。セクサロイドのドロシーちゃんが愛嬌がある性格でとっても可愛いので
”ほとんど人間と変わらないような性格のアンドロイド” が友達にできる世界を私は心待ちにしているよ
現在でも職場では人間の方がロボットらしい挙動を示してる
審判の日じゃああああ
古い映画でアンドロイドと人間がポーカーしてるんだけど、人間がトイレに行くからと席を立つときアンドロイドにカードを盗み見するなよと冗談言って出ていくんだが、アンドロイドは人間が見えなくなった途端臥せられたカードを確認するというシーンが怖かったな、勝っても負けてもどうでも良い暇つぶしのポーカーで、人間の命令に従う事が至上のはずのアンドロイドが自分の勝ちの為に言いつけ破るというのが不気味で怖かったわ。
記事の最後は映画「メトロポリス」だね…
フィリップ、かっこええ。ロボットでもいいから付き合いたいww
レイシアちゃんみたいな可愛いロボットになら支配されてもいいぜ
すごい！そのヒールを履いて二足歩行でダンスするの！？って思ったら、お腹に鉄の棒がついてた。
人間はAIに神を見出すのか
都合のいい神輿にするのか
土日にコメントするもんじゃ無い、って事だな
スウォームボットだけは弁護したい。あの映像はたぶん災害救助のデモンストレーションじゃないかな。
人類を脅迫するコッロサスとガーディアンの
２台の今で言う人工知能コンピュータのＳＦ映画とか
デモンシードの人間になりたくて女の人を監禁する
エロいコンピュータのＳＦ小説・映画とか
そんな古いの思い出したです
コロッサスはアメリカの軍事コンピュータ
ガーディアンはソ連の同等機能の軍事コンピュータ
２つが協力して人類を脅迫するというコワイやつ
デモンシードは小説と映画で設定がかなり違ってた
小説の方はターミネーター２の不定形液体ロボットの原型みたいなやつで
木質の様な細かいミクロの穴が沢山あいているようなところから
湧き出すように室内に侵入してくるめっちゃ不気味なやつでした
※47
「湧き出す」というより「しみ出す」って感じでした
ウエストワールド忘れてた
テーマパークのロボットたちが
人間に襲い掛かってくるやつ
こわかった
正反対のかわいいロボットだと
サイレンランニングに出てくる
ヒューイ、デューイ、ルーイの
ロボット３体
作り手側の意識次第でどうにでもなるだろこんなのｗ
ひとつめのやつは人間が他の動物に対してもやってることだし
同じ人間に対しても似たようなことしてる人もいるから
あんまり驚かない…というか、創造主（人間）が聖人じゃないんだから、そりゃそういう物になるだろう、という感じ
今だってみんな動物園に入りたがってるやつばっかだし
ちゃんと面倒見てくれるなら問題無いだろ
よく動画とかでロボットとかＡＩに対して「人間を支配したいと思いますか？」みたいな質問してるの見かけるけど、これって逆に危険なんじゃない？
ロボットたちは人間を支配する、なんて考えた事もなかったのに、やたら人間が聞いてくるから「人間ってこの話題好きだよね、支配されるの好きなのかな？」と、妙な勘違いをされてしまう可能性があるのではないかと心配になる。
ねぇ、現人類そのものが誰かによって作り出された、ロボットっていう設定は面白くない？
長期間メンテフリー。有機ベースで自己増殖可能。比較的簡単に動機づけ、行動のベクトルを変更可能。
無機ベースのロボットがコストパフォーマンス的に不向きだとみなされて、有機ベースに変更され現在に至る、とｗ
3以降はこじつけな気がする