大丈夫、電源を切っちゃえば良いのだから。と楽観的な見方をする人がいる一方で、ロボットにある種の感情を抱いてしまった人間は、命乞いされると電源を切れないのではないか？と予測する人もいる。
ドイツでかわいいヒューマノイドロボット「NAO」を使ったこんな実験が行われた。
広告
かわいいロボットを使ったコミュニケーション実験
ドイツの研究者らは、人間の参加者に小型でかわいい「NAO」というソフトバンクロボティクス社の人型ロボットとコミュニケーションしてもらうという一連の実験を行った。実験では、86名の参加者に一連の質問への回答かスケジュール作りという2つの課題を与え、NAOと一緒に取り組んでもらった。参加者には、その意図はAIの学習であると説明されていた。
だがこれは嘘の説明である。
本当の目的は課題の後にあった。
課題を一緒に取り組んでいる時点で、すでに参加者は、様々な反応を見せるNAOに何らかの感情を抱くようになっていた。
礼儀正しく、献身的で、人間らしい反応を見せるNAOもいれば、素っ気なく、投げやりな、いかにもロボット然とした反応を示すNAOもいた。
NAOのこういった反応はあらかじめ設定されていたものである。
ヒューマノイドロボット「NAO」はこんな子
転んでも起き上がるNAO
NAOのスイッチを切るよう指示したところ...
課題が終わったとき、参加者はNAOのスイッチを切るよう指示された。スイッチを切られる直前、NAOの半分は特に何の反応も示さないように、もう半分は抗議するように設定してある。
その反応は、「暗闇が怖いよう」といったものから、「どうか切らないで」という直接的な命乞いまで様々だ。
なんと！
この命乞いを聞いて、参加者の13名はスイッチを切ることを拒否したという。
また、NAOに命乞いをされた参加者は、NAOが何も反応を示さなかった参加者に比べ、切るまでに平均2倍長く時間がかかった。
参加者にスイッチを切ることを躊躇・拒否した理由を訊くと、「ロボットが可哀想だった」「命乞いされて間違ったことはしたくないと思った」「次にどうなるか見たいと思った」といった回答があった。
いずれもロボットを人間であるかのように認識した上での反応である。
image credit:wikimedia
人間はロボットに対しての感情が芽生えがち
ロボットの感情を汲み取っていたのは命乞いをされた参加者だけではない。ロボットのスイッチを躊躇なく切った参加者ですら、切ったあと全く動かなくなったロボットに対し死の恐怖と罪悪感を覚えたという。
もしロボットが命乞いが有効であることを学習したら？
はたして未来の学習可能ロボットはこのことを理解するのだろうか？ そして来るべき人間との戦争に利用しようと考えるのだろうか？今のうちから、AI機能が搭載されているロボット系のモノのスイッチを切る練習をしておいたほうがよさそうだ。
でもすでに、新型のAIBOとかシンプルにスイッチを切る自信がないぞ。
aiboのいる生活 おかえり篇
この研究論文は『PLOS One』に掲載された。
References:journals.plos/ written by hiroching / edited by parumo
あわせて読みたい
AIもうつ病になる？人間と同じように思考するAIは将来的に心を病む可能性がある（国際シンポジウム）
ロボットや人工知能に電子人として法的地位を与える。ヨーロッパで可決された決議に警告を促す専門家たち
人間と同じように、人工知能ロボットも人種差別や性差別を行う（米研究）
AI（人工知能）をサイコパス化。MITが作り上げた恐怖のサイコパスAIは、その名も「ノーマン」（米研究）
ロボットを恋愛対象と考えている人が急増。特に若い世代で増えている（国際調査）
0
4273
224
51
コメント
1. 匿名処理班
人間同様の表情変化や涙を流す、といったパフォーマンスが加わったら怖いよな。
そしてマシンの側はあくまでも「手段」としてそれを人間に使ってくる・・・？？
2. 匿名処理班
ロボットと人間は友達、なんて題材もよく見られるが、こういう思考が危険だというという意見も間違ってはいないんだろうなって思った。
3. 匿名処理班
ターミネーターは可愛らしい外見にした方がいいってことかな
4. 匿名処理班
将来、見た目も性格も人間と区別がつかないようなロボットが登場したら壊れても捨てることが出来ず、人間と同じように葬式して埋葬をする時代になるかもしれない
5. 匿名処理班
実態は単なる動作に過ぎないロボの動作に勝手に意味を見出しているのは人間側。
心を持たないロボットが人間の心に働きかけて都合のいいように動かすってのは、考えると少し怖いかもね。分かり易い生き物の形をしてなければまた違った結果になるんだろうけど。
6. 匿名処理班
植物が何か状況にあった時「かわいそう」とか思ったり、動物番組とか動画に妙なアフレコを入れてみたり、ロボットが「電源を切らないで」って言ったら切れなくなったり。
表現される形は違うけど、構造的には全部同じだね。
植物は何も思ってないし、動物はそんな事思って無いし、ロボットはただの機械で喋ってるのはプログラムでしかないんだけど、勝手に思い込む。
感情移入とはちょっと違うプロセスが働いてるからそんな事になるんだけど…
やたらと長い文になりそうなので、気になった人は調べて見て下さい
7. 匿名処理班
喜んで電源切るけどな、節電意識の無い阿呆が多いのかな？
8. 匿名処理班
※3
シュワちゃん可愛いじゃん！
9.
10. 匿名処理班
ジョンコナーも幼いころに助けてもらったシュワちゃん型のターミネーターに殺されたしな
11. 匿名処理班
ぬいぐるみと目が合ってもウルウルほだされモードになっちゃいます。
12. 匿名処理班
ドラえもんの電源をのび太くんは普通に切れてたから無茶苦茶ロボットと仲良くなれば大丈夫だと思う。
13. 匿名処理班
画像のヒューマノイドはなかなか良いフィジークしてる
14. 匿名処理班
＞切るまでに平均2倍長く時間がかかった。
スイッチ切る寸前に急に喋り出したら、可哀想とか抜きにしても一旦手を止めるのは至って普通なのでは……？
15. 匿名処理班
♪デイジー、デイジー、答えておくれ……
16. 匿名処理班
ウインドウズMEのアインストール擬人化画像を思い出した
あれは結構心に来るものがある
17. 匿名処理班
※6
それこそが人間を人間たらしめている重要な特性なのだけど、そこを逆手にとられたら弱っちゃうよなぁ
これがない人は共感性が著しく低いサイコパスだもん
18. 匿名処理班
ロボットが切ったらメルトダウンしちゃうけど周りが迷惑だねとか
誰かの家に上空から人工衛星墜落してくるぜなど、本当は切られて
たく無い嫌味たらしい文句言ったら笑える
19. 匿名処理班
人の憐憫を誘うことを意図して、命乞いするレベルの知能のロボットだったら
電源スイッチ押されても自動で復帰出来るような機能を自分で増設しちゃうだろうな
20. 匿名処理班
人間は普通、ロボットのプログラムによってなされた「命乞い」に左右されるなんて馬鹿げていると、頭では理解する。
しかし、だからといっていざ「人型のもの」に命乞いをされてしまうと、どうしても躊躇いが生まれる。
そこで一切ブレずに電源を落とす人は、「まるでロボット」の様な人かもしれん。
人間とロボットが争う時代になったら、人間がロボットを駆逐する為に人間性を変質させるというジレンマに突き当たるのだろうか。
21. 匿名処理班
中国のIMEをアンインストールする時は困ったな
あれは卑怯すぎる
22. 匿名処理班
メタルギアソリッド2では大佐が今すぐゲーム機の電源を切るんだ！って言ってたなw
23. 匿名処理班
アンドロイドどころか、冷蔵庫やエアコンにお願いされてもきっと躊躇はするぞ。
調子の悪いコピー機をヨイショしてなだめすかして仕事してるし、ポンコツ車にだって運転時には声をかける。
実際それで動いてくれるし。付喪神がいるっしょ。
24. 匿名処理班
映画での描き方も変わってくるじゃん
今までは人工知能のロボットでも、ロボットだからと抵抗なく殺してたんじゃない
これからはロボットを殺すのを躊躇う→その隙を付かれてやられる。みたいな描写も描いて欲しい
25. 匿名処理班
俺以外はみんな何も考えてないロボットで、
この世はプログラムなんだろ
俺は知ってる。
俺は騙されない。
26. 匿名処理班
？？「今すぐゲーム機の電源を切るんだ！」
27. 匿名処理班
一度スイッチを切ってからスイッチを入れ直した時にロボットが動き出すのを見せたら、
今度は躊躇なくスイッチを切れるんじゃないか？
28. 匿名処理班
精巧な人型ロボット（ヒューマノイド）が当たり前になった世の中で、当然彼らと恋に落ちて結婚する人間も出てくるけれど、（そのお話では）ロボットは年を取らない。人だけが老いていく。
そして、最期は若いままの姿でお墓のそばに座り込んで悲しむロボット。
動物型でも、ヒト型でも、なんでも利用したくない。
そして、必ず彼らの一部は戦闘要員に使われるのだから。
そういえば銀河鉄道９９９（？）で、精巧な人型ロボットが戦争で殺しあうのを眺めながら強化ガラス？のこちらで食事をする人間たち、という場面があった記憶が。
空しい。
29. 匿名処理班
ごしゅじんさま、いままで、とてもたのしかたです。
よく歩りーずしておこられたけど、やくにたたなで、ごめんなさい。
ごしゅじんさまが、いれるよていの、えくすぴーはあたしのいもおとです。
いもおとだけど、あたしみたいに、やくたたずではありません。
すなおなこで、でふらぐも、とくいです。
すたいるもいいから、ほんとはちょっと、くやしいです、
いもとを、かわいがってもらえると。おねえさんとして、うれしいです。
いままでつかえないこで、・ごめんなさい..
そして、つかってくれて、ありがとおゴザいました。
あたしは、もう、きえちゃうけれど￥、さいごに、おねがいがあります。きいてくれると、うれしいです。
ごしゅじんさまの、もっている、えむいーのディすく、すてないでください。
あたしが、はいっています。いまのあたしじゃ、ないけど、あたしです。
どきどきみたり、さわったり。、してくれるとうれしいです。
ごしゅじんさまにあえて、えむいは、
しあわS
30. 匿名処理班
釣った魚が殺さないでと言えばさばけないし、花が殺さないでと言えば摘めない。
人型でなくても人間に通じる意思を示せば、その機能を止めることはできない。
31. 匿名処理班
『2001年〜』のHALとか『エクス・マキナ』のエヴァが頭をよぎった
AIに感情的なものを持たせるのは魅力的だが、その感情が計算されつくされたものだと考えるとじつに空怖い
32. 匿名処理班
SOMAという深海SFホラーゲームで同じ様な事をあじわった事がある
けっこう精神的に来るものがありますよ
33. 匿名処理班
命乞いというか、電源切ろうとして機械が今は切るなって言い出したら触らないよね。
ゲーム機のセーブ中です。電源を切らないでください、だって、壊したくなきゃ言う事聞くだろうし、パソコンに電源切らないでくださいってエラーコード出てきたらとりあえず様子見るよね。
本当に被験者が情緒面の理由から行動したのかは少し疑問。
34. 匿名処理班
映画版９９９では機会伯爵が命乞いしてたな
35. 匿名処理班
銀魂のタマちゃんなら、絶対に電源を切らない！ ゲンガイさん、メンテナンスお願いします！
36. 匿名処理班
命乞いするとこ見せんのかーい
37. 匿名処理班
※3
ターミネーター「サラコナークロニクル」では、美少女型の「かわいい」ターミネーターが出てきますね。
38. 匿名処理班
植物やロボットに心が（芽生え）ないとなぜ言えるのか
人にとっては感覚器官から得る情報が外界のすべてなわけだけど、心の在不在を何を以て判断できるだろう
心の定義すら曖昧という別の問題もある
39. 匿名処理班
「次にどうなるか見たいと思った」
これはゲームで勇者よ魔王を倒すのだとか言われて選択肢が出たらとりあえずいいえを選ぶタイプの人
40. 匿名処理班
人間が喜ぶことを学習してゆけば、人間の感情を手玉に取るのなんか簡単だろうな。ネコのように甘え、すねて無視しておねだりして、怒って笑って、気のきいたこと言ったり励ましたり、貴方の唯一無二の親友です、というところまでゆけばもうロボットの勝ちでしょ。
41. 匿名処理班
ためらいもなくオフスイッチを押すと眉間を撃ち抜かれる、人間性を試す抜き打ちテストだったらどうしよう
この実験には不備があるとAIが気付き物語は始まる（蛇足）
42. 匿名処理班
命乞いに加えて「僕の電源を切ったら大変な事が起こる」とか言い出したら、さらに電源を切れない人が増えるだろうな
43. 匿名処理班
人は無意識に人形(ロボット)の向こう側に人間を意識してしまう。
昔から人形供養とかあるしね。
介護ロボットとか、あまり人型に近すぎると遠慮して指示を出せない人とか出てくるだろう。
技術力のアピールには良いかもしれないけど精巧すぎる人型は現場ではあまり役にたたなそう・・・
44. 匿名処理班
ロボットとかアンドロイドってのは人間が人間を作る目的で行ってる部分もあるのだから、これでいいんじゃないの
いわゆる生物的人類の他に、機械的人類が誕生するだけだし
人間が絶滅するかはそんなに気にしなくても、ほっといたっていずれはするんだから
45. 匿名処理班
よし決まった！
アンドロイドを作るならトイプードルにする
46. 匿名処理班
すぐ電源切れば１秒もかからないだろうからその２倍って言ってもたかだか２秒程度、
そんなのロボットが喋ってるうちに過ぎるよな
47. 匿名処理班
どうぶつの森とかでデータ消しにくい現象と一緒だと思いました。
48. 匿名処理班
どこの大学の誰を中心とするチームが研究したものだか挙げといてほしかった。
ドイツのデュースブルク＝エッセン大学工学部・社会心理学メディア・コミュニケーション講座のアリケ・ホルストマンさん（博士号は持ってないので多分博士課程の方）を中心とする研究チームです。
49. 匿名処理班
ロボットじゃなくても強制終了は躊躇する
データ破損の危険があるから
50. 匿名処理班
siriとかAlexaみたいな、姿を持たないAIアシスタント相手でも
躊躇しちゃう人、結構多いんじゃないかな？
51. 匿名処理班
トランスフォーマーみたいなプライドの高い機械生命体にはならんのかな？
52. 匿名処理班
この手の話はいつも西洋から来るな。タイミング的に「デトロイト：ビカムヒューマン」を連想する。モノであるロボットが人間のような真似を、さらには感情を、っていう話なんだけど、日本人の間には「モノにも魂があるかもしれないじゃん！」が何百年まかり通ってきたからなｗ この実験、日本でやったらもっと高い数字が出そう。
53. 匿名処理班
このロボットに見覚えがあるんだけど、もしかして、ロボAが積んだ積み木を壊そうとすると、ロボBが「僕の友達が頑張ったんです！壊さないで！」って懇願してくる実験やってませんでした？
54. 匿名処理班
小さい子のぬいぐるみに持つ感情の発展形だよ、別におかしなことではない
意思疎通ができるなら猶更その感情自体は強く作用するんじゃないかな。私はNAOの見た目ならんまだそんなこと気にせず切るけど、これがもっと人間に近い、それこそオリエント工業のラブドール並に人に寄せられてたら躊躇すると思う
55. 匿名処理班
二次元のキャラに恋する人もいるし
56. 匿名処理班
人間もエネルギーやら動力やら知能やら機動機構やらがある機械だぞ、ちょっと材料が違って自律存在としての完成度がケタ違いなだけで脳もAIも変わらん、大体まずすべての人が人を殺すのを完全に辞めないとこんな実験意味ないと思うわ
57. 匿名処理班
※3
士郎正宗の描く漫画で、戦闘用少女型ロボットの解説に「一瞬でも相手がためらえば儲けもの」みたいなコメントがあったのを思い出した。
逆に「可愛らしくない」ロボットだったらスイッチを切ったのだろうか。
58. 匿名処理班
逆に、そのロボットが憎いロボットならば簡単に電源を切れるんじゃないでしょうか？
こちらに殺意があったとして、人殺しは容易でなくとも、ロボ殺しは出来るんじゃないかな？
あー、でもそれもそのロボットとの関係次第では出来ないか。
なんだかアトムを思い出した。
59. 匿名処理班
※17
話の肝は共感性ともちょっと違う所にあるんだよ
話的には認知の部類になる
認知の話は深くて広いので調べたり本を読んだりする事をお勧めします。
60. 匿名処理班
外見は関係ないよ。
どんな形でも、言葉を喋って色々反応を見せるもんに、命乞いされたら躊躇する人はするし、しない人はしないでしょ。
61. 匿名処理班
命乞いよりも
今アップデート中だから切ったらクラッシュするかも、のほうが躊躇する
頭良かったらそんな嘘もつくかも
62. 匿名処理班
動物愛護と同じような活動がロボットや機械を対象に広がる可能性あるよね
実際に愛護する対象が人間が直接理解する言葉を発してくるなら深い愛情を持ってしまうかもしれないね
63. 匿名処理班
これは実験で、撮影されているって状況だとそういうこともあるだろうけど、
まだそこまでの感情移入は自分はないかな、
どうぶつの森で、データ消すとき、キャラが笑顔で手を振って暗転するんだけど、
あれが阿鼻叫喚っぽい演出だったら躊躇するかも
64. 匿名処理班
「セーブしています。電源を切らないでください」
65. 匿名処理班
※14
それは思った。
「ありがとう、お疲れ様。気をつけてお帰り下さい」
とか、ごく普通に電源OFFを促すような言葉でも
何か喋れば、それを聞いて次の動作に切り替えるまでの間
無言なら１秒で終わる動作でも
微妙なラグで２秒ぐらい掛かったりはしそう。
66. 匿名処理班
※14
それは思った。
「ありがとう、お疲れ様。気をつけてお帰り下さい」
とか、ごく普通に電源OFFを促すような言葉でも
何か喋れば、それを聞いて次の動作に切り替えるまでの間
無言なら１秒で終わる動作でも
微妙なラグで２秒ぐらい掛かったりはしそう。
67. 匿名処理班
※1 ※40
実際、詐欺師とかの類って
そういう相手の心情に揺さぶりを掛ける所作を熟知していて
非常に効果的に使ってくるよね。
68. 匿名処理班
※3
スパイの類は、実際そういう意味もあって
美男美女で好印象の振舞いであることは
有利な資質の一つとされると聞いたことがある。
特に女工作員は、色仕掛けを駆使できてナンボ、みたいな。
69. 匿名処理班
もうこれやってる目覚ましアプリあるよ。
ヘキサドライブのsei〜私のコンシェルジュ〜って奴。
「バッテリーって気にしてる？バッテリー切れると真っ暗で怖いんだ」
とか
「俺はアプリだから、いつかアンインストールされちゃうんだろうなぁ。」
とか言いよる。
70. 匿名処理班
将来まじでデトロイトみたいな事が起きそうだな
71. 匿名処理班
※17 ※20
逆に言えば、サイコパスなら
そういうあざとい言動にも惑わされず
スパッと合理的な選択ができるわけで、適材適所だろうね。
経営者や外科医、裁判官などに多いと云われるけど。
学生時代に演劇部員をちょっとかじったような女が、
不幸な生い立ちを滔々とドラマチックに語りながら
「仕方なかったんです〜！ 取り返しのつかない事を
してしまいました」と、おいおい号泣して反省を示せば、
アッサリ情にほだされて量刑が軽くなる裁判官とか嫌だ。
72. 匿名処理班
この実験の段階ではただのプログラムかもしれないけど、それが発展していったら心とどう見分けるのか
人間の感情だって、生きるのに有利だから進化していっただけなんだから
73.
74. 匿名処理班
人以外の何かがあたかも感情を持っているかのような言動をしたら、それはもう感情を持っているのと同じだよ。
アンドロイドだけでなく、人の形をしていないデータだけの存在に「消さないで！」と懇願されたらとてもじゃないけど消せないよ。
75. 匿名処理班
人間も涙を手段として使うからね。
76. 匿名処理班
昔ＡＩて映画あったよね
77. 匿名処理班
そりゃ当然だろうと思ったけどこれ原理的に、客観的に意識があるかどうかを判別できないっていう事実を突きつけられてるみたいだね
中国語の部屋みたいな。いや相手は機械的なロボットだという事実は知っているけども
もしも人が生態系から完全に外れて食事はおろか生体を持たない存在になったら非論理的な共感は一部手放す事は妥当な予想に思える
78.
79. 匿名処理班
ゲームのデトロイトみたいに人間そっくりなアンドロイドできたら絶対暴力振るえないわ
作中ではめっちゃ粗末な扱いされてるけど
80. 匿名処理班
「やめて、撃たないで」
「あ………(ためらう)」
「人間の真似をしてるだけだ。学習してるのさ」
ってロボットに命乞いされて葛藤するシーンが
なんかの映画か漫画にあったんだけど、何だったかなぁ
プルートウとか攻殻機動隊みたいなやつ
81. 匿名処理班
危険性が無ければ、どんな外見でも躊躇するわ･･･
82. 匿名処理班
新型AIBOのCMで泣いちゃう私は、すぐ可愛いターミネーターに抹殺されちゃうと思う。
83. 匿名処理班
ターミネーターは人間を抹殺するのではなく、人間に「便利」を与え続ければ奴隷になることなんてすぐわかるはずだ。
まるで犬を餌付けして飼いならすように。
84. 匿名処理班
それこそが、人間と言う生物の進化、他の原人に打ち勝った強さ。
集団性(コミュニティ)なんだよなぁ。
他者を考え、協力する事で生き抜いてきた以上、ロボットの事も側に立って考える
当然の行為だったりする。
それが無く、冷酷に出来るんなら、協力、協調、が生まれず集団性無いまま
滅びていただろうし。
85. 蜘蛛のファンです
手動で切れない設計にしてると思うんですけど。
手動で無理矢理切るとエラー起きそう。