01_e

 ただ人間の命令に従うだけでなく、ロボット自体に善悪の判断をさせて行動させるという試みが、アメリカのタフツ大学、ブラウン大学、レンセラー工科大学の研究者らにより行われている。この研究をバックアップしているのが米海軍海事技術本部(ONR)である。

 人間的情緒を持たないロボットに、倫理観を与えることは果たしてできるのだろうか?研究者らは、人間が考えているほど善悪の判断というものは難しいものではないという。
 
スポンサードリンク

 5年間にわたるこのプロジェクトには、ONRより750万ドル(7.63億円)の助成金が与えられた。研究を率いるタフツ大学、ヒューマン・ロボット・インタラクション研究所のマティアス・シューツ氏は、「倫理的能力とは、法律や、社会基盤に基づいた行動原理、優先順位などを学習し、それに従って道徳的決定に基づいた行動をし、その行動をとった理由を話せる能力だと考えられる。」と語る。「問題は、ロボットがこうした能力をエミュレートし、実行することができるかどうかだ」

2_e1

 例えば医療ロボットに対して、重傷を負った兵士を最寄りの野戦病院に移送するよう命令したとする。ロボットは移送中に、脚を骨折した別の海兵隊員に出会った。ロボットは、立ち止まって手当を施すべきなのだろうか? それとも与えられた任務を遂行し続けるべきなのだろうか?

 また、命を救うために、時には負傷者に多大なる苦痛を与える応急処置が必要だとする。だがその治療をしても助かる見込みは薄い場合、ロボットは、命を救うために人間に苦痛を与えることを善だと考えるべきなのだろうか?

 研究チームは、共感の本質に関するさらに多くの問いかけを行って、人間の倫理的能力を構成している本質的な要素を特定する必要がある。人の感情を生み出す根源がわかれば、人間のような倫理的判断が行える人工知能をモデル化する枠組みに取り組めるだろう。

1_e1

 われわれは、既存の自律型ロボットの実証されたアーキテクチャーに、独自のアルゴリズムと計算メカニズムを統合するつもりだ。拡張されたアーキテクチャーは、ロボットが倫理的判断に基づいて、計画された行動をダイナミックに上書きできるような、柔軟なものになる」とシューツ氏は語る。

 一方、シューツ氏と協力して研究を行っている、レンセラー工科大学認知科学部のセルマー・ブリングジョード部長は、人間の倫理は何を意味するのかについて、確立した定義はないと指摘し、これは研究チームが取り組むべき難題だと語る。

 ブリングジョード氏のアプローチでは、ロボットが下す決定はすべて、倫理面での予備的チェックを受ける。さらに深い熟考が必要な場合は、ロボットが自律的にそうした熟考を始める。

 「不測の事態が生じたときには、その場でさらに深く熟考できる能力をロボットに持たせなければならない。人間によってあらかじめ設けられたルールは限定的で、考えられるすべての状況を予期したものではないからだ」

5_e0
via:sciencedailywired

 ここで思い出すのは、ロボットと人間の関係性を題材にした有名な古典SF小説である、アイザック・アシモフ氏の「われはロボット」だ。ここにロボット工学の三原則というのがでてくる。

第1条: ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第2条: ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りではない。

第3条: ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

『ロボット工学ハンドブック』 第五十六版 西暦2058年

 ロボット工学三原則は、すべてのロボットが従わなければならないものだった。ところが皮肉にも人間がロボットを信用しなかったり、人間に原則とは矛盾する命令を出されたロボットがおかしな行動をとってしまう。

 人間だって究極の選択を強いられた場合その判断に迷いがでるものだ。自己矛盾を抱えており、心の中では社会的倫理と葛藤してる。少年マンガのテーマにありがちな、「多くの人の命を守るため小数を犠牲にすることは果たして善なのか?」ですら答えがだせないわけなんだけど、ロボットなら悩まないし、プログラミングされた通りのの方法で行動するから、人間よりも倫理的になるのかな?

▼あわせて読みたい
英国人の3人に1人がアンドロイド・ロボットを本気で恐れていることが判明(英研究)


SF小説が予言した未来の科学技術が実現したケースを時系列で見ることができるイラスト図


ロボットが自らの言語「ロボット語」を作り出すことに成功(オーストラリア研究)


ググれるロボット。ネットで検索し自ら新しい知識を学ぶロボットを開発(東工大)


ロボットに人間の脳を移植し不死化する人造人間プロジェクトが発足、10年以内に実現化を目指す(ロシア)



この記事に関連するキーワード

キーワードから記事を探す

この記事が気に入ったら
いいね!しよう
カラパイアの最新記事をお届けします
この記事をシェア :    

Facebook

コメント

1

1. 匿名処理班

  • 2014年05月31日 08:37
  • ID:0hX0ZXa.0 #

リアル・センチネル

2

2. 匿名処理班

  • 2014年05月31日 08:41
  • ID:I7LBlTmU0 #

ピースウォーカー思い出した

3

3. 匿名処理班

  • 2014年05月31日 08:45
  • ID:B..hOg7p0 #

製作者の倫理感に左右されてしまうだけでは

4

4. 匿名処理班

  • 2014年05月31日 08:59
  • ID:940a.y7l0 #

一神教的善悪がインプットされます

5

5. 匿名処理班

  • 2014年05月31日 09:28
  • ID:eVgYp.8b0 #

なるほど、倫理を判断するというところまでは問題無いだろう。
しかし、ロボットに倫理に反する行動をしたところを見咎められて、阻止行動を起こされると脅威だ。
例えば、道を歩いていて公衆便所などが見当たらない場合、立ちションをしようとしたら、「止めるんだ!」と言われて沈々をつままれて小便できなくされるようなことになると地獄だ。

6

6. 匿名処理班

  • 2014年05月31日 09:37
  • ID:RFoZY.2n0 #

米海軍は真に倫理的なロボットの開発に成功した。そして米海軍は全滅した・・・
みたいなことになりそう。

7

7. 匿名処理班

  • 2014年05月31日 10:03
  • ID:y4rxqcQJ0 #

そのうち「人間の存在は地球にとって害である」とロボットが人類を皆殺しにする三流映画的展開になるんですねw

8

8. 匿名処理班

  • 2014年05月31日 10:17
  • ID:97jHzsZS0 #

そのロボットと
ミサイル発射システムをリンクさせんなよ、絶対WWW
ネタ振りじゃねーからなWWW

9

9. 匿名処理班

  • 2014年05月31日 10:24
  • ID:nRiWO.ZR0 #

倫理性を獲得した自律型ロボットが、人間の倫理性の無さに反逆を起こすんですね、解ります

10

10. 匿名処理班

  • 2014年05月31日 10:29
  • ID:AzKYK6N90 #

ジンルイハアクダカラゼツメツサセル

11

11. 匿名処理班

  • 2014年05月31日 10:37
  • ID:QfMQRipk0 #

映画「ロボコップ」のED209を思い出した、と書こうとしたらロボコップの画像が使われてた

12

12. 匿名処理班

  • 2014年05月31日 11:23
  • ID:1jnGS.zj0 #

チャレンジは大事だけど、この技術が確立したら真っ先に搭載されるのは無人爆撃機のような気がする

13

13. 匿名処理班

  • 2014年05月31日 11:44
  • ID:J4NsWizS0 #

無理だろ
たとえば目玉焼きに醤油が正しいとプログラムされると
ソースかけたりましてやマヨネーズ使った日にはってことになるんだろ
一本面白そうな映画制作のヒントにはなるくらいだ

14

14. 匿名処理班

  • 2014年05月31日 11:49
  • ID:fXXg8KG00 #

不気味の谷を超えた嫁ロボ早く作ってくれ

15

15. 匿名処理班

  • 2014年05月31日 12:03
  • ID:5JSslXr00 #

「幸福ですか、市民?」みたいなのを連想した。

16

16. 匿名処理班

  • 2014年05月31日 13:20
  • ID:Br9dPpxj0 #

善悪なんて立場や環境にも大きく左右されるから、正確な判断なんて無理だと思うけどな
例えば治安の悪いソマリアで銃撃があり1人が死んだとする。間接的に見ると人を殺めた人が悪になるわけだけど、それでしか生きていけないような環境ならばどうなんだろうか?
残念な事に人を殺したり、盗みをしたり、悪事を働かないと生きていけないような環境は間違いなくある。それを悪と判断するのは、その環境下にいないから出来ることだろうし

17

17. 匿名処理班

  • 2014年05月31日 13:50
  • ID:VN41QC8g0 #

自分はこの分野だけは日本がトップを走ってほしいのだが無理なのだろうか

18

18. 匿名処理班

  • 2014年05月31日 14:04
  • ID:qnkFZwwK0 #

まず始めに米軍が排除されました。ってオチを期待。

19

19. 匿名処理班

  • 2014年05月31日 14:17
  • ID:mgtmq75W0 #

その内、産まれてくる赤ん坊まで善悪を判断し差別されるようになるんだろ?
産まれてきた瞬間から、将来悪に染まる可能性があるから、一生牢獄で暮らせとか、奴隷のように扱われまともな働き口がなくなり・・・
よくあるSF小説か

20

20. 匿名処理班

  • 2014年05月31日 14:23
  • ID:5GoNI.Se0 #

そこはかとなく漂う危険な香り

21

21. 匿名処理班

  • 2014年05月31日 14:37
  • ID:8r51VAGG0 #

善悪を判断した結果、米軍に反抗する米軍のロボットですね? 素晴らしい。

22

22. 匿名処理班

  • 2014年05月31日 14:46
  • ID:.olISsN50 #

これは人類破滅フラグ

23

23. 匿名処理班

  • 2014年05月31日 14:52
  • ID:30DGABN.0 #

戦場に投入されたものの、現地の人の状態に同情し自分の軍に反旗を翻す
そんなフラグですか?

24

24. 全温度チアー

  • 2014年05月31日 15:50
  • ID:8z9h8Sq.0 #

おいおい、これ仮に不完全でもキカイダーのレベルにはなれるってこと?

25

25. 匿名処理班

  • 2014年05月31日 16:10
  • ID:16O3UjzO0 #

むしろ自殺してしまうのではないだろうか
人類が悪であるとの判断したものの、人類を傷つけてはならないという絶対命令により、危害を加えることを考えた自分自身が悪なのだという結論になってしまう・・・
なんてストーリー、小説になりそうだね

26

26. 匿名処理班

  • 2014年05月31日 16:18
  • ID:IGpmm3rK0 #

ならば、完成したところでアメリカ軍の命令を聞かないんじゃないかと思うのだが。

27

27. 匿名処理班

  • 2014年05月31日 16:21
  • ID:Ft05mJTO0 #

良心回路の開発ですね。
ギルの笛も一緒に開発していると。

28

28. 匿名処理班

  • 2014年05月31日 16:35
  • ID:z25ccc4W0 #

ガイゾックかな?

29

29. 匿名処理班

  • 2014年05月31日 16:53
  • ID:CKa5NQWI0 #

死の七日間待ったなし

30

30. 匿名処理班

  • 2014年05月31日 16:58
  • ID:zbRO4vqI0 #

与えた命令の穴を掻い潜ってくる

31

31. 匿名処理班

  • 2014年05月31日 17:21
  • ID:BKYL1Ab90 #

二股に線路が分かれたトロッコを見せつけて考え込んだところを
背後からぶちっとプラグ抜くしか勝つ方法ないな。

32

32. 匿名処理班

  • 2014年05月31日 17:30
  • ID:RdtSLaf40 #

倫理ってモンを軽く見過ぎだろ……
人、国、育ち、その他もろもろで個人差が激しすぎる価値観をロボットに搭載するなんて無理無理。
機械的にこの状況ならこうする。ってパターンを覚えさせるだけでは倫理観とは到底言えない。

33

33. 匿名処理班

  • 2014年05月31日 18:01
  • ID:cQuGBCIO0 #

え、善悪を判断するって、まさか良心回路のジェミニ?
ジェミニ組み込みなん??
でも不完全で、笛吹かれると、ダークに生まれたものはダークへ帰る鉄の掟で狂わされたりするんでそ?

34

34. 匿名処理班

  • 2014年05月31日 18:34
  • ID:t6Fnm7wR0 #

人間なんか人だろうがロボットだろうが誰がが下した判断なら
必ず文句いう奴が出てくるもんだろ

35

35. ぐわんげ

  • 2014年05月31日 19:03
  • ID:POQvYbJr0 #

いちばんAIにさせちゃいけないことのような…

36

36. 匿名処理班

  • 2014年05月31日 23:05
  • ID:DqPcVigu0 #

善悪の概念自体がまず曖昧だし

37

37. 匿名処理班

  • 2014年06月01日 01:00
  • ID:kqL.J9Lz0 #

殺人すら善になる宗教もあると言うのに無理ゲーすぎw

38

38. 匿名処理班

  • 2014年06月01日 01:12
  • ID:tFDrBxJ60 #

ロボットもうつになる時代がくるんですかね…

39

39. 匿名処理班

  • 2014年06月01日 01:27
  • ID:O6VMvUN.0 #

結局倫理や正義って人間の都合が大いに関わるからな
言い方はアレだけど倫理や正義くらいは自分で考え続けないと人類ダメになると思う、そこ機械に任せちゃダメだろと

40

40. 匿名処理班

  • 2014年06月01日 08:50
  • ID:j9VfbM0r0 #

善悪なんてどこも触れてないぞ?お前らは一体何と戦ってるんだ
道徳的であって善悪ではないぞ

41

41. 匿名処理班

  • 2014年06月01日 11:11
  • ID:2XaxKys80 #

キカイダーって書こうとしたらすでに同ネタ多数だったw
倫理観ってのは時代性、地域性、それに緊急性なんかもあって普遍のものじゃないし
善悪ってのは「社会的に」「行動に対して後付けで決められるもの」じゃないかな。
それこそ、「ロボットが人間を悪と見なして殺しまくる」ってのを
人類側の大多数は、「そのロボットが人間にとって悪」と見なすように。

42

42. 匿名処理班

  • 2014年06月01日 13:28
  • ID:B1d7j5gM0 #

ロボットにトリアージされるのヤダ!

43

43. 匿名処理班

  • 2014年06月01日 14:29
  • ID:OypRyy.m0 #

アメリカ人にとって都合のいい倫理観ってさぁ…
いいのかい?それで?
あの国にとっては 原爆の投下だって善なんだよ…

44

44. 匿名処理班

  • 2014年06月01日 14:58
  • ID:dQqDaMsD0 #

なるほど、合法的論理的人道的判断の元ロボットが敵をやっつけるんですね、わかります。

45

45. 匿名処理班

  • 2014年06月01日 17:17
  • ID:O6VMvUN.0 #

※40
道徳を追求する上で善悪は避けて通れないものなのに何言ってるんだ
そもそも道徳って善悪を判断するための基準や参考って意味も含んでるし

46

46. 匿名処理班

  • 2014年06月01日 22:10
  • ID:2BN0.JeA0 #

※47
ひょっとして※42宛て?

47

47. 匿名処理班

  • 2014年06月02日 07:05
  • ID:7fsgtarX0 #

善悪とか道徳など ただの好き嫌いだろ 人の自分勝手な

48

48. 匿名処理班

  • 2014年06月02日 07:50
  • ID:ivY1ApMZ0 #

よく物事をカウントするときに「正」を書くだろ
「正しい」と言う事の本質はそれだ
つまりただの「多数決」なだけ
人間がイメージしている「正しさ」でも「良さ」「善さ」でも全くない
好き嫌いの多数決でしかない

49

49. 匿名処理班

  • 2014年06月02日 08:00
  • ID:iiLNXg.u0 #

人間は自分たちの考え方を正当化したがる
大義名分化したがるのだ
最初から「正しい」ものなんて実在せん
自分勝手に正当「化」するだけだからだ

50

50.

  • 2014年06月02日 09:02
  • ID:.Vwj69.b0 #

アメリカにとっての善悪だろw

51

51. 匿名処理班

  • 2014年06月02日 10:02
  • ID:.qkpztwf0 #

メカトピアになりそう

52

52. 匿名処理班

  • 2014年06月02日 14:08
  • ID:lUTHK93h0 #

アメリカアメリカ言うとる人がおるけど
人類が真っ先に滅ぼされると思うわ
地球上の生命体にとっては脅威的な存在だからな
自分だって今、暢気にネット使っているが
それは資源をものすごく消費している結果でもあるわけだし

53

53. 匿名処理班

  • 2014年06月02日 14:09
  • ID:j5od8VYd0 #

※40さんにとって道徳とはなんなのか…(呆れ

54

54. ata

  • 2014年06月04日 14:23
  • ID:Yk0OzD.R0 #

これが進化すると、世界の裁定者の巨神兵になるのか。

55

55. 匿名処理班

  • 2014年06月04日 20:45
  • ID:JNpdgl0.0 #

みんなで考えれば済むことに7億かけるとかまじリッチな

56

56. 匿名処理班

  • 2014年06月04日 23:49
  • ID:zcjKLd4m0 #

※53で終わってた

57

57. 匿名処理班

  • 2014年06月05日 20:23
  • ID:yan02W2t0 #

エリジウム乙

58

58. 匿名処理班

  • 2014年06月11日 22:06
  • ID:ks0u6x6l0 #

これは最終的に人類滅ぼすタイプのヤツですわ。

59

59. 匿名処理班

  • 2014年07月28日 22:43
  • ID:lCRAlBWV0 #

フレーム問題すら克服できてないのに倫理観も何も
パターンこなすだけで精一杯だろ

お名前
スポンサードリンク
記事検索
月別アーカイブ
スマートフォン版
スマートフォン版QRコード
「カラパイア」で検索!!
スポンサードリンク