善悪を判断し、道徳的な決定を下す自律型ロボットの開発に資金投入（米海軍）

この画像を大きなサイズで見る

　ただ人間の命令に従うだけでなく、ロボット自体に善悪の判断をさせて行動させるという試みが、アメリカのタフツ大学、ブラウン大学、レンセラー工科大学の研究者らにより行われている。この研究をバックアップしているのが米海軍海事技術本部（ONR）である。

　人間的情緒を持たないロボットに、倫理観を与えることは果たしてできるのだろうか？研究者らは、人間が考えているほど善悪の判断というものは難しいものではないという。

　5年間にわたるこのプロジェクトには、ONRより750万ドル（7.63億円）の助成金が与えられた。研究を率いるタフツ大学、ヒューマン・ロボット・インタラクション研究所のマティアス・シューツ氏は、「倫理的能力とは、法律や、社会基盤に基づいた行動原理、優先順位などを学習し、それに従って道徳的決定に基づいた行動をし、その行動をとった理由を話せる能力だと考えられる。」と語る。「問題は、ロボットがこうした能力をエミュレートし、実行することができるかどうかだ」

この画像を大きなサイズで見る

　例えば医療ロボットに対して、重傷を負った兵士を最寄りの野戦病院に移送するよう命令したとする。ロボットは移送中に、脚を骨折した別の海兵隊員に出会った。ロボットは、立ち止まって手当を施すべきなのだろうか？ それとも与えられた任務を遂行し続けるべきなのだろうか？

　また、命を救うために、時には負傷者に多大なる苦痛を与える応急処置が必要だとする。だがその治療をしても助かる見込みは薄い場合、ロボットは、命を救うために人間に苦痛を与えることを善だと考えるべきなのだろうか？

　研究チームは、共感の本質に関するさらに多くの問いかけを行って、人間の倫理的能力を構成している本質的な要素を特定する必要がある。人の感情を生み出す根源がわかれば、人間のような倫理的判断が行える人工知能をモデル化する枠組みに取り組めるだろう。

この画像を大きなサイズで見る

　われわれは、既存の自律型ロボットの実証されたアーキテクチャーに、独自のアルゴリズムと計算メカニズムを統合するつもりだ。拡張されたアーキテクチャーは、ロボットが倫理的判断に基づいて、計画された行動をダイナミックに上書きできるような、柔軟なものになる」とシューツ氏は語る。

　一方、シューツ氏と協力して研究を行っている、レンセラー工科大学認知科学部のセルマー・ブリングジョード部長は、人間の倫理は何を意味するのかについて、確立した定義はないと指摘し、これは研究チームが取り組むべき難題だと語る。

　ブリングジョード氏のアプローチでは、ロボットが下す決定はすべて、倫理面での予備的チェックを受ける。さらに深い熟考が必要な場合は、ロボットが自律的にそうした熟考を始める。

　「不測の事態が生じたときには、その場でさらに深く熟考できる能力をロボットに持たせなければならない。人間によってあらかじめ設けられたルールは限定的で、考えられるすべての状況を予期したものではないからだ」

この画像を大きなサイズで見る

　ここで思い出すのは、ロボットと人間の関係性を題材にした有名な古典SF小説である、アイザック・アシモフ氏の「われはロボット」だ。ここにロボット工学の三原則というのがでてくる。

第1条： ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。

第2条： ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りではない。

第3条： ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

『ロボット工学ハンドブック』 第五十六版 西暦2058年

　ロボット工学三原則は、すべてのロボットが従わなければならないものだった。ところが皮肉にも人間がロボットを信用しなかったり、人間に原則とは矛盾する命令を出されたロボットがおかしな行動をとってしまう。

　人間だって究極の選択を強いられた場合その判断に迷いがでるものだ。自己矛盾を抱えており、心の中では社会的倫理と葛藤してる。少年マンガのテーマにありがちな、「多くの人の命を守るため小数を犠牲にすることは果たして善なのか？」ですら答えがだせないわけなんだけど、ロボットなら悩まないし、プログラミングされた通りのの方法で行動するから、人間よりも倫理的になるのかな？

• #ロボット
• #開発
• #判断
• #米海軍
• #モラル