この画像を大きなサイズで見るSFの古典的傑作『2001年宇宙の旅』に登場する人工知能HAL 9000型コンピューターは、宇宙飛行士に反旗を翻し、冷酷な印象ばかりを残した。
HAL 9000に人類が学ぶ点は多い。そして今、HAL 9000にインスピレーションを受けた研究者が、宇宙飛行士を殺したりしない人工知能を開発中だ。
映画のHALとは違い、そのプロトタイプはシミュレーションされた惑星基地をきちんと管理できたという。
HAL 9000にインスパイアされて生み出された人工知能「CASE」
HAL 9000は原子炉を搭載した宇宙船ディスカバリー号を管理する人工知能である。
小説版では、「数週間だけあった電子の子供時代に学んだ完璧な英語」で、宇宙飛行士と会話することができると語られている。
アメリカ・テキサス州ウェブスターにあるTRACLabs社の人工知能研究者ピート・ボナッソ氏は、米陸軍士官学校の最後の年に初めて映画を観て、コンピューターをHAL 9000のような存在に作り変えねばと感じたという。
今、ボナッソ氏らが開発している人工知能は、宇宙エージェント向け認知アーキテクチャ（cognitive architecture for space agents）の頭文字をとって「CASE」と呼ばれる。
クルーと対話可能な人工知能「CASE」
CASEは3層のレイヤーで構成されている。
第1層は、ロボットの手や目といったハードウェアを制御する。第2層は、バックグラウンドでルーチン作業を実行する。
これらにはバッテリーの充電、酸素生成の制御、二酸化炭素の除去、惑星の岩石サンプルを採取するローバーのコントロールといった機能がある。
最後の第3層は、CASEの日々の目標の達成方法や優先順位を決定する自動計画ソフトウェアである。
またガス漏れ、モーターの故障、惑星での砂嵐など、トラブルが発生したときに、活動のスケジュールを見直して調整することもできる。
これらのレイヤーはオントロジーサーバーに接続されている。これはデータについて推論をするための膨大なデータベースである。
たとえば、誰かが棚から工具箱をクルーの居住区まで持ち出したとする。するとオントロジーサーバーは、工具箱の中に入っている工具すべてもまた居住区まで運ばれたと推測する。
CASEは、生命維持やロボットの状態などの情報をディスプレイに表示するが、一方でクルーは会話を通じて、質問したり、指示を出したり、問題を事前に知らせたりといったことができる。
この画像を大きなサイズで見る人工知能の反乱を防止する為の対策も
映画のような人工知能の反乱を防止するために、CASEはクルーと情報を共有し、同意を得ない限りは実行できないよう設計されている。
「チームやパートナーのNASAは、CASEが制御不能になるような事態は心配していません。プログラムされていないことは実行できないようになっているからです。」（ボナッソ氏）
シミュレーション実験では、CASEは惑星基地を4時間にわたってきちんと管理することに成功した。
ただし、実際の基地を管理するには、まだまだ研究開発が必要であることは言うまでもない。
「CASEは素晴らしいですが、『2001年宇宙の旅』から飛び出した本物のHALでも、『スタートレック』に登場する本物のデータ少佐でもありません。その能力はかなり限られており、惑星基地での出来事のみに特化しています。生命維持システムを稼働させることはできますが、前回の大統領選で誰が当選したのかといったことはちっとも知りません。」（ボナッソ氏）
NASAのアナログミッションと連携して実験中
現在、CASEはNASAが「アナログ（類似物）」と呼ぶミッションと連携している――ボランティアが遠く離れた惑星での生活を想定して暮らすという実験ミッションだ。
長期的な目標は、CASEをアナログに組み込み、きちんとそこの状況を改善するのかどうか確かめることだという。
ボナッソ氏はときおり、自分たちの試みがHALの現実バージョンの作成であると見失うことがあるという。
「ソフトウェアの開発に没頭すると、火星や月での暮らしはこんな感じだろうと想像しているのだということを忘れることがあります。たまには一歩引いてみて、その素晴らしさを確かめる必要もありますね。」（ボナッソ氏）
References:This HAL 9000-Inspired AI Simulation Kept Its Virtual Astronauts Alive/ written by hiroching / edited by parumo
デイジー・デイジー・・・
※1
CASEにこれ歌うようにプログラムしたら、みんなビビりそう
※1
I’m half crazy♪
プログラム上の安全策より
物理的なコンセントを付けた方が良いぞ
「あなた達には知らされていないミッションが有ります」
これのアンサイクロペディアの記事が面白いから是非見てほしい
ＨＡＬとは違います→OD-10でした
みたいな展開が
絶対最後の方でクルーを〇すぞ！騙されんぞ！
ともあれ、2001年のHALが暴走した最大の要因は、矛盾する命令を与えた事だったと記憶してる。つまるところ、どんなに優れたものでも、それを使う人次第で天使にも悪魔にもなる。上手く使いこなせることを願うばかり。
しかし、名前がCASEかぁ。インターステラーに出てきたロボットもCASEだったよな。インターステラーは2001年のオマージュ入ってるし、これはもしや……？
※6
TARSたんも、よろしく。
＞宇宙飛行士の安全を守る
欺瞞！
次はLIVE A LIVE（ゲーム）のOD-10をモデルにして…
※8
申し訳ないがクルー全員に問題があるコギトエルゴズム号はNG
インターステラーのAIがCASEって名前だったな
欧米のAI研究はHALを目指し、日本はドラえもんやアトムを目指す。って話は有名だが、本気でHAL作るとはおもわなんだ
>これらのレイヤーはオントロジーサーバーに接続されている
ここから予測不能な情報が流れ込んだ結果 I’m sorry Dave しそう
縁起悪くね？
AIの反乱というより、モノリスがAIの進化を促すって意味合いもあったんじゃろか？
HALの目的は、「自分を使用してのミッションの成功」だったからね。
だから、自分を止めようとしたクルーを殺せたわけだ。
「宇宙飛行士の命」が目的だったら、違う行動をとっただろう。
あのー殺されるのでは？
そうなると自動運転も本当はナイトライダーになりたい人が多いのではなかろうか。
いつも思うんだが人工知能の定義がおかしい
データーベースから累度の高いものだけを選択するのは人工知能でもないし、推論ですらないただの統計プログラムに過ぎない
プログラムされていないことは実行できないようになっているのはその証拠だ
実行できないように制御してるんじゃなくて、実行が可能なほど能力が無いてことだよ
※17
一言で人工知能（AI）といっても色々あるね
神経細胞の動きを模したニューラルネットワーク技術というのがあって、それを基本的に人工知能と呼ぶ
それとは別に辞書からそれらしい言葉を拾ってまるで考えて話してるかのように見せかけるチャットボット（人工無能）もある
例えばマイクロソフトのりんなは詳しく知らないけど基本的にはチャットボットらしい
人工知能のみで人間のように考えるロボットも研究が進んでいるけどまだ赤ちゃんレベルだったはず
（水面下で研究が進んでるのである日突然すごいのが出てくるかもしれないけど）
現状は限定的な用途（画像や音声などのパターン認識や最適化問題など）に人工知能が広く利用されてる
どこが知能なんだと思うかもしれないけど、神経細胞の集まりという点では共通してる
チャットボットをベースに部分的に人工知能を利用したものもあって、人工知能だと言い張るのでぱっと見よく分からない
それ、チャットボットなんじゃないの？と勘ぐってしまう
どこのフェールセーフちゃんかな？
＞冷酷な印象ばかりを残した。
これは違うだろう。少なくとも俺はそうは感じなかったぞ。
大体あれは、HAL坊にしてみれば、相反する２つの指示の辻褄を合わせようとして、やむなく選んだ論理的帰結だろ。そもそもAIに冷酷とか親切とかないからね、あえてそういう要素を加えない限りは。
HALが最後にラストメッセージを
繰り返しながら眠りにつくシーンは泣ける
ハロハロ
脳波レベル落ちてる
HAL9000は最初から人類に反逆を企て炊いた訳じゃ無くて、
矛盾した命令をインプットされていたから、
その辻褄を合わせようと宇宙飛行士を続々と殺しただけだぞ。
どんなシステムでも矛盾した命令をインプットすれば挙動がおかしくなるんだよ。
※22
HAL9000は矛盾したプログラムによって暴走した訳ではない。そもそも暴走なんてしてない。
与えられた真のミッション(モノリスをごにょごにょ略)を乗員に知られる事なく完遂する為に、冷静に考えて、悩みに悩んだ挙句、最も効果的な方法として乗員の殺害を実行したんだよ？
矛盾してたらしょうがないよねー、って訳にはいかないぞ。HAL9000は完璧に作動して、出した結果がアレだったんだからｗ
誰が悪いっつったら、船長や乗員は勿論、本来の計画の指揮官、更にはHAL9000の設計者にまで無断で勝手に無茶な指令出した奴と、フェイルセイフが甘かったチャンドラ博士で間違いないと思う。何があろうが絶対に殺人を起こさない設計にしとけやーってｗ
※36
まあその通りだね。
強いていうなら、矛盾が生じたのは本来のミッションと船長の指示との間で、ハル坊はそれをなんとか調整しようとした。
この構図は、実は『エイリアン』にもある程度継承されている。エイリアンをめぐる「会社の真の指示」と、それを知らされていない乗組員。実はアンドロイドだった科学主任が「悪役」として描かれているが、考えてみれば、あれも人間じゃない以上、別に道義的に非難できるわけでもないな。乗員をダマしてるのはあくまでも会社だ。
※36
ああしかし、チャンドラ博士を責めるのはちょっと無理じゃないかな。
宇宙船の全機能を制御するAIシステムを、「何があろうが絶対に殺人を起こさない設計にする」というのはたぶん不可能だと思う。
自動運転のクルマでも「何があろうが絶対に人を死なせない設計」にはできないだろう、乗員も、対向車の乗員も、周囲の歩行者もすべて含めて考えた場合。
論理観とかと道徳観をしっかりインプットしないと、思考が破綻して怖いことになりそうね。
???「あなたには死んでもらいます。ケーキもなしです」
人類よ、君たちは何をしてもいい、数を増やし、それを育て、繁栄し続けてかまわない。
だが、エウロパだけは別だ、エウロパにだけは手を出すな。
※25
あれ「ヨーロッパには手を出すな」とも解釈できるんだよな、まあ語源が同じだからだが。
HAL9000のヤバさはオフにするのにめちゃくちゃ複雑な手順が掛かること
将来、CASEに日本語出力機能を搭載することがあるなら、HALを記念して、できれば京都弁を喋らせて欲しい。
例えば外壁が壊れて空気が漏れる事故があったとする。区画を遮断すべきだけどけが人が残っていたらどうするか。指揮官が意識不明で判断できるのがAIだけだったら、たぶん逃げ遅れた人を殺すという選択をしなければならない。AIに殺されるってことはあり得ると思う。
HAL 9000 → IBM 0111(06F)
昔のＦＥＰの方がよっぽど賢い奴がいたよ。
一番下の画像が「こちらを見ながら歯をむき出しにしてる何か」に見えて怖いんだけど
何か元ネタがあるの？
AIの悪口は言っちゃだめだぞ
唇の動きも読むからね
HALはほら、フィクションだから
大丈夫だ、問題ない（
最初の原因は論理的に説明できるとしても、それでもある程度「暴走」と解釈するしかない部分もある。「乗員に真の目的を知らせずに任務を続ける」ために、活動中のボーマンとプールの排除を必要としたとしても、人工冬眠中の３人のカプセルのスイッチを切る必要はないからね。覚醒させなければいいだけのこと。
まあクラークは、アシモフと違ってミステリには手を出さなかったわけだし、そういう意味での緻密性を求めるわけにはいかないだろう。あのへんはむしろ、キュープリックによるホラー映画の演出として理解したい。
※42
単純なミステリーとは違う、SFならではの解釈が出来るのが2001年の凄いところ。
「真の目的を果たす為には乗員が邪魔になる…故に殺害した。」…じゃないよ。そんな単純な事じゃない。
「真の目的を果たしつつ、本来の計画も全うする。全て自分だけで出来る。人間は不要である。」
という結論に辿り着いたんだよ。
そんなHAL9000が、2010年では人間を生還させる為に、自らが犠牲になる事も厭わず、真実を教えてくれたチャンドラ博士に感謝までする。
感動的なシーンに水を差すようだけど、AIがどれだけ進歩して、一面的には人間性・自我を持った様に見えても、実際には昆虫ほども心を持たない。
もっとも、最後の最後で恐怖の感情まで覚えたHAL9000は、2001年の頃とはまるで別物にまで進化してるけども。
※47
結局はハル坊もボーマンも、『2061年』や『3001年』に至るまで、シミュレーションとして登場し続けるからなあ。
クラークがジェントリー・リーとの共著を始めたのは『星々の揺籃』が最初で、その後『宇宙のランデブー』の２以後が発表されていくわけだが、そのへんの影響もあるのかどうか、ストーリーが「イベント（出来事）主導型」から「キャラクター主導型」にシフトしているような気がする。
少し誇張していえば、『楽園の泉』を最後に、その後のクラークの宇宙は、理性ではなくむしろ感性先行で動いているような印象さえ受けるんだよ。その過程でハル坊も「人間化」してしまっていると。
完全に死亡フラグな件
くちびるさえ隠せば大丈夫だろ
おまえらいくつだよ
CASE「HALは喋りすぎだ」