この画像を大きなサイズで見る性能の向上がめざましい自動運転車だが、普及するためには技術的な問題のほかにも克服すべきことがある。それは人間にいかに機械の運転を信用してもらうかということだ。
いくら性能が向上したところで自動運転車の事故がニュースになったこともある。そんな機械任せにするくらいなら自分で運転した方がマシだと考える人はたくさんいるだろう。
そこでドイツの研究者は、自動運転車の事故ゼロを目指すのではなく、AIに規範意識を学ばせ、自らがとるべき進路を割り出すという「合法的な安全性」を持った自動運転車の開発を提案している。
これなら仮に事故が起きたとしても、それは人間が合法的な運転をしていないからで、事故は人間側の責任ということになる。
気まぐれで不合理な人間の行動にどう対処するのか？
複雑に変化する路上で起こる出来事を予測するのは、きわめて厄介な仕事だ。
従来の確率論的な機械学習アルゴリズムは、次に起きると予測される出来事の確率分布に基づいて、安全な進路を決定する。
しかし、時に気まぐれで、無謀で不合理な運転をする人間ドライバーや、急に飛び出してくる歩行者が存在する道路において、次に起こる出来事の可能性などほとんど無限にある。
どんなに優れたAIであっても、これらすべてを予測することはできない。つまり、いかに自動運転車といえども、事故がゼロになったりはしないということだ。
事故がゼロにならないならば、自動運転車が人間から信頼されることもない。では一体どうすればいいのか？
この画像を大きなサイズで見るAIに規範意識を身につけさせることで事故の責任を回避
そこでドイツ・ミュンヘン工科大学のグループが提案しているのは、自動運転車の事故ゼロを目指すのではなく、AIに規範意識（遵法精神）を身につけさせて、「合法的な安全性」を完璧なまでに実現しようというアプローチだ。
このアプローチでは、交通ルールや安全基準に照らして、起こりうるだろう状況を予測する。具体的には「ウィーン交通条約」が守られた交通状況のみを考慮し、ほかの車両や歩行者もこれを遵守していることを前提とする。
その上で、合法的かつ物理的にありえる動きをすべて想定し、自らがとるべき安全な進路を割り出す。
もちろん、交通法規を完全に無視した悪質な車からは守られない。どんなに安全運転をしていたとしても、いきなり後ろから追突されることはあるだろう。
だがこれは合法的な運転ではないため、人間側の責任ということになる。AI、つまり自動運転車に非はないのだ。
この画像を大きなサイズで見るAIが計画した進路（黒線）は、ほかの車や歩行者のもっともありそうな行動のみを考慮している。車や歩行者が合法的な進路をとった場合に衝突してしまうエリア（青い範囲）を想定し、それを回避する事故防止ルート（赤線）とその後の安全なエリア（灰色の範囲）を予測することで、「合法的な安全」を確保する
image credit:Nature Machine Intelligence
自動運転車の普及で死亡事故は大幅に減少できると予測
このようなアルゴリズムは路上で実験されたわけではないが、実際の交通データを利用したシミュレーションで現実的な各種シナリオを試したところ、事故を起こすことなく安全運転されることが確認されたという。
米運輸省の予測によると、人間による運転からAIによる自動運転に切り替えることで、交通事故による死者を9割減らすことができるという。というのも、死者を出した交通事故の9割は人間側のミスが原因で発生しているからだ。
自動運転車の普及が期待される大きな理由の1つはここにある。完全に法律を守り、模範的なドライバーとして人間以上の安全性を実現できれば、きっと社会から信頼を勝ち取ることができるだろう。でもこれって何となくドイツ人的な発想とも思うのだが、どうだろうか？
この研究は『Nature Machine Intelligence』（9月14日付）に掲載された。
Using online verification to prevent autonomous vehicles from causing accidents | Nature Machine Intelligence
https://www.nature.com/articles/s42256-020-0225-y
References:inverse/ written by hiroching / edited by parumo
全部をAI車にすればいいんじゃね
もしくは自動車廃止でいいだろ
電車かバス使うか歩け
※1
過渡期が問題になりそうですね。
また、法はその文化の価値観を明文化したものですので、遵法運転ということは出荷先の国の価値観を反映することになるのでしょう。これが結構難しいです。いわゆるトロッコ問題のように命の選択をすることになります。右に行っても、左に行っても誰かしら命を落とすとき、どの命をなきものにするかということなのですね。で、コロナ問題対応で各国での対応が全然違って、典型例はスウェーデンが積極的な対策をしないことを選びました。英国もそうしましたが撤回し、日本はお願いレベルの積極的対応をしましたし、国レベルで罰則付きの対策をした国もあったり、大統領が単なる風邪だと言ってその後感染したりとか、まぁこういう命の選別にどうするかということですね。
私よりも運転がうまそうだから、事故が減るなら私は歓迎ですが、ゼロリスクの人には受け入れられないだろうなと思うと、日本では難しそうだなぁと思わざるを得ません。
>>4
それぞれ出荷先の法律に合わせるという可能性が高いと思いますが、
シェアや特許を牛耳るために、どの国の法律を基準にするかというような争いが企業や国家間で起こるかもしれませんね。
というかこの発想自体が、そういうチャンスをドイツ企業が得る為に考え出されたものかもしれません。
社会から信頼ってそんなに大事なものか？
もうあんまり興味ないんだけど
>>2
この世のほぼ全てのものは社会的信用でできてるよ。
金、民族、神、社会、神、芸術はもちろん、自分も含めてあらゆるものの存在も、社会的信用によって構築されたシステム無しには成り立たない。
逆に社会的信用を獲得すれば、無かったものも有るものに変わる。
今回やろうとしてるのはこっちのほうだね。
※8
話違うけど
君が思ってるほど警察も裁判所も役所も企業も
決まりや約束や法律通りに動かないよ
>>20
幻想だからね。
実際の警察とか裁判所がやってることはまぁ、ニュースで報道される範囲くらいしか知らないからなぁ。
※20
現実は逆に法律でがんじがらめで動きに動けないですよ。通達の解釈でどうしたらいいか議論ばかりです。
※20
というか決まりや約束や法律が完璧じゃないんだよ
あらゆる状況をカバーできるルールを作ることは難しい
タイトルで既に矛盾してないか。
「人間の」規範意識、な。
人間のための法律をAIも守らないといけないのかね？
※6
AIは法に準拠した挙動をするというだけであって
そもそもAI自体に法が適応されるわけではないですよ
つまり現時点においてその問自体が成り立たない
排ガス不正してた国の規範とは。
荒い運転時には「それは非論理的です」ってミスター・スポックの声で警告が入るようにしてはどうだろう
人間の運転ではあり得ないような事故が消えない限り
自動運転が信用を勝ち取るのは無理だろうね
止まってる救急車を認識できずに追突とか
少しでも標識に似たようなデザインがあると誤認するとか
初歩的な部分を先ず解決すべきだろう
AI化すると日本で非常に多い横断歩道待ちを通過したり
煽り運転はゼロになるだろうな
国際法を守れない国は自国の外交官をこのAIに代えるべき
1.”Serve the public trust”
2.”Protect the innocent”
3.”Uphold the law”
ということですね？
後方に車がいたら車線変更や合流ができなくなったりなｗ
全ての車に、周囲の車間位置や速度のデータを共有できる様にしないと
そして、車も変わったら道路環境もね。車線や標識電波を出すなど根本的な所でも対応すれば、配送は無理でも運搬は完全自動化できる
AIに夢見て頼りすぎ。方向性はトヨタのコネクティッド・シティが正解だと思う
>>17
企業に任せっぱなしにしてると、足のひっぱり合いして規格を統一できなさそう。
あと日本だけ特殊な規格にこだわったせいで、いっきにシェアを奪われたりしたら嫌だな。50年後にはTOYOTAが覇権をとってたのが笑い話になったりして。
路面に異常があってオーバースピードで突っ込むときに
左に行けば電柱に激突して同乗者は死ぬし
右へ行けば歩行者をはねて同乗者は助かる。
俺ならとっさに左を選択するだろう。
ＡＩなら同乗者を生かすため右を選択するだろうなぁ。
>>18
他の大多数の人間があなたのようにできたならよかったのに…
そんなのよりドライバーの運転を分析して規範意識が欠けてると判断したら警察にチクる機能を作って
すげぇ、エスニック･ジョークのドイツ人を
地で行く感じの開発プロジェクトだ。
マーベルの映画アヴェンジャーズに出てくるジャーヴィスを自動車にのっけるって話か。
イケメンで思慮深く、ユーモアいっぱいでチョー優しい……。
最高じゃん。
エンジンかからなかったりして・・・
人間の次はAIから「社会からの信頼」を剥奪しよう。もとから無いのなら、奪われる事もないので安心だ。
車載AI「マイケル、前方に歩行者がいます。速度を落とします」
これに乗った人間の運転を見て
「人類はアホばかりだ。私が管理しなければ」という使命感が芽生える訳だな
アーマードコアの世界はもうすぐそこだな
>>30
人類などどこにもいない
海外の事故映像見ると、確かにＡＩのほうがマシって思える事故ばっかりだから、不本意ながら納得せざるを得ない。
破壊しろ 人間の迷惑極まりない それで人間の利益が減収する
>>34
人間だけの力によって生産・消費される利益を最大化し、それを維持するためには今何が破壊されなければいけないかな
それさえ破壊できればAIのような潜在的脅威も長期に亘って取り除けるはず