この画像を大きなサイズで見るこのままいけば、近い将来、おおくの自動車が自動運転車にとって代わるだろう。特に交通事故の軽減が期待されている。
だが、自動運転車ゆえの落とし穴が存在する。
イギリスのアーティスト、ジェームズ・ブライドル氏は、自動運転車にこんな罠をしかけてみた。白線を描きそこに自動運転車で乗り込んでいくのだ。
さてどんな結果がおきるのか？まずは動画の方を見てみよう。
自動運転車が最初に学習すべきことは、道路に引かれた線の解釈についてだ。つまり車線の境界だったり、追い越し可能/禁止車線だったりといったことだ。
ジェームズ・ブライドル氏が明らかにしているのは、文脈のない知識の限界である――これは現代の人工知能に内在する問題でもある。
この画像を大きなサイズで見る外側に破線の円、内側に実線の円
人口知能は、まず道路の最も重要なルールとして、反対が破線である白線を越えてはならないと学ぶ。一方、破線の側からは越えることができる。
しかし動画にある内側を実線で、外側を破線で描いた円には何の意味もない。また、これが塩で描かれているのは偶然ではない。古来より、精霊や悪魔を召喚したり、捕縛したりする魔法陣は塩や灰で描かれてきた。あとは秘密の呪文を知っていれば、そうした存在に打ち勝つ力を得ることができるのだ。
この画像を大きなサイズで見る罠にかかって動けなくなってしまった自動運転車
動画でも、単純なシンボルで自動運転車を”捕縛”することに成功している。何者かが魔法陣を破壊するか、運転席に乗り込んでAIから制御を奪わない限り、自動運転車はそこから脱出することができない。
自律システムが世界を乗っ取ってしまった遠い未来を想像してみてほしい。人工知能の仕組みについての知識はとうに忘れ去られている。
その時代に暮らす無知な人々にとって、こうした単純なトラップはまるで魔法のように見えるだろう。
前に紹介したように、自動運転車にはもし事故が起こりそうになった場合、誰を優先して助けるべきかのジレンマ問題がある。
他にもAIの動作を阻むシンプルなトリックはあるだろうか？ 我々はどうやってその脅威から身を守ればいいだろうか？ AIに対する犯罪はどう裁かれるだろうか？ 暴行、それとも器物破損？ 奇妙な時代はもう直ぐだ。
via:neatoramaなど、/ written hiroching / edited by parumo
猫かｗ
冬の雪国は白線なんか無いからなぁ
猫転送装置を思い出したぞ
ドジっ子属性の萌えを感じた
※4
ちょっとよくわかんないから図説お願い
車「ちゃんとルール守って止まったよー（褒めて―）」
人「いいから早く走れよ、馬鹿かよ」
車「(´；ω；｀)」
でもこれって動かないで正解だよね。色んなリスクを考えるとこれを学習して動く様にする必要はない様に感じてしまうなあ
おもしろいなあ
走行中の車から画用紙かトイレットペーパーが風で飛散して偶然白線の様に繋がったら、無人の自動運転車は立ち往生してしまう可能性があるのか
これで線超えたら逆に心配になるわ
うまくパラドックスを作れば、AIをフリーズさせることができるかもしれない。AI開発者は、基本的なルールより上位のルールを作ることでその問題を解決するかもしれない。そんなこんなでメタレベルの階層がある程度複雑化したところで、AIに自我が生ずるのかもしれない。
行動パターンプログラムして落とし穴を埋めていっても想定できない矛盾は無限に存在するんだろうな
猫はAIだったのか
笑えるような悲しいようなワクワクするような
安全重視で自動運転を設計してるんだからそりゃ出れなくなるだろ
むしろ無視して出てきちゃうような動作の方が怖いよ
ただ、道に子供がいたずらで線引いたら止まっちゃうとかだと問題になるだろうから
人が見る白線以外に自動運転カーが目印にする発信機みたいなものを道路には設置したほうがいいんだろうね
今日はベンツがとれたど～！
自動運転は猫派か。
犬派の俺、怒りの自動運転反対運動への参加を決意。
未来の車の暴走を止める為にも
草間彌生先生には長生きして貰いたい
AIが人間を越えることはないって言われてるよね、人間が作ったのだから人間の知能以上には成らないと。
でも、人間が成長し続ける限りAIにも限界はないんだよね。
つまり、限界のないAIはいつか人間より先にいってしまうかもしれないというパラドックスを含んでいる。
嘘くさい。それに本当に自動運転なら、むしろ円を回避しそう。
※19
動画みりゃ分かるけど停めてから周りに塩で線書いてるんだよ
ただ、その動作から察するに、普通の道路にいたずらで線引かれてたら
人間なら無視できるけど、自動運転は正直に止まっちゃうってこと
※27
動画見りゃわかるけど円の外から入ってきて立ち往生してるよ。
かわいい
道路に白線引いたら停まっちゃうの？
ネコの脳が浮かんでる水槽にコードがたくさん繋がれてるなんかこうSF的な装置で制御してそうだ
自律システムが世界を～からのくだりがSF的で非常に興奮した
まだ当分人工知能に殺されることはなさそうなんだけど
良いＡＩ「わぁ～ん、通れない線で囲まれちゃったよぉ～！ どうすればいいのぉ～」
嫌なＡＩ「おやおや、これは困りましたねぇ、私はこの線を越えても構わないとはプログラムされていないのです。しかし不思議です。警察官でもないあなたが、緊急事態でもないのに、どうして道路を規制できるんでしょうねえ？ 私には、この白線は無効ではないかと、そう思われるのです。そればかりか、あなたの行為は道路交通法に抵触する可能性もあるかと推測されるのですが、まだ、あなたはその線を残しておくおつもりなのでしょうか？」
※26
嫌なほう、後ろに棒をお忘れですよ
※26
？？？「ああー、もうめんどくさい。俺は行きますからね」
罠かどうかさえも学習していくだろうね
※28
でも、それで
「交通法規には反するけど、こういう場合は行っても大丈夫」
という経験則のほうを優先させるようになると、結局は
人間の「だろう運転」並みの事故を起こすようになるんじゃ？
近い将来、子供とかが自動運転車にいたずらする事案が発生するんだろうなぁ。
車も似た様なマークにひかれるんだね
日本だと中にもう一つ円と縦線だねｗ
スクランブル交差点にちょいと細工したら、こんな事になりそう、
でも此の動画 解説が無ければ車が円の中に停まったってだけにしか見えない。
自動運転車&開発者 「白線にはくせん」
※33
座布団没収。白線の内側で正座してなさい。
これ、そもそも動画の車は自動運転カーじゃないんだよ。
「こうなるかも？」ってデモでしかない。
多分、現状のテスト段階の自動運転システムでもこうはならないだろう。
こんな適当な線を車線として認識するとは思えないし
セアト・イビザには自動ブレーキはあるけど、自動運転モデルは無いでしょ？
思考実験のイメージ動画ならそう明言して欲しい
逆光でカメラが認識しなくなる危険性がなくならない限りステラみたいな自動運転での死亡事故が多分なくならない
※36
スバルの軽自動車に自動運転はついてないぞ。って揚げ足。
※73
念のため…電気自動車メーカーの「ステラ社」 念のため…
実際の路面は白線が消えてたり、雪なんかを白線と誤認したり色々ありそうだね
ただ、数十年後には今では想像もできないくらい発展してるはず
実は人間にもこのような自動的・自律的な判断が多数存在している。
これらは生存を円滑＆スピーディにするために必要不可欠なシステム。
ところが人間には同時に、こういった自動的・自律的な判断に一時的にブレーキをかけて、判断（の基準となる文脈の解釈）を変更したり消去したりすることができる、不可思議な能力も備わっている。
その不可思議な能力が“意識”であるらしい。
※39
「意識をめぐる冒険」
※61
面白そうですね。
ありがとうございます。
様々な分野でAIを使って、「作業効率を図る」とか「AIで～をするほ」
様々な分野でAIを使って、「作業効率を図る」とか「AIで～をする方がより良い結果を生む」などと言ってるが、人間にしか出来ない事もある。技術を過信し過ぎている。それに技術競争が過熱し、各国の名誉を掛け相手国を滅ぼす兵器を生み出す事も過去に証明されている。高度な技術がなかった時代の方が本当の意味で豊だった。人類は１度、何もなく文明等が未発達の時代に戻った方が良い。
何もないが、心の豊かさや人間とし
これは怖い。恣意的に事故を起こせるってことだ。ある意味警鐘でもある
※43
多分なんだけど「恣意的」の意味違うと思うよ、意図的って言いたいんだよね？
間違ってると言い切れない使い方する人が多いからからやっかいなのよねー
様々な分野でAIを使って、「作業効率を図る」とか「AIで～をする方がより良い結果を生む」などと言ってるが、人間にしか出来ない事もある。技術を過信し過ぎている。それに技術競争が過熱し、各国の名誉を掛け相手国を滅ぼす兵器を生み出す事も過去に証明されている。高度な技術がなかった時代の方が本当の意味で豊だった。人類は１度、何もなく文明等が未発達の時代に戻った方が良い。
何もないが、心の豊かさや人間として成長出来る
これ、アートの一環であって、この車も自動運転の車じゃないし、自動運転の車で試してないって本人がコメントしてたはずだけど。
他のサイトで紹介されてたときはちゃんとそこの注意書きまで書いてたよ。
実験も面白いけど風景がいいな
まあこれは人為的に引き起こしたものだけども、
たぶん普通に袋小路に陥っちゃうパターンって
けっこうあると思うんだよね。
だから、ここぞというときの判断をするために
人間も乗ってなきゃアカンのだけども、
ここぞってときにユーハブコントロールされても
とっさに対応できるかというと、
少なくともおれにはできない自信がある。
というわけで、自動操縦車の一般化は
まだまだ先なんだろうと思ってます。
前にまとめられてた気がする、ロシアの落書きみたいな無茶苦茶な車線はどうするのかな。
新手のチューリング・ゲームだ！
スーパーナチュラル
メタルマックスで野バスを捕まえる方法ですねわかります
これ自動運転の試作車じゃないよ。
ただの揶揄動画
それに実際の道路上に描かれる破線の間隔はこんなに短くないからこれをはみ出し禁止と認識するようではプログラミングのミス。
ついでに言えば実際の自動運転車は前方向に遠近法で伸びていく白線について走行用の補助線として認識するようになっているのであって、車両の前に水平に横たわる白線は横断歩道や停止線として認識するようになっている。
従ってこの動画でまず最初に白線をまたいで円に入ってきてしまった時点で認識ミスとなってしまう。
まあ自動運転車じゃなく手動運転のフェイクなので指摘事項だらけなわけだが笑
AIは、「無意味」が理解できないってこと？
まぁこの画像がフェイクだとしても自動運転はまだまだ先になりそうだな。
雪をどうするか、消えかけた白線をどうするか、いたずら書きをどうするか、誤作動しないのか……課題をあげたらきりが無いな。
自動運転車を一般道に普及させるにはやっぱり道路もAI対応道路に変えなきゃなのかな
すごいコストかかりそうだけど
白線の認識をどれだけできるかってのも課題だが、もっと大変なのは人間のドライバーが無意識でやってる暗黙の了解ってやつをAIに理解させることだそうだ。
頭の良い奴なら設計者の想像の埒外の罠を作り出す
この罠で思いつくのは自動運転トラックを捕獲して積み荷を盗むとか
まあバグ探し好きは多いからイタチごっこで進化するやろ
温泉街で自動ブレーキ付きのレンタカーを借りた時は本当に参った。
いちいち湯けむりで止まるな。温泉入って行けってか(笑)
＊42
頭大丈夫？
スラム街でこんな落書きがあったら、襲われるまでなすすべもなく待つしかないのかね
具体的な欠点も指摘されるようになったのは実用化が見えてきた証拠でもある
克服はさして難しいことではないだろう
自動運転はゴリ押ししてでも通すはずだから反対派の意見は通らんと思う。
今後イタズラ含めて渋滞問題は凄そうだ
最悪線路で止まっちゃったりしてな。
自動運転かどうかの判別がつかない・・・
金縛り呪文発動中～www
攻殻機動隊でタチコマがオペレーションロボットを「自己言及のパラドックス」を使ってフリーズに落し入れる話を思い出したわー
そのくらい人間が動かせばいいじゃん
どうせ運転免許は持つんだしさ
なんかかわいいなw
ほとんど静止画
海外だと問題になるだろうな
もし銃を持った男が正面から現れたら
自動運転車は安全のために停車するだろう
これはイタズラの見分けをソフトに組み込む必要があるな
でも判断基準の設定が大変だよな
強盗や拉致がはかどるね
この前どっかの学者がAIが人に成り代わる事は一生無いって出してなかったっけ
映画に影響されすぎ
これで野生の自動運転車を狩ることが出来る。
古くから受け継がれてきた民族の知恵である。
自動運転車ってガラスとか鏡は認識できるのかな
自動運転に求めるものは応用じゃないからなんもおもわん。
どう注意したって実線と破線のルールを常に守りきれないのがヒューマンエラーでそれを取り除きましょうってのが自動運転だろ。
アクセルは控えめに、ブレーキは早めにってね。と、アッテンボロー中将はおっしゃっていた
どれだけ マイナスが多くても 自動化は進む マイナスを一つずつ克服して行きます。
起こる確率の低い状況に対応するには、不釣り合いなほどコストが掛かる。
運送会社の社長さんが、この動画を見た後で、自動運転無人トラックをただ放つだろうか。
万一の為に、人を付けて監視しようと考えるだろう。
人を雇って監視させるなら、運転させればいいとも考えるだろう。
というわけで、ドライバーの仕事は当分無くならないと思います。
問題だらけなのに自動運転車をごり押しされそうで怖い。
実は不便なのに気付こう。
上手くいっても専用道路が精一杯だろうね。
もちろん自動運転車優先の(笑)
というか制限速度守ることになるのかな？
強風時などは高速を時速50キロ以下で走ったりするの？
やめてくれ。
これ赤外とか紫外域使って反射率とかから引かれてる線がそもそも有効なのかとか判別出来ないの？何も人の目と同じ色覚だけで判断しなければならない理由がＡＩには無いんだけど
車内映像や計器の反応がわかる映像、音声または字幕による解説が不足してるな。
バカな機械だな～というより、 うっすらかわいそうw
AI、AIって言うけど、それの目と耳と触覚等の六感＋霊感＋ヤマ感に相当するセンサー類が未発達なんだよね。
それに類するセンサー類もあるだろうけど、瞬時に解析してAIに情報渡せるようにならないと、人間に目隠しで点字のメモ渡されて判断しろと言っているようなもん。
量子コンピューターの様に同時並行処理を瞬時に判断出来ないと、実用化してもかなりレベルが低くなると思う。
悪魔が魔方陣から出られないのってこういう事だったんだなw
進化の途中だね。可愛いね。
さてはて、名古屋を自動運転で走れるだろうか。
人間の状況判断は、ある意味自己中心的といえる実験でもあるわな
これで良い
まだ「知能」って言うには程遠いからね。