この画像を大きなサイズで見る今月1日、台湾の高速道路で、テスラ車が単独で横転したトラックに激突するという事故があった。
テスラ社の「TESLA モデル3」に乗っていたドライバーは、速度を110kmに設定し、オートパイロット運転中だった。
車の回避機能をあてにしていものの、想定外の状況にとまどったモデル3はそのままトラックに衝突。幸いにも重傷者は出なかったが、見通しのよい道路で起きた車の衝撃的なクラッシュ映像がネットを巡っている。
動かない長方形にとまどってクラッシュ？モデル3が大破
6月1日早朝、台湾の嘉義県付近の高速道路で起きた衝突事故の映像だ。
単独で横転した大きなトラック。そこにモデル3が走ってくる。
分離帯にいる人は牽引車を待つトラックの運転手だ。その人はモデル3に気づき合図しているように見えるが…
この画像を大きなサイズで見る ブレーキらしい白煙が上がるも結局トラックにクラッシュ！
トラックがずれるほどの衝撃でつっこんでしまった
この画像を大きなサイズで見るこの衝突は、システムには想定外だった「動かない大きな長方形の物体」の検知に遅れがでたためとみられている。ただブレーキを作動させたのがドライバーかシステムかはまだわかっていない。
よけるでもなく正面からトラックにつっこんだモデル3。横転したトラックは食材を運んでいた保冷車だったという。
幸いなことに重傷者はいなかったが大破した車は廃車に。
後方からの映像
盛りすぎで消費者混乱？多数の警告を出しているテスラ
現地ではこのような報道がなされている。
衝突した車のドライバーは黄という名の53歳の男性だった。彼は警察にオートパイロットをオンにしていたと主張している。
この車は障害物を検出して減速または停止する機能があったとみられる。しかし車は一定の速度で走行しブレーキが間に合わず事故につながった。
この男性はシステムをオンにして車の速度を時速110kmで走るよう設定したままだった、もし障害物があれば車がよけると思っていたと話しているそうだ。
ただモデル3のオートパイロット機能のマーケティングには混乱を招く部分があり、消費者から盛りすぎという声もあるという。とはいえテスラはドライバーに注意をうながす警告を多数出しているため責任を問われる可能性は低いだろう。
カメラでは厳しい。やっかいな不動物体検知
こうした不具合は以前も発生しており、特に動かない物体に関わる事故が報告されている。
テスラのオートパイロットシステムは主にカメラに頼っており、前に起きた同様の事故では、晴天時の路上で明るい色の動かない大きな物体の判別が困難であることを示していた。
一般に、不動の物体は緊急ブレーキシステムと自律システムにとってやっかいなものだが、カメラの代わりにレーダーを使うと危険な誤検知や想定外の停止が増す傾向があるそうだ。
テスラの車には全方向カメラ機能がある。しかし、こうした大きな不動物体の範囲情報については、かつてイーロンマスクが拒否したことで名高いLiDARシステムのほうが勝っているという。
不完全なシステムをあてにしたドライバーが招いた事故か
今回の衝突もまたシステムの不完全性を示唆するものだった。
また事故の映像を確認したツイッターユーザーによると、今回のモデル3のブレーキはトラックをよける他の車に比べてかなり遅かったという。
しかしこの事故では人間のドライバーが乗っていた。少しでも注意を払う人がいればただちにブレーキをかけるか、回避行動をとるのが普通でこんな形の事故はまず起きないはずだ。
目の前に危険が迫っているにもかかわらず、先端の自動運転支援システムを過信していたドライバー。真の原因は人間の不注意にあるといえそうだ。
現在売られているオートパイロット車すべてにいえることだが、重要なのは便利であっても完璧じゃない機能への理解だ。こうした車のドライバーは、たとえ機能をオンにしても気をつけなければならないことを肝に銘じなくてはならない。
完全な自律性を備えた自動車は存在しない
現在のところ、一般に利用される車の中に完全に自律的なものは存在しない。
レベル2の自律性でさえドライバーの注意が必須の不十分なもので、横倒しになった大きなトラックのように特定の障害物を確実に回避できる車もない。
この画像を大きなサイズで見るこの事故に関するテスラからの公式なコメントは出ていない。だが今回は警告があっても車にまかせっきりだったドライバーのほうに責任がありそうだ。
いくらオートパイロット車とはいえドライバーありきの点は普通の車と変わらない。そのへんうっかり間違っちゃうと危険だが、テスラのモデル3の場合は過去にも居眠り運転するドライバーの動画が話題になるなど無茶な運転事例がたびたび報じられている。
てかこっちの希望は車内で寝っ転がってても安全に目的地に着くスマートカーなんだけど、いっそ道路より障害物が少ない空飛ぶ車のほうがアリな気もしたり。でも揺れると寝にくそうだし微妙だな～
References:jalopnik / diggなど /written by D/ edited by parumo
前にも、車線変更してきたトラックの箱が白色で、太陽光と合わさって
テスラのAIでは白色が認識できなくて突っ込む事故してたよね
今回のも似たような感じでは？
相手のトラックが完全に真っ白てのも、検知の遅れた原因ではあるんだろうけど……。
あの状況で直前までオートのままってことは寝てたんじゃないか？
詳しいことは分からないが、日本ではレベル4以上が車が責任を取るが、レベル3だと車とドライバー半々だけど、緊急事態でドライバーが対処とする義務があるから、レベル3でも、ほぼほぼドライバーの責任だろ？
テスラもレベル2だったはずで、一時期自動運転でやたらと宣伝していた、日産が出したスカイラインもレベル3に近いレベル2じゃなかったけ？
※3
レベル4以上で車が責任取るって聞いたこと無いぞ
機能的にはそうだが、結局の所運転者の責任が問われるんじゃなかったか？
中途半端な自動運転は返って危ないよな。
訓練受けてる飛行機の操縦士ですら自動操縦でミスするのに。
まして自動運転に頼り切るズボラが説明書なんて読むわけない。
停車してたテスラ車が勝手に動き始めて通行人を探してぐるぐる走り回り突っ込んでく動画見たことあるわ
殺人ルンバめ
数十年後くらいには、この事故も「メーデー！」や「衝撃の瞬間」で取り上げられる事故になるのかな？
ショルダーバッグみてーなバカでかい携帯電話の頃には、スマートフォンなんて想像もつかんかっただろうし、先は見えてると思いたいが。
KITT「マイケル、運転してください」
まだまだ不完全なシステムも信用できないし、そんなシステムを盲信してドライバーとしての責務を怠ったのも相当にひどい。
どっちもどっち。
直前でブレーキして、ブレーキなぜか離してる？
高速道路でこれは気づくの遅れるのもわかる。せめて目立つ色をしてればなぁ
※9 たぶんABSが作動してる
自動運転は車だけの性能で頑張れみたいに
なってるけど、道路も車の手助けをしてやれよと思う。
世界中の人が望んでいる技術に間違いないんだから
道路を自動運転社会前提にカスタムするのも
そろそろ必要な時期に来てると思うけどな。
開発途上のロボットのポンコツな振る舞いは可笑しくて好きなんだけど、自動運転車だと洒落にならないな
不確定要素からの事故はAIじゃ対応無理なんじゃないかなと
それこそゴースト持った何かでも発明されん限りは
トラックに突っ込む以前に前方で合図出しているドライバーに無反応だったのが怖いわ。
ドライバーを避けもせずに真横をそのままのスピードで通過している。
ドライバーが避けなかったらそっちも轢いている動きだぞ。
本当に自動運転中だったのかこれってくらい障害物を認識できていないがテスラ買ってるくらいだから自動運転に設定はしているだろうしなー・・・・。
ライト上向き下向きのオートだけでも、誤動作に気を付けなければいけなくて、かえって精神的には疲れる。中途半端な自動運転なんか欲しくない。
もうしばらくは、AIより人間のほうが信頼できる操作者の時代が続きそうね。
小さな車体まかせではなく、道路そのものを自動運転車のために整備するくらい大掛かりなことしないと…あれ？それってレールのない鉄道では？（混乱）
※17
最近「少し起伏のある道で突然ちらっとハイビームにして、対向者（特に歩行者）に目つぶししてくる車」が多い。
最近のドライバーは対向者（特に歩行者）を事故らせたがってる？それとも「道路は自動車だけのものだ、歩行者・自転車はとっとと失せろ」と思ってるのか？
と思ってたけど、あれ「ライトの誤動作」なのか！勉強になった＆疑ってすまんかった
※43
＞最近「少し起伏のある道で突然ちらっとハイビームにして、対向者（特に歩行者）に目つぶししてくる車」が多い。
それって、単に
「道の起伏で車体そのものが上向きになる瞬間に
意図せずハイビームと同じ状態になっている
(そして近年のLEDライトだと まともに当たれば異様に眩しい)」
ってだけじゃなくて…？
自分もここ数年、夜道で対向車が急にパッシングしてきて
「…？ 今のパッシングは何の意味…？」と思っていたら、
すれ違って さっきの対向車のあたりを通る時
自分の車も道路の起伏でカクンとなり、
「あ、これか」と納得したことが何度かある。
>>52
夜中運転あるあるだよね。
別に歩行者に太陽拳してるわけじゃない
テスラはオートパイロットを完全自動運転であるかのようにCMして米国から是正勧告まで受けている
現場のセールスでは察するべしな状況
あと各社自動運転はブレーキを踏むと手動側に戻るものが多い
で自動運転で走り続けていると、その自動ブレーキを妨げぬよう自身でブレーキを踏むのを躊躇うようになりがち
あと機械によるアラートは出たときには反応できる距離と時間など残っていない
アラートで人間が間に合うなら残り時間なら機械は余裕で反応できる時間だわ
人も轢くところだったじゃねーか
怖っ
こんなもん市販するなよ！
※20
それを言うと「日本だけ世界から置いてけぼり」と批判される。
自分だけは大丈夫という根拠不明の安全バイアスがあるようだ。
自動運転が普及するにつれ車の安全基準が増えそうだな
屋根や側面・底面にも一定の色柄で一部が光る模様を描くとか
事故や故障時に電波発信とか
画像認識の弱点を補強する機能が義務付けられたり
使いながら発展させるしかない技術は難しいが
どうにか便利になっていってくれるといいが
明らかにドライバーが悪いけど、テスラの宣伝に問題があるのも事実。
ある程度自動運転の知識がある人ならレベル2と聞くだけでどの程度かわかるけど、
ほとんどの人はレベルの区別なんて知らない。
しかしオートパイロットを良くそこまで信用できるなぁ…と思う。衝突の２～３秒前に『こりゃ回避できないな』と思ってブレーキを踏んだのだろう。他の例でオートパイロットのテスト中にタヒ亡事故も発生してるし、現状ではオートパイロットの過信は禁物だと思う。
自動運転には不確定要素が多すぎる、高速道路限定でも運用は難しいと思うよ
ぶつかったのが柔らかいトラックの屋根で助かったな
これが鉄骨など積んでるトラックだったら死んでたかもしれない
巨大で凹凸のない白い物体が斜めになっている
カメラ、超音波センサーでは検知不能のステルス状態だなｗ
重症者がいなくて何よりだったよ。
lidarについての言及があるけれど、イーロンマスクは頑なな程に搭載しないことを是としてるみたいだね。
小惑星探査機はやぶさの自立航行もLidarだし、技術の信頼性自体は高いと思う。それでも性能をフルに活かすにはやっぱりはやぶさでのターゲットマーカーに相当するものを道路インフラの側に何かつけることが必要になってくるのかな…？
自動運転は新しい技術でまだ発展途上だってことだな
今回は死人がいなくてよかったな
いいデータが取れたんじゃないの
モデル3「前のほうに何か･････何がなんだか分からんが、わからんから、ヨシ！」
自動運転なんて信じるほうがバカだろう。
システムは距離を測るだけで、意味を全く理解していない。
走る棺桶
これは白いトラックの屋根も災いしてるが、人間が手前に居ることにより、人間が邪魔でトラックを検出できなかったように見える
人間が避けたと同時にトラックを認識できて急ブレーキだろうね
今ではあまりテレビで報道されてないから知らない人も多いだろうけど
「車の自動運転にはまだ数十年ぐらい必要だろう、AIは思ったほど賢くなくてビジネスには限定的にしか使えず、人間の能力はAIよりも遥かに上回っていることがわかった」
っていうのが、世界のCEOの今の見解なんだよね。
なんだかんだと、AIが人の仕事を奪いまくる、っていうのもほとんどガセネタに近かったっていうことにも繋がるわけで、人間が労働から開放されるのは自分たちが生きている間にはまず無理かもしれないなぁ。
※35
AIが賢くないってのもあるが、そもそもカメラやセンサー類の性能がまだまだで必要な情報をAIに送れていないってのもある
頭だけ良くても目がよく見えてないんじゃ運転なんて出来ないからね
逆に人の目や耳は小型かつ、とんでもなく高性能
だから完全な仮想空間だとAIは優秀なのに、いざ現実世界に出てくると急にポンコツになるのはこういうフィジカル面が原因ってのも大きいかと
横転していたクルマも「横転情報」を発信していて、周囲を走行中の自動運転車がその情報をダイレクトに事前キャッチ後、回避運転できるシステムだったらよかったね。横転車自体が大破して発信装置も機能しなかった場合に備えて、道路自体にセンサーが埋め込まれているか側道のＡＩカメラが画像判断してこれも「大きな物体が道路を遮断」状態を発信する仕組みでもいい。その信号が情報センター経由だとたった数秒前の横転事故だと回避できない可能性がある。
要は「ＡＩ車←→ＡＩ車」、「ＡＩ道路←→ＡＩ車」相互通信システムが十分普及されていることが完全自動運転システムの運用に不可欠ってことだ
※36
それを実現するためには…、この高速道路専用の走行車両ネットワークが必要になるだろうね。自車の現在位置や移動スピード等を自車の周りの車にネットワークを介して連絡しながら全体が能動的に影響し合う様なシステム…行く行くは『このネットワークに情報発信できない車は、高速道路を走る事を禁止する』なんていう道路交通法の時代が来ると思う。
※36 ※38
飛行機のTCAS（接近する相互の無線信号による衝突自動回避指示機）搭載義務みたいな感じになっていくのかな。
ただ、過渡期には、自動回避システムに依拠して任せる側と、本能的なとっさの人間の判断で慌てて勝手に緊急手動ハンドルを切る側とで、ユーバーリンゲンみたいな衝突事故が多発しそうな気はするが…。
安全が確立されるまでには、また“血のインクで操作マニュアルが綴られる”のを待つしかないんだろうか…。
それ以前に手前の人間も轢く勢いに見えるのだが、、
直前まで横に車が走ってて、目の前の障害物もあり
速度もでてるってことで、AI的に回避不能判定出してそう
世に出る前のテスト段階の話だけど
夜間に黒い車のテールランプを「バイクが２台並んで走ってる」と認識しちゃうとかあったな
“この衝突は、システムには想定外だった「動かない大きな長方形の物体」の検知に遅れがでたため”
想定しといてくれ
運転手が寝ていたかよそ見(雑誌読んでたりスマホゲームしてたり等)してたんじゃないかな
アメリカでもテスラが自動運転で高速を走行中
突如分岐降り口の障害物に向かって加速
そのまま衝突して死亡事故になった件がある
他にも湖に飛び込んだり炎上したりと何かと話題を振り撒いている
アメリカ企業だから特別扱いされているけどね
他にも部品納入メーカーに支払い済みの金額から過去に遡って割り引きして金を返せってやったりと無茶苦茶
実験中かと思ったら既に市販されている公道の事故かよ怖いな
:::::::: ┌─────────────── ┐
:::::::: ｜ またテスラが事故ったようだな… │
::::: ┌───└───────────ｖ───┬┘
::::: ｜フフ…奴は自動運転四天王の中でも最弱 … │
┌──└────────ｖ─┬────────┘
｜ 誇大な宣伝ばかりで │
｜ 我ら四天王の面汚しよ │
└────ｖ────────┘
|ﾐ, ／ ｀ヽ /! ,.──､
|彡/二Oニニ|ノ /三三三!, |!
`,’ ＼､､＿,|/-ｬ ト `=j r=ﾚ /ミ !彡
T 爪| / /￣|/´＿_,ｬ |`三三‐/ |`=､|,=’|
/人 ヽ ミ=’／|`:::::::/ｲ＿_ ト｀ー く＿＿,-, ､ _!_ /
/ `ー─'” |_,.イ､ | |/､ Y /| | | j / ﾐ`┴’彡＼
グーグル メルセデス GM
イーロン・マスクは、基本的にビックマウス。
映像見たらトラックに突っ込んだ所よりもあの位置にいた警告してるトラックのドライバースルーしてる所の方が危なく見える
運転手が何をしていたのか?何も報道されないのはテスラを陥れる他メーカーの陰謀
機械はシステムの不具合、機器が壊れるまで正常か故障してるか解らないから怖い
新品だろうが定期的な点検をしてても壊れるときは壊れるから人の命預かる場面だとやっぱり最終判断は人の感覚は必要
まずは手前の人間を検知しろよ。渡る直前の歩行者だったら轢いてるで
オートパイロットという名の単なるアシストシステム
誇大名称の使用禁止した方がええで