この画像を大きなサイズで見る子供の人形がテスラの車に次々轢かれるショッキングな光景。
30秒にわたる映像は、アメリカの研究組織「Dawn Project」が、テスラのEV（電気自動車）搭載の「自動運転（オートパイロット）」の安全性能試験を行ったときのものだ。
海外などではあたかも完全自動運転（Full Self-Driving）のように喧伝され、慢心したドライバーが衝突事故を起こすなどたびたび物議を巻き起こしている運転支援機能。
そのモードで走行中の車が、なんのためらいもなく目の前の人形をなぎたおしてゆくのだ。
オートパイロットモードで子供の人形を轢くテスラ車
今年6月22日、ソフトウエアの安全性を検証する民間研究組織「Dawn Project（ダウンプロジェクト）」が、米カリフォルニア州ロザモンドのサーキットとテストコースでテスラ車の安全性能試験を行った。
運転席の人物はオートパイロットモードをオンで手放し走行をする。その先には子供を模した人形が立っているが、障害物を検知するはずの車は手前で止まることもなく、躊躇なく人形を次々と人形をなぎたおしてゆく。
轢いてもかまわない物体と判断した？
でもこれが本物の子供だったら？間違いなく安全停止するのだろうか？と思わずにはいられない光景だ。
この画像を大きなサイズで見る試験映像を全土に放映
この試験映像は全米向けの公共安全広告キャンペーンに使用された。
我々が実施した新しい安全性試験で、@ElonMusk（イーロンマスク）で知られる完全自動運転のテスラ車が無差別に子供をなぎたおすことが判明しました。
ダウンプロジェクトは、米カリフォルニア州サンタバーバラ を拠点に安全性の提唱と研究を進める団体だ。
その設立者であり、安全なソフトウェアを専門とする先駆的なソフトエンジニアでもあるダン・オダウド氏はこの試験映像について以下のように述べている。
イーロン・マスクはテスラの完全自動運転ソフトウェアは「素晴らしい」と言っていますが、そんなことはありません。これはむしろすべてのアメリカ人にとって致命的な脅威です。
すでに10万人を超えるテスラ車のドライバーが、公道でオートパイロットモードを使い、全国のコミュニティの子供たちを重大な危険にさらしています。
同氏によると、オートパイロットモードの試験車は道路に静止しているダミーを検出できず、平均時速40キロで何度も衝突したという。
このオートパイロットソフトは私が見る限りで過去最悪の商用ソフトウェアです。自動運転車が横断歩道で子供をなぎ倒さないことをメーカーが証明するまで、公道の走行を禁止する規制が必要です。
「オートパイロット」ソフトウェアの危険性を際立たせた今回の映像は、現在アメリカ全土で広告として放映されている。
勝手に車線変更も。オートパイロット中の多様な事故例
オートパイロット中に発生したとされる暴走のごとき事故例は実に多様だ。
昨年11月も米国運輸省道路交通安全局のもとに、「完全自動運転」ソフトのせいで車同士の衝突事故が起きた、というドライバーの苦情が寄せられた。
その事故は幸いにして負傷者はゼロだったものの、オートパイロットで走行中のモデル Yが勝手に車線変更して別の車に衝突したというもの。
問題のモデルYは危険な動きを察知したドライバーのハンドル制御も受け入れず、強引に誤った車線に入ったという。
その翌月テスラ社は運転支援システムの更新に同意。これまで可能とされていた走行中のタッチスクリーンゲームのプレイも禁止した。
また最近テスラ社は、オートパイロットにまつわる危険な設定を米国運輸省道路交通安全局から指摘され、今年2月に約5万台のリコールを実施した。
オートパイロット中の車が一時停止の標識の前で完全に止まらず、通過することが判明したからだ。
それでも予期せぬ動作が招いた事故例は尽きず、道路に駐車していた緊急車両にオートパイロット中のテスラ車が繰り返し衝突した原因についても代理店が目下調査中だという。
米国運輸省道路交通安全局が本格的な調査を実施
オートパイロットがらみの度重なる事故や苦情や交通違反。この状況を重く見た米国運輸省道路交通安全局は本格的な調査を公表している。
当局は現在、「完全自動運転」ソフトウェアを含む、テスラのオートパイロットシステムについて、公開かつ積極的な調査を行っています。
工学的分析も現在進行中で、各代理店を支えるすべての関連データと情報も検討していきます。
この画像を大きなサイズで見るテスラ車はテストが不正確だとして映像削除を要求
一方テスラ社は、ダウンプロジェクトが行ったテストには不備があり、テスラの技術に関して誤った事実を伝えているとして、直ちにキャンペーン映像を削除するよう顧問弁護士を通じて声明を発表。
独立機関によって実施され、認められたテスト結果と、実際のユーザーの体験を無視しているというのだ。
これに対しダン・オダウド氏は、「キャンペーン映像を削除するつもりはない」と答えた。
References:dawnproject / dailymail / youtubeなど /written by D/ edited by parumo
大人の思惑とか混ざってそうだけど、それも含めて完全自動運転が普及するにはまだ時間がかかりそう
営業が上手いけどイーロン・マスクの言うことは信用できない。
人間の目ってかなり優秀だからね…
同等の認識機能を持たせるのはかなり難しいと思う
ミート君ならバラバラにされても、すぐに復活できるからスカウトすべし。
えーと、まだ自動運転のレベルは3のホンダレジェンドが実用車としては最高で、「高速道路上などの決まった条件下でのみ、システムがドライバーに代わり運転操作を行います。ただし、システムより要請があれば乗車しているドライバーが運転操作を代行しなければなりません」というもの。
テスラのオートパイロットも高速道路または自動車専用道路での走行で発揮されるので、こういう一般道で低速状態は全く関係ない話。
これを使ってテスラ車を叩くのはちとおかしい。
※7
テスラはあたかも完全自動運転と宣伝してるから問題なのでは？
＞一時停止の標識も認識しない
となってるってことは、一時停止の標識を判断できる機能があるんだよね
てことは混合交通も想定してるのだろうと
第三者機関は機能が正しく機能するか検査するのだから、設定されていない機能を試すことも出来ないし、しないのでは？
>>7
テスラのホームページには、高速道路だけで無く一般道についても次のとおり書いてありますよ。
ご自宅から
テスラに乗り込んで行き先を伝えれば、後は何もする必要はありません。何も言わなければ、カレンダーを確認して想定される目的地へ向かいます。最適なルートを計算し、都心部や複雑な交差点、高速道路を通行します。
目的地まで
目的地に到着して玄関や入口で車を降りるとパークシーク モードに入り、自動で駐車スペースを見つけて駐車します。スマートフォンのタップひとつでサモン機能を起動すれば、自分のもとへ呼び戻せます。
※22
FSDは将来的にすべてのテスラ車に提供される機能と宣伝しているが、現在はベータ版で規約に同意したユーザーのみアメリカで提供を行っている。
FSDベータは他社で広く普及している自動ブレーキやオートクルーズと同じ自動運転レベル2で、ドライバーが常に監視し緊急時はドライバーの責任で対応しなければならない。
つまり、ドライバーの操作が優先される。
この動画をよく見ると画面に警告メッセージが表示されていて、FSDベータの機能が有効化されていないのでは？
また、衝突直前のシステムの挙動や、ドライバーの操作の有無が公開されていないのはおかしいとアメリカで話題になっている。
100%安全はあり得ないけどさすがにこれは怖い
車道は車が走行する為の物って考え方がプログラムされてそう
テスラとレクサスを比較した動画があったな
自動ブレーキ機能が
ないんかい
日本車ならありえんだろ
テスラ問題多過ぎ
GreenHillsのCコンパイラって トヨタ自動車も主に使っているやつだな。
テスラはどこのコンパイラを使っているんだろう。
>>12
コンパイラでコードの根本が変わると思ってて草
CS+でもGHSでも挙動は基本変わらんぞ……
不備がある って実際の道路の方が不備だらけなのに？
すでに10万人を超えるテスラ車のドライバーが、公道でオートパイロットモードを使っているのだから、この動画が事実なら１万人ぐらい死んでいて大問題になっているはずなのにそうでもない
テスラは信用できんが、この動画も信用できないね
※15人が直立不動で車道の真ん中に立つことはまずないだろうからまだ事故は起きていないのだと思う。人形は静物だから反応が難しいんじゃないかな。でもこの場合、もしその人形がガスボンベとかの危険物だったり、倒れてる人とかだったりしたら…と考えると恐ろしい。
テスラ信者が怒り狂いそうな内容だね
これぐらいショッキングなほうが注意喚起には良いだろう
テスラのAIは人と人形を瞬時に判断。適切なドライブを提供します。
ではダメ？
>>20
人形ならひいてもええんか？
子供じゃなくてもあの高さの障害物があったら止まってくれないと困るな
自動運転ではなくとも轢かれる時は轢かれます
怖い
解った。自動運転車を過信するのは危険なのは、
よぉ～く解った！解ったから、もうやめてくれ‼︎
トラウマになるわ‼︎(T ^ T)
テスラ社が無茶なソフトを安全だと吹聴して自動運転技術自体が禁忌として扱われなくなるんじゃないかと心配
マスクいい加減にしろ
もしトヨタとか日本企業相手だったら
天文学的な賠償を請求してきそうだな
日本もプレステ5もこんな感じで動画作ってみんなでちゃんと法と正義に訴えてほしい笑笑
「電気屋に来ました。見てください、クレジットカードを新規に申し込まなければ買えないのですっ！」「ここでは、誰もが欲しいのに買えずに苦しんでいます！」ってカリオストロの銭形みたいに。
交通安全教室で人形が
トラックのデカいタイヤに内輪差で踏まれるのは
怖かったなぁ…
小学校低学年では
内輪差の意味を理解出来なかったけどw
誰だ、AIにカーマゲドンやらせた奴は。
話は違うけどアシスト機能も、どうなの？って事故があった。
知り合いのコンビニに車が突っ込んだ。
中年女性が運転してたんだけど、
突っ込んだ理由を聞いたら、
｢いつもは止まるんだけど車が止まらなかった｣と。
いつも駐車時はアシストブレーキ機能で停めてたそうな(笑)
そりゃテスラはダイソンと同じでブランディングだけでここまで来た企業だからね
トロッコ問題という自動運転車が子供と老人どちらかを轢かざるを得ない状況のときAIが決めるわけだけど大丈夫かな
そもそも低レベルな運転補助の時代から「完全自動運転と錯覚させるCM」を行って是正勧告を受けているテスラ
やりたい放題やっておいて、少し否定されたからってヒステリー起こす姿はなにかの宗教かなｗ
このしけんえいぞうは
nanndeひらがななん？わざと？
1つの技術のみで完璧じゃなくても複数組み合わせて漏れを少なく出来そうな気もするが
人間を轢かなくなったら次は動物ガーと言い出しそう
「ドライバーのハンドル制御も受け入れず」って、強制自動運転とでも言おうか…人が修正できないって怖すぎない？
テスラの説明もなんか適当だなあ、日本だったら運転者も注意して下さいとか書きそうだけど
まだまだ不完全な技術なのに、会社側は改善点を分かってませんと言ってるようなものだよ
読んでもわからない
斬り捨て御免機能が学習されてるって事？
横断歩道以外の場所で渡るやつとかいるし、まず先にそれをどうにかしないとスタートラインにも立ってないと思うぞ。
学習中
自動運転が発展すると都合悪くなる企業からのネガキャンの可能性はない？
センサーにゴミつけて実験しているのあり