テスラは自動運転のテストを続けるために致命的な事故を隠蔽した

スイスの国営ラジオ・テレビ局だから、たぶん記事は4カ国語以上で出てると思うよ。

記事に主張に関連する具体的な数字が欠けてるって感じた？その情報があまりにも曖昧だったのがちょっと変だった。個々の悲惨な逸話は別にしても、記事の曖昧さが主張の価値をかなり薄めてたよね。

これが、私が試すのに慎重になってる理由の一部だと思う（競合他社のバリエーションも含めて）。みんな注意を払わせようとするけど、突然判断を迫られることがあるからね。だったら、常に自分で運転した方がいいし、ギリギリで修正しようとする必要もないと思う。

確かに、そのレポートには「自動運転機能は最初の衝突の1秒前に車両制御を中止した」と書いてあるね。自動運転機能が解決できない状況になったらすぐに制御を中止するのは正しいと思う。もしテスラがこれを使って「FSDが事故の原因じゃない」と証明しようとしている証拠があるなら、考えを変える準備はあるよ。個人的には、事故の5秒前くらいが妥当な限界だと思う。

NHTSAの調査結果がこれに反しているらしいけど（それが2022年の報告より最近の変更かもしれないけど）、テスラはFSDのマーケティングページで、衝突イベントの5秒前をデータ報告の基準として使ってるって主張してる: 「もしFSD（監視付き）が衝突イベントの5秒前にアクティブだった場合、テスラは衝突がFSD（監視付き）で発生したと見なして、車両安全報告の衝突率を計算する。」このアプローチは、ドライバーが潜在的な危険を認識して手動で車を操作するのに必要な時間を考慮してるんだ。この計算により、FSD（監視付き）の報告された衝突率は、システムが車を制御している間だけでなく、ドライバーがシステムを解除したり、衝突の直前にシステムが自動で中止したシナリオも含まれるようになってる。理論的には、これはほとんどの交通事故で使われる約1〜1.5秒の一般的な認知反応時間を十分にカバーするはず。でも、ドライバーアシスタンスシステムがドライバーに制御を戻すプロセスや、それがドライバーの反応時間や全体的な注意力に与える影響について、どんな研究が行われているのかすごく気になる。もしドライバーが車にブレーキやハンドル操作を任せているなら、本当にそんなに低い認知反応時間が見られるのか、それとも測定される行動が変わってしまったのか？刺激に対する直接的な反応のタイミングを計る代わりに、今は注意を再び引き戻すのにかかる時間（たとえ「注意を払っている」と名目上言っていても）、車の完全な制御に移行する時間、そして今迫っている刺激に反応する時間を含めている。そう考えると、このアプローチはブレーキペダルを踏んだりハンドルを切ったりすることが、今アクティブな制御と認識のサインだと暗黙の前提を置いている。果たしてそうなのか？それともただの本能的な反応に過ぎないのか？運転中にブレーキを急に踏まれた時、運転してないのに右足を動かして空想のブレーキペダルを踏むようなことがあったんだ。運転を学んでいた頃、母が普通のブレーキの時にそんなことをしていたのを覚えてる。0. https://www.tesla.com/fsd/safety#:~:text=within five seconds

これはもうしばらく知られていることで、記録を避けるためじゃなくて、壊れたコンピュータが危険な状況で動き続けるのを避けるためなんだ。もし車がクラッシュしてひっくり返ったら、AP/FSDはその状況に対するトレーニングがないし、初動隊が車を確保しようとしている間、車輪が全速力で回り続けることになる。AEBはまだブレーキをかけるために働いているはずだけど、オートステアやクルーズコントロールは、コンピュータや電子機器がまだ正常に動作している間は無効になるから、事故後に乗客や初動隊のために車をより安全にするためなんだ。

正直、私にはあまり関係ないかも。AIが私の命や安全を他のどんな懸念よりも優先してくれる保証がない限り、信頼できるかどうかわからない。自分を犠牲にして他のダメージを最小限に抑えるようなAI運転の車には絶対乗りたくない。

「無限に」は高いハードルだけど、Waymoはすでに大多数の人間ドライバーよりも明らかに優れてるよね。