連邦安全規制当局は、テスラ モデルSの運転手がオートパイロット機能で走行中に死亡した事故について調査を開始した。これは同社の部分自動運転システムが関与した初の死亡事故であり、運転手、メーカー、政府が、人間の注意を代替することはできないものの、操縦を可能にする技術をどのように理解するかを問う決定的な試金石となる。.
5月7日にフロリダ州ウィリストンで発生した衝突事故では、40歳のジョシュア・ブラウンさんが死亡した。トレーラーが左折してテスラ車の進路を横切ったためだ。 テスラが木曜日に発表した情報、運転手もオートパイロットもブレーキをかけなかったのは、システムがトレーラーの白い側面と明るい空を区別できなかったためだという。車はトレーラーの下を通過した。
米国家道路交通安全局(NHTSA)は、約2万5000台のモデルSを対象とした予備調査を開始した。NHTSAによると、この調査では当時使用されていた自動運転システムの設計と性能を検証する予定であり、調査開始は規制当局が欠陥を発見したことを意味するものではない。.
ドライバーを代替するのではなく、ドライバーを支援するために設計されたシステム
オートパイロットは、カメラ、レーダー、超音波センサー、デジタルマッピングを組み合わせて、ドライバーの指示に従って車線を維持し、速度を制御し、車線変更を行う。テスラは昨年10月、ソフトウェアアップデートを通じてこれらの機能を導入した。これは、サービスセンターに持ち込むことなく既存の車両に新機能を追加できるという、異例の導入方法だった。.
このシステムは完全自動運転ではありません。テスラは、ドライバーが常にハンドルに手を置き、いつでも運転操作を引き継げるようにしておくことを求めています。ステアリングホイールの操作が検出されない場合、視覚的および聴覚的な警告が段階的に強まります。テスラの モデルSオーナーズマニュアルで は、オートステアは高速道路向けのベータ版機能であり、交差点のある道路や予測不可能な交通状況での使用は避けるよう警告しています。
その区別は技術的には明確だが、行動的には不安定である。長時間にわたって車両を制御できるシステムは、特にほとんどの場合に確実に動作する場合、ドライバーが監視を任意のものとして扱うよう促す可能性がある。自動化は作業負荷を軽減できる一方で、人間が制御ループから排除されるため、まれに発生する緊急介入の要求をより困難にする。.
この衝突事故は、機械知覚の限界を露呈させた。
フロリダでの衝突事故は、明るい背景を横切る大型の白いトレーラーという、視覚的に分かりにくい事例だった。テスラは、トレーラーの車高の高さと道路を横切る位置が事故の深刻さを増したと述べている。レーダーとカメラシステムは、橋や標識、その他の頭上構造物に危険な反応をすることなく、物体を分類し、動きを予測し、ブレーキが必要かどうかを判断する必要がある。.
ロイター通信による と、予備情報では、トレーラーは路面が乾いていて障害物のない交差点で旋回していたことが分かった。捜査当局は、速度、運転手の操作、警告、各サブシステムの正確な反応を特定するために、車両ログ、センサーデータ、物的証拠を必要とするだろう。
この事例は、「オートパイロット」という用語がなぜ重要なのかを浮き彫りにしている。テスラは、自動運転システムでも訓練を受けたパイロットが必要な航空業界になぞらえてこの用語を用いている。一般のドライバーは、より強い約束として受け止めるかもしれない。同社はドライバーが常に責任を負うべきだと繰り返し述べているが、製品名、デモンストレーション、そしてハンズオフ運転の体験は、警告と同じくらい強力な影響力で人々の期待を形成する可能性がある。.
規制はソフトウェアに追いついていない
NHTSA(米国道路交通安全局)の 車両自動化に関する枠組みでは、 運転支援機能と、運転操作全体を実行できるシステムを区別している。オートパイロットは前者のカテゴリーに属し、限られた条件下でステアリングと速度を制御し、人間は周囲の状況を監視する。
従来の自動車規制は、物理的な部品や欠陥を中心に構成されています。ソフトウェア制御による動作はより迅速に変化し、無線でアップデート可能であり、センサー、コード、路面状況、そして人間の操作の相互作用に依存します。したがって、調査では、部品の故障の有無だけでなく、システムの制限や警告が予測可能な運転行動に対して適切に設計されていたかどうかも問う必要があります。.
テスラは、顧客がオートパイロットをオンにした状態で1億3000万マイル以上走行したと述べ、この1件の死亡事故を、米国における約9400万マイルに1件の割合で発生する交通事故による死亡事故と比較している。しかし、この比較は暫定的なものであり、オートパイロットの走行距離は全国平均とは異なる道路状況に集中していること、また使用状況データが独立して分析されていないことから、相対的な安全性を確立することはできない。.
Wired誌が当時報じた技術解説によると、テスラの迅速な展開は、従来の自動車メーカーが計画するより保守的な展開とは異なる。このスピードによって実世界でのデータや改良点をより早く得られるだけでなく、テスト環境の大部分を顧客に委ねることになる。
透明性が部分自動化への信頼を左右する
今回の死亡事故は、自動運転が人間の運転よりも安全性が低いことを証明するものではない。事故の大部分は人為的ミスが原因であり、適切に設計された運転支援システムによって多くの事故を防ぐことができる。自動緊急ブレーキ、車線維持支援、衝突警報などは、完全な自動運転を必要とせずに既に多くのメリットをもたらしている。.
しかし、進歩は能力と限界の正確な記述にかかっています。米国自動車技術者協会(SAE)の 自動化分類で は、1つ以上の制御を支援するシステムと、運転環境を監視するシステムを区別しています。オートパイロットは、依然としてドライバーによる監視を必要とします。これらのレベルを曖昧にする表現は、たとえ法的警告が正確であっても、誤用を招く可能性があります。
テスラのやり方は、データへのアクセスに関しても疑問を投げかけている。同社は車両の詳細なログを取得し、ソフトウェアを遠隔で更新できるため、事故に関する他に類を見ないほどの洞察力を持っている。規制当局は、同社の主張を検証し、衝突事故やニアミスにおけるパターンを特定するために、十分なデータアクセス権限を必要とする。ドライバーは、どのような情報が記録され、どのように使用されるかについて、明確な通知を受ける必要がある。.
NHTSA(米国道路交通安全局)の 自動運転車安全プログラムは、 ますます高性能化するシステムに対応するための政策策定と並行して、イノベーションを促進してきた。フロリダ州での調査は、ソフトウェアの変化が正式な規則よりも速いペースで進む場合に、既存のツールが十分かどうかを検証するものである。
当面の調査は、乗用車1台、トラック1台、交差点1箇所に焦点を当てる。しかし、そのより広範な重要性は、将来的に人間と機械の間で行われる数百万件に及ぶ引き継ぎにある。部分的な自動運転は、最も難しい中間的な位置づけにある。つまり、信頼感を抱かせるほどの能力を持ちながら、同時に警戒を必要とするほどの限界も抱えている。この移行の安全性は、センサーの性能向上だけでなく、機械が運転しているように見えるときに人々が実際にどのように行動するかを考慮して技術が設計されているかどうかにかかっている。.