道路を自転車で横断していた女性をはねて死亡させたUberの自動運転車は、「信号無視の歩行者」を検知するように設計されていなかった。
これは米国国家運輸安全委員会（NTSB）が火曜日に公表した公式文書によるものだ。
2018年3月に発生したこの事故は、完全自動運転車による死亡事故として初めて記録された。車載カメラの映像には、被害者である49歳のエレイン・ヘルツバーグさんが、アリゾナ州テンピの道路を夜間に自転車を押して横断していたところ、時速60キロで走行していたAI搭載SUVに衝突される直前の様子が映っていた。
NTSBによる事故調査で、事故の主因と思われるものが特定されました。それは、彼女が明確に横断歩道上にいなかったため、システムが彼女を歩行者として認識できなかったことです。道路を横断する人の動きを正しく予測する代わりに、システムは彼女に衝突してしまいました。
「システムの設計には、信号無視をする歩行者への配慮が含まれていませんでした」と、監視機関は報告書[PDF]の中で述べています。「それどころか、システムは当初、彼女を目標が割り当てられていない『その他』の物体として分類していました。」
自動運転車のコンピュータービジョンシステムは、他の車両、木、標識、自転車などを認識し、その情報を用いて次に何をすべきかを判断するように訓練されています。Uberのソフトウェアは、適切な横断歩道を使用していない人物の分類ラベルがなかったため、ハーツバーグ氏を識別できず、適切な判断を下すことができなかったようです。
衝突までのカウントダウン
彼女に衝突する約5.6秒前に、車のレーダーはヘルツバーグ氏を検知し、5.2秒後にはライダーが彼女を検知しました。しかし、機械学習システムはヘルツバーグ氏を車両の進路上にない静止物体と認識し、事実上無視しました。
ロボット車両が近づくにつれて、ロボット車両は彼女を、車両、自転車、あるいはその邪魔にならない、あるいは部分的にしか邪魔にならない他の物体として分類しました。
彼女に衝突するわずか 1.2 秒前に、車は彼女が自転車であることだけでなく、明らかに自分の進路上にあることも認識していたため、進路を変えるにはあまりに遅すぎた。
報告書は、ソフトウェアがハーツバーグ氏の進路を「正しく予測できなかった」点を指摘している。もしソフトウェアが早い段階で彼女を道路を横断する人物として正しく認識していれば、大幅に減速したり、あるいは何らかの方法で彼女を避けようとしたかもしれない。しかし、衝突を予測できなかったのは、ソフトウェアが彼女を邪魔にならない未知の物体と認識していたためだ。
また、忘れてはならないのは、SUVの緊急ブレーキシステムは意図的に無効化されていたということだ。Uberによると、システムをオンにすると車両が不安定な動きをする可能性があるためだ。同社は以前、緊急時には「車両のオペレーターが介入して対応する必要がある」と述べていた。
事故当時、自動運転車は完全に自動運転状態でしたが、人間のドライバーが運転していました。車内のカメラは、事故の直前、Uberの従業員が下を向き、道路から目をそらしている様子を捉えており、手遅れになる前にハーツバーグ氏の存在に気づいていませんでした。
以下は NTSB が作成した、事故の数秒前の車の意思決定と速度の詳細を示すタイムテーブルです。
この報告書は、委員会が11月19日に「歩行者とウーバーの試験車両との衝突事故の原因を特定する」ための公開会議を開催する予定のわずか2週間前に発表された。
安全委員会はまた、車両の特性やウーバー社内の安全文化などに関するさまざまな裏付け証拠や包括的な説明を含む、合計430ページ以上に及ぶ40以上の文書を公開した。
膨大なデータ流出により、配車サービスの自動運転車が、この死亡事故以前の2016年9月から2018年3月の間に37件の衝突事故に関与していたことも明らかになった。これらの37件の事故では、全ての自動運転車が自律走行モードで走行しており、そのうち33件では他の車両が自動運転車に衝突していた。
'悲劇'
火曜日の夜、Uberの広報担当者は次のように述べました。「2018年3月に当社の自動運転車両が関与した事故により、エレイン・ヘルツバーグさんの命が失われたことを深くお詫び申し上げます。この悲劇を受け、Uber Advanced Technologies Groupのチームは、安全性をさらに最優先にするため、重要なプログラム改善を実施しました。」
「我々はNTSBの墜落事故調査の徹底性を深く評価しており、今月下旬に開催されるNTSBの理事会後に発表される勧告を検討するのを楽しみにしている。」
エル・レグはUberに対し、将来的に自動運転車に横断歩道を渡らない歩行者を検知する訓練をどのように行う予定かと尋ねたところ、Uberは次のように答えた。「システム全体の安全性を向上させるため、シミュレーションとテストコースで数百ものテストを実施しています。これらのテストには、横断歩道を渡らない歩行者、急ブレーキ、安全装置のない右左折といった複雑な状況を想定したシナリオをソフトウェアで実行させることも含まれています。」®
