交通愛好家やテクノロジー楽観主義者にとって、自動運転車やトラックが安全で流線型の、まるで振り付けされたようなダンスの基盤となることは、共通の夢です。この夢の中では、すべての車両、そして自転車や歩行者も、あらゆるルートを支障なく進み、他の交通は巧みに衝突を回避し、ストップ・アンド・ゴーの渋滞さえも排除します。これは、ブラック・シープ・フィルムズの短編映画『ラッシュアワー』に登場する、シンクロした交通渋滞によく似ています。
ラッシュアワー。(C) ブラックシープフィルムズ。
今日、自動運転車はますます普及しつつあります。しかし、安全性は依然として疑問視されています。アメリカの道路では毎年3万人以上、1日あたり約100人が亡くなっています。これは、政府の規制当局、自動車メーカー、そして人間のドライバーによる懸命な努力にもかかわらずです。自動運転に関する初期の統計によると、自動化が普及すれば、死亡者数を大幅に減らすことができる可能性が示唆されています。
しかし、重要な問題があります。コンピューターはルール、つまり厳格で明確な指示を好むのです。では、難しい状況に対処するために、どのようにプログラムすればよいのでしょうか？ 想定されるシナリオは無数にあります。車が自転車に乗った人1人をはねるか、歩行者5人をはねるかを選択しなければならない状況はどうでしょうか？ 壁に衝突して乗員を死亡させるか、幼稚園児の集団に突っ込むか、車が決断しなければならない状況はどうでしょうか？ どのように判断するのでしょうか？ 誰が判断するのでしょうか？
これまで、私たちの交通システムは人間によって運営されるように進化してきました。人間はガイドラインに従うのは得意ですが、曖昧な部分を適切に処理するために、しばしばそれを解釈してしまいます。横断歩道がないにもかかわらず、私たちは道路の真ん中で止まり、歩行者に手を振って渡らせます。自転車が路肩に十分なスペースを空けるために、黄色の二重線を渡ります。
機械と人間の双方の長所を最大限に活用できる交通システムを改善するには、曖昧さと厳格なルールを融合させる必要があります。ある意味では、現在のものよりもさらに複雑なルールを策定する必要があります。しかし、別の意味では、よりシンプルである必要があります。システムは、自動運転ドライバーが円滑に機能するだけでなく、その中心にいる人間にとって容易かつ明確に理解できるものでなければなりません。
人間の意思決定
Google Cars、Uberの自動運転車、シンガポールの自動運転タクシー、テスラの自動運転モード、さらには自動運転貨物トラックも既に路上を走っています。自動運転中のテスラ車による死亡事故が1件発生したにもかかわらず、自動運転車は依然として通常の人間の運転手よりも安全です。それでも、この事故は多くのメディアの注目を集めました。
アメリカの道路では毎日約100人が死亡していますが、この事故は特に際立っていました。なぜなら、人々はこう疑問に思ったからです。「もしドライバーが自動運転ソフトウェアに頼っていなかったら、どうなっていただろう？人間ならどう対応できただろうか？」
この死亡事故は、実のところかなり単純なものでした。車は前方のトラックに気づかず、突っ込んでしまったのです。しかし、事故について考える時、人はしばしば、一瞬のうちに道徳的な選択を迫られるのではないかと不安に駆られます。
哲学者たちはこれを「トロッコ問題」と呼んでいます。これは、トロッコが線路を猛スピードで走り、間に合うように避けられない人々に向かっているという仮説的な例に由来しています。トロッコを別の線路に切り替えるという選択肢がありますが、その場合、別の人々に轢かれてしまうでしょう。
この問題には無限のバリエーションがあり、人数や種類を指定したり、動物に置き換えたり、トロリーを壁に衝突させて乗客を死なせたりするなど、様々なバリエーションが考えられます。例えば、5人の子供を救い、高齢者を一人死なせるでしょうか？犬を救うか、犯罪者を殺すか、どちらが良いでしょうか？MITの研究者たちが人々がどのような意思決定をするかに関する情報を収集している魅力的な「モラルマシン」ゲームでは、これらのバリエーションをオンラインで試したり、新しいバリエーションを作ったりすることができます。彼らは、少なくとも人間の道徳的コンセンサスを見つけ、それを自動運転車やその他の知能機械に役立てたいと考えています。
問題の核心は、あなたがカートの方向転換を選択するかどうかです。あるケースでは、あなたは積極的に介入することを決断し、特定の集団を救い、そして殺すことを決意します。別のケースでは、あなたは行動を起こさないことを選択し、事実上運命の成り行きに身を任せます。モラルマシンを使う人は、自分の結果を他の人と比較することができます。これまでの結果は、人々がより若く、より健康で、社会的に高い価値（例えば、犯罪者よりも医師）を持つ人々を救うために介入することを示唆しています。
人間とコンピュータの好み
こうした相対的な好みに対応するために、携帯電話にビーコンを装着し、近くの車に自分が特定のタイプの人（子供、高齢者、歩行者、自転車利用者）であることを知らせる仕組みが考えられます。そして、プログラマーは、モラルマシンのような調査や実験から得られた優先順位に基づいて、自律システムに意思決定を指示できるようになります。
しかし、それは深刻な問題を引き起こします。例えば、交通の真ん中を走っている子供に気づいた自動運転車が、歩道にいるおばあちゃんを轢いてしまうでしょうか？
では、集団の場合はどうでしょうか？モラルマシンの開発者や他の研究者たちは、社会全体として、より多くの人々を救うことを選択する傾向が強いことを発見しました。もしあなたが一人で歩いている時に、不注意なランナーの集団があなたの進路に車を突っ込んできたらどうでしょうか？
同じ調査では、ドライバー（自身）を犠牲にする可能性のある車を購入する意欲は、人々の中途半端なレベルに落ち着くことも示されました。社会全体が自動運転車のメリットを享受するためには、人々に車を購入してもらう必要があります。そのためには、購入者にとってより魅力的な車にする必要があります。それは、メルセデスが既に決定しているように、車にドライバーの負担を軽減する義務を課すことを意味するかもしれません。
ルールを破る
トロッコ問題を調査すると、無数の具体的かつ仮説的なシナリオに「最適化」するだけでは解決策にはならないことが明らかになります。さらに、自動運転車が特定の状況下でルールを破ることを許容すると、悪意のある人間がシステムを不正に操作する可能性が出てきます。例えば、歩行者が車線に飛び出しても轢かれることはありませんが、車は急ブレーキをかけることになります。その歩行者が一人で複数の衝突を引き起こし、混乱を引き起こす可能性さえあります。混乱を引き起こした側は大きなリスクを負うことなく混乱を引き起こす可能性があります。
ボルボは既に、一部の人間のドライバーが自動運転車の周りで威圧的な行動をとることに気づいています。例えば、自動運転車が衝突を回避してくれると確信しているドライバーは、自動運転車の前に割り込む可能性があります。そのため、ボルボは公道で自動運転車に明確な表示を行うという現在一般的な慣行には従いません。少なくとも一部の試験車両には、人間のドライバーの行動の違いを測定できるよう、表示を施さない予定です。
メルセデスとボルボの開発は、自動運転車に対する人間の期待を明確にするための第一歩です。人々の認識を標準化することで、様々なシナリオにおける人間の行動を予測しやすくなります。これは、すべての人が調和のとれた運転を実現するための方法を開発する上で役立つでしょう。
すべての自動運転車に共通のルールがあれば、それが何であれ、人々は車の挙動を予測し、それに応じて私たちの行動、政策、交通インフラを調整できるようになります。
そして、より明確なルールを作るのであれば、歩行者、自転車、ドライバーなど、人間もより厳密にルールに従うべきでしょう。その世界では、「ラッシュアワー」の短編映画のような完璧な混沌はおそらく見られないかもしれません。しかし、今日よりもはるかに秩序があり、安全で効率的な世界になるでしょう。
この記事はもともとThe Conversationに掲載されました。
