米国の警官用ボディカメラメーカーが、キットに顔認識技術を搭載しないと発表。倫理上の問題か？パラレルワールドに迷い込んだのか？

米国の警察にボディカメラを供給する最大手のアクソンは、近い将来、自社の機器に顔認識技術を追加する予定はない、と木曜日に発表した。

かつてテイザーとして知られていたアクソンは、エンジニア、社会科学者、弁護士で構成されるAI・警察技術倫理委員会に、顔認証機械学習システムを自社製品に組み込むことの影響について検討するよう要請した。1年間の検討を経て、委員会はアクソンに対し、この技術の導入を控えるよう勧告した。そして驚くべきことに、アクソンは実際にその通りになった。

「顔認識技術は現時点では、ボディカメラへの使用を倫理的に正当化できるほど信頼性が高くない」と、専門家パネルは今週発表された報告書で結論づけた。「少なくとも、顔認識技術は、はるかに高い精度で、人種、民族、性別、その他のアイデンティティグループ間で同等の性能を発揮するまでは、導入すべきではない。」

今日のコンピュータービジョンソフトウェアは、肌の色が濃い人物を正確に識別するのが困難であり、特に女性の分析においては、偏った学習データセットと不安定な画像処理アルゴリズムのために、信頼性が極めて低いことはよく知られています。したがって、今日のアルゴリズムとモデルは、特に有色人種の女性にとって、あらゆる面で悪影響を及ぼします。

警察のカメラ映像をリアルタイムまたはオフラインでAIコードが精査することで誤認される可能性は、特に黒人コミュニティにとって深刻な脅威です。彼らは法執行機関から頻繁に標的にされ、嫌がらせを受けているからです。映像を分析するコンピュータープログラムによって誤って犯罪者として特定されたいと思う人は誰もいません。先月、サンフランシスコ市は、この技術への懸念から、警察を含む地方自治体による顔認識技術の使用を禁止しました。

こうした事態を受けて、Axon 社は取締役会の助言に従い、今のところは顔認識機能を機器に追加しないことに決めた。

「現在の顔認証技術は深刻な倫理的懸念を引き起こしています。さらに、この技術をボディカメラで使用するには技術的な限界があります。委員会の勧告に従い、Axonは現時点ではボディカメラに搭載した顔認証製品の商品化は行いません」と同社は声明で述べた。

アクソン社は「顔照合」を、指名手配犯や容疑者の顔データベースからカメラに映った顔を自動的に検索するアルゴリズムと定義しています。しかし、同社は顔検出機能を備えたソフトウェアを導入し、人物の顔に境界ボックスを表示することで、警察官が現場における人物の動きを追跡できるようにします。

明確に申し上げますが、メーカーは顔照合や顔認識を永久に禁止したわけではありません。ただ、現時点では実装していないだけです。Axonは、バイアスを軽減し、精度を向上させ、学術界や民間部門の動向を注視するために、この技術の研究を継続していきます。

顔認識は現時点では実現不可能ですが、Axon社は銃声検知などの機能を備えたソフトウェアを導入し、「銃器の発砲を含む出来事を確実に記録する」予定です。発砲が検知された場合、コードによって警官は映像内の特定の瞬間を特定できます。

「取締役会のメンバーの皆様には、ご助言をいただき、感謝申し上げます。また、各メンバーがこの取り組みに捧げた時間と労力にも感謝いたします」と、同社は締めくくった。「このような外部倫理諮問委員会は、テクノロジー企業にとって新しい概念であり、私たちはこれを歓迎し、他の企業にも倣っていただきたい倫理ロードマップを策定できたことを誇りに思います。」®