アメリカ自由人権協会（ACLU）のテストで、アマゾンのRekognitionシステムは、指名手配犯の顔写真2万5000枚のデータベースの画像とカリフォルニア州の政治家5人に1人を誤って照合した。
この話に聞き覚えがあるとすれば、それはACLUが昨年、米国議会議員28名と犯罪歴のある顔写真を照合した同様のテストを実施したためだ。
このロビー団体は、警察のボディカメラに認識技術を導入する動きに対する懸念を浮き彫りにするため、再度テストを実施しました。犯罪の可能性があると特定された26人の議員のうち、半数以上が「有色人種」とされていました。カリフォルニア州議会と上院は合わせて120名の議員で構成されています。
誤って名指しされた人物の中には、身体装着型カメラでの生体認証技術の使用を禁止する法案を推進しているカリフォルニア州議員のフィル・ティング氏もいた。
ティン氏は声明で、「今回の実験は、顔認識ソフトウェアがまだ本格的な運用には至っていないという事実を改めて浮き彫りにしました。ましてや、法執行機関が装着するボディカメラへの搭載など到底考えられません。カリフォルニア州民が、誤照合のせいで、永遠に警察の顔合わせに晒される事態を目にすることになるかもしれません。このような事態を決して許してはなりません」と述べた。
アレスト・ディベロプメント：警察はAmazonの顔認識APIを、適切に動作させるのに苦労した後に廃棄した
続きを読む
記者会見でティン氏は、ボディカメラは法執行機関への信頼を高め、透明性を向上させるためのものであり、監視ツールとして使われるものではないと述べた。また、州内の街角に数千台の顔認識カメラを設置するには、長期にわたる国民的議論と法整備が必要だが、警察のボディカメラにこのソフトウェアを追加すれば、議論なく同じ結果が得られるだろうと述べた。
AB1215法案は、警察が顔認識ソフトウェアを用いてボディカメラの映像を分析することを禁止するものです。ティン議員はサンフランシスコ選出で、同市はあらゆる政府機関による生体認証技術の使用を禁止しています。
先月、フロリダ州オーランドの警察は、ライブ監視映像で試験運用していたアマゾンのクラウドベース認識システムを廃止した。1年間試行したにもかかわらず、うまく動作しなかったためだ。
規制当局はAmazonからまだ返答を受けていないが、Amazonは他のメディアに対し、ソフトウェアのデフォルト設定を使っていたためテストが公平ではなかったと訴えていた。Amazonは、実際に誰かを逮捕したり撃ったりする前に、99%の信頼度設定を使うことを推奨していた。では、デフォルト設定を変更した方がいいのではないだろうか？
記者会見のビデオはFacebookでご覧いただけます。®
