更新されたAmazon Web Services は、警察による顔認識技術の使用を 1 年間停止すると発表した。
「顔認識技術の倫理的利用を規制するため、政府によるより厳格な規制の導入を提唱してきました。そして最近、議会はこの課題に取り組む準備が整ったようです」と、同社は水曜日のブログ投稿で述べた。「この1年間のモラトリアムによって、議会が適切な規則を施行するのに十分な時間が得られることを期待しており、要請があれば支援する用意があります。」
AWS の顔認識技術は Rekognition と呼ばれ、同社によれば「さまざまなユーザー認証、人数カウント、公共安全のユースケースで顔を検出、分析、比較するために使用できる、非常に正確な顔分析および顔検索機能を提供します」。
このような技術は、様々な理由で物議を醸しています。Clearview AIは、ウェブから膨大な顔画像データベースを構築し、それを警察に販売していることで、激しい批判を受けています。Clearviewの技術は、最近のBlack Lives Matter抗議活動に参加した人々の身元特定に利用される可能性があると懸念されていますが、顔認識モデルはしばしば不正確で偏りがあることが証明されているため、その利用には問題があります。
顔認識ソフトウェアは白人男性を簡単に識別できるが、黒人女性ではエラー率が急上昇する
続きを読む
Rekognitionは、国会議員を犯罪者と誤認することが判明しており、特に有色人種の誤認は深刻です。また、女性を男性と誤認する確率も19%に上ります。
連邦議会議員に対するテストは、法執行機関による顔認識技術の使用に反対し、特にアマゾンの技術に欠陥があると主張してきたアメリカ自由人権協会（ACLU）によって実施された。
Amazonが警察による自社技術へのアクセスを1年間拒否するという決定は、IBMが顔認識技術の開発を完全に中止し、人種的平等の促進に向けて議会と協力するという決定に続くものだ。IBMは、この決定をこの技術が「差別や人種的不公正を助長する」可能性と明確に結び付けている一方、AWSの声明では、米国議会の規制への関心の高まりと、新たな規則の策定を支援したいという意向のみに言及しており、Rekognitionを他の法執行機関に売却する意向については言及していない。
当然のことながら、警察は世界中で反暴力・反人種差別デモの焦点となっています。他の法執行機関や情報機関は警察ほどの注目を集めてはいませんが、警察と同様に顔認識技術の悪用にさらされる可能性があります。
この一時停止により、Amazon は、すべてが落ち着き、ニュースサイクルから十分に抜けるまで 1 年間待ってから、おそらくひっそりと AI サービスを再開できるようになります。
AWS は、Rekognition の使用を引き続き許可するユーザーとして、Thorn、国際行方不明・被搾取児童センター、Marinus Analytics を挙げた。これらの組織は、この技術を「人身売買の被害者の救出や行方不明の児童とその家族の再会を支援する」ために使用している。®
追加更新
マイクロソフトは、アメリカが顔認識技術を規制する連邦法を制定するまで、警察への顔認識サービスの販売を停止すると約束した。
