フロリダ州オーランド市警は、技術的な故障が続いた悪夢のような1年を経て、同市周辺に設置されたCCTVカメラを監視するためにアマゾンの物議を醸しているクラウドベースの顔認識技術を使うのを断念した。
この決定は、警察がAmazonのRekognition APIの利用を試みたものの失敗に終わった後に下された。このAPIは、監視カメラのライブ映像ストリームから容疑者を自動的に検出することを期待していた。Amazonのスタッフの協力を得て、システム全体を正常に動作させるべく15ヶ月間も努力を重ねたが、成果は得られず、ニューヨーク市警察はAmazonとの契約を終了した。
「今日はまだ配信すら確立できていません」と、市の最高情報責任者、ローザ・アクタルカヴァリ氏は木曜日、オーランド・ウィークリー紙に語った。「1年以上も経った後の話です。今日、信頼できる配信を確立できていないのです」
この計画は、容疑者や既知の犯罪者の写真をAmazon Web ServicesのRekognition APIに入力し、バックエンドソフトウェアがCCTV映像のライブストリームを自動検索して、それらの顔が映っている箇所をリアルタイムで検出し、警察が容疑者の所在を即座に把握できるようにすることを目指していた。Amazonの技術者たちは、このシステムを適切に動作させるために、警察と協力するため、何度も市を訪れていたようだ。
「ランダムに切断」
アクターカヴァリ氏は、複数のカメラ映像がRekognitionに送られると「帯域幅の問題」が生じると訴えた。このクラウド技術がたまたま市のカメラ映像と連携できたとしても、映像が「ランダムに切断される」という。そのため、Rekognitionを用いて市民を監視するオーランド市のパイロットプログラム[PDF]は、結局実現に至らなかった。「映像をテストする段階に至っていない」と情報担当官は述べた。
他にも技術的な問題があり、その一部はカメラ自体に起因するものでした。元オーランド警察署長のジョン・ミナ氏は、この機器はRekognitionと互換性がないようだと述べています。Amazonはパイロットテストのために自社のCCTVカメラをいくつか提供しましたが、市当局はキットの使用を拒否しました。
現実を直視しよう。顔認識技術と対峙する必要があると米国上院議員らは主張：超党派のAIプライバシー法案が提案
続きを読む
オーランドのダウンタウンに設置されたカメラも高すぎた。地面から3メートルほどの高さに設置されていたため、カメラの映像には人の顔ではなく頭頂部しか映っていないことが多かった。オーランド・ウィークリー誌はまた、何百万枚もの写真で学習させた機械学習アルゴリズムを用いて顔を識別するバックエンドソフトウェアは、警察が扱うには高度すぎると指摘した。
Amazonの広報担当者は、公式発表の場で技術的な問題について言及することを拒否したが、The Register紙に対し次のように述べた。「法執行機関や地域社会の安全を守るために活動するその他の団体を含む当社のお客様は、最高のテクノロジーを利用できるべきだと考えています。また、Amazon Rekognitionが人身売買対策に活用されているように、顔認識は社会に実質的な利益をもたらすことができると考えています。」
アクターカヴァリ氏と市当局者らはすぐにはコメントを得られなかった。
オーランド市の行政最高責任者は市議会へのメモ[PDF]で次のように述べました。「現時点では、市はパイロットプログラムに必要なリソースを割くことができず、必要な設定とテストの完了に向けて目立った進展を遂げることができませんでした。[市は]この種の顔認識技術を検証するための将来のパイロットプログラムについて、当面の計画はありません。」
アマゾンは、物議を醸している顔認識技術をめぐり、社内外から激しい反発に直面している。ニューヨークに拠点を置く非営利団体、アメリカ自由人権協会（ACLU）の調査によると、この技術は女性や肌の色が濃い人物の識別に苦労することが明らかになった。別の実験では、国会議員が犯罪者と誤認されるという事態も起きた。
ACLUと私たちのパートナーがずっと前から認識していたことを、ついにオーランドが理解したことを祝福します。Amazonの技術は機能せず、地域社会にとって脅威なのです。https://t.co/rg6J8ridSQ
— マット・ケーグル（@Matt_Cagle）2019年7月18日
アマゾンは米国政府にもこの技術を売り込んでいる。米国政府を調査している非営利団体「政府監視プロジェクト（POGO）」が公開した書簡によると、アマゾンの従業員が移民関税執行局（ICE）とこの技術の使用について話し合っていたことが明らかになった。アマゾンは昨年6月にシリコンバレーのICE事務所を訪問した模様だ。®
