警察は、ライブ顔認識には監視、厳格な試験設計、偏見からの保護が必要だと告げられた

英国政府の諮問グループは、警察は顔認識技術を、人物の特定に効果的であることが証明され、偏見なく使用でき、利用可能な唯一の方法である場合にのみ使用すべきだと述べた。

内務省のこれらの分野での活動を監視し助言するために設立された生体認証および法医学倫理グループは、警察による顔認識技術の物議を醸す使用に関する報告書を発表した。

この調査では、自動顔認識ツールをリアルタイムで使用する様子が調査された。つまり、入口や出口など、移動する人々の特定のエリアに向けられたカメラから得られたライブ画像が、精選された監視リストと照合され、警察がその場でその人物に近づくことができるというものである。

全体的な論調は、実際の顔認識実験の設計はより厳格にする必要があり、この技術は十分な注意と十分な独立監視の下で、実際に機能する場合にのみ使用すべきだというものでした。重要なのは、警察にもその侵入性を真剣に受け止めるよう勧告されたことです。

これは、警察による顔認識技術の活用に対する、場当たり的、そして時に軽率な態度と見られてきたアプローチとは相容れないように思われる。ロンドン警察本部長のクレシダ・ディック氏でさえ昨年、顔認識技術の活用が多くの逮捕につながるとは考えていないと述べつつも、警察が初期段階の技術を試験的に導入することは国民が「期待している」と主張した。

この報告書は、サウスウェールズ警察とロンドン警視庁がスポーツイベントやショッピングエリアで行った一連の厳重な監視活動を受けて、内務省が委託して作成された。

しかし、こうした配備は法的枠組みなしに行われ、圧力団体、国会議員、監視団体から広範な批判を浴びている。

警察は、今回の導入を「試験的」なものと位置付けているが、詳細を議論することを避けており、情報を公開するのは実施直前、多くの場合は実施前日となっている。

新たな報告書はこうした懸念を反映し、この技術の使用は実用展開と「試験的な」実験の両方であるため「本質的な曖昧さ」があると指摘した。

「最近の警察の実地試験の目的を見分けるのは困難だ。警察の活動だったのか、それとも実験だったのか？」と同委員会は問いかけ、試験の設計、参加の同意、そして試験運用が国民の信頼を損なうリスクがあったかどうかなどについて疑問を呈していると述べた。

この文書は、ニーナ・ハロウェル、ルイーズ・アムーア、サイモン・ケイニーの3人の学者とIBMの新興技術部門のリーダーであるピーター・ワゲットによる作業部会によって作成され、政府の政策立案と警察によるキットの使用に関する9つの倫理原則を定めている。

これらの人々は、顔認識は必要性、有効性、公平性、比例性、費用対効果、公衆の信頼の尺度に基づくべきだと述べた。

この技術の使用は、監視されることなく生活を送る人々の権利を侵害するものであり、より侵襲性の低い技術が利用できない場合にのみ使用されるべきだと強調した。

そして、その使用は「それが人物特定に有効な手段である場合にのみ正当化される」。情報公開請求に対する回答でロンドン警視庁によるこの技術の使用は98パーセントの誤検知率があり、逮捕者はゼロだったことが明らかになっていることを考えると、キャンペーン団体はこの点に飛びつく可能性が高い。

報告書はまた、昨年末にカーディフ大学が行った研究 (PDF) にも言及しており、暗い場所や人混みの中でのこの技術の性能に疑問を呈している。これは、これまでのこのキットのほとんどの導入で主要な特徴となっている。

同グループが、有効性を評価するために使用できる可能性があると述べている潜在的な質問の網羅的ではないリストには、人間のオペレーターが受けている訓練、速度と精度のトレードオフ、画像品質の詳細、システム設定、成功の基準に関する質問が含まれていた。

同団体はまた、政府に対し、キットの使用に際して偏見や「アルゴリズムによる不公正」を避けるよう強く求め、2つの意味で不公正になる可能性があると述べた。

まず、ある種の誤認識は「本質的に屈辱を与える」ものであり、次に、偏向した技術は一部の個人に対する不平等で差別的な扱いにつながる可能性があり、一部のグループは拘束されたり身元確認を求められたりする可能性が高い。

「公共の場で使用される自動生体認証システム（データトレーニングセットを含む）は、精査と効果的な監視を受けるべきである」と報告書は述べている。

報告書はまた、監視リストの作成方法、作成者、そしてリストに含まれる画像の実際の正確性に関する別の原則についても適切な監督の必要性を強調した。これもまた、独立機関による監督の対象となるべきだと報告書は述べている。

誰が導入を監督し、事後評価をどのように行うのかを明確にする必要がある。さらに、同グループは、顔認識技術が「正当な理由なく」特定のイベントを不当に標的とし、他のイベントを標的としないような形で使用されないようにすることが重要であると述べた。

著者らは結論の中で、ライブ顔認識の使用に対する独立した監視と統制が欠如していることを指摘し、その代わりに、試験は「厳格で倫理的な科学的設計を含む、実験試験の通常の基準」に準拠する必要があると述べた。

倫理委員会は、この分野の動向を今後も監視し、内務省の大臣らに「適切な」助言をしていくと述べた。®