マイクロソフトは、米議会に対し、マイクロソフトなどが提供する顔認識技術の米国政府による使用を規制するよう要請した。
この嘆願は、Windows の巨人である同社が、物議を醸している米国移民関税執行局 (ICE) に顔認識サービスを提供したことで激しい非難を浴びてからわずか数週間後に出された。
ドナルド・トランプ大統領の「ゼロ・トレランス」移民取り締まりの下、アメリカの国境で移民関税執行局（ICE）の職員によって幼い子供たちが移民の親から引き離された後、マイクロソフト、トムソン・ロイター、アマゾンを含む複数の企業が国の国境警備隊と協力していたとして非難された。
1月、マイクロソフトのゼネラルマネージャー、トム・キーン氏は、同社のクラウドプラットフォーム「Azure Government」がICEに採用され、「エッジデバイスでデータを処理したり、ディープラーニング機能を活用して顔認識や身元確認を高速化したり」していると述べた。
「当社のミッションクリティカルなクラウドでこの取り組みを支援できることを誇りに思います」とキーン氏は当時述べた。しかし現在、マイクロソフトはICEがAzureの顔認識サービスを利用していないと主張している。
「問題の契約は顔認証には一切使用されていないことを確認しました」と、レドモンド・テクノロジーズの社長兼法務責任者であるブラッド・スミス氏は金曜日に述べた。「また、マイクロソフトは、国境で子供たちを家族から引き離すという行為に関連するプロジェクトにおいて、米国政府と一切協力していません。これは私たちが強く反対している行為です。」
政府は基準を設定する必要がある
スミス氏は今日、方向を変えて、連邦政府機関や省庁がマイクロソフトの技術を人種プロファイリングやプライバシー侵害、その他同様の厄介な活動に利用することを防ぐために、マイクロソフトの技術を最も効果的に規制する方法を検討するよう米国議会に要請した。
マイクロソフトは、機械学習のコードが偏見や誤りに陥るのを防ぐのが「完璧には程遠い」と認め、同社のソフトウェアはトレーニングデータの偏りの影響を受け、間違いを起こすとしている。
しかし、マイクロソフトは自社のソフトウェアやサービスの利用を独占的に監視するのではなく、米国政府による悪用を防ぐための法律や規則の導入を求めています。そのため、AIシステムの悪用に対する国民の抗議は、レドモンドや他のテクノロジー大手の問題ではなく、都合よく米国政府の問題とされてしまうのです。
「政府によるテクノロジーの使用を管理する唯一の効果的な方法は、政府自身が積極的にその使用を管理することだ」とスミス氏は述べた。
ロンドンのトップ警察官は、顔認識技術が「大量の逮捕」につながるとは予想していない
続きを読む
「アメリカのテクノロジー企業間の競争力、ましてや異なる国の企業間の競争力は、共通の規制枠組みがない中で、国民が受け入れ難いと感じるような方法で政府が新技術を購入し、使用し続けることを可能にする可能性が高い。」
マイクロソフトは、企業が人々の顔を収集する前に許可を得るべきかどうか、この技術は刑事事件の証拠として使用できるかどうか、システムは精度に関して最低限の性能を満たすことを要求すべきかどうかなど、米国の政治家が取り組むべき問題のリストを提示した。
「議会は、米国における顔認識技術の利用を規制する最善の方法を評価するために、超党派の専門家委員会を設置すべきだと考えています」とスミス氏は述べた。「これは、学界や官民両セクターによる最近の研究に基づき、これらの問題を評価し、この技術に関するより明確な倫理原則を策定するべきです。」®
