マイクロソフトは、顔認識を使用して友人や大切な人のスナップを見つけるために、「写真やビデオに写っている人々からの適切な同意」を確認するように求める、Windows 10 のフォト アプリのアップデートの提供を開始しました。
この機能自体は新しいものではありません。フォトアプリは少なくとも2017年から、顔認識機能を使って写真をグループ化したりタグ付けしたりしようと試みてきました。以前のバージョンの設定には、「顔検出と認識をオンにして、写真や動画に写っている人物に名前を付けてグループ化し、そのデータをデバイスに保存できるようにします」とだけ書かれていました。
顔認識技術を使った写真整理は、Microsoft独自のものではなく、業界標準の機能です。例えば、写真編集・整理用のコンシューマー向けアプリであるAdobe Photoshop Elementsは、顔認識技術を採用しています。Googleフォトには顔認識を使った「フェイスグルーピング」機能がありますが、ヨーロッパを含む一部の国ではこの機能が無効になっています。
顔認識機能はAdobe Photoshop Elementsの一部でもあります（クリックして拡大）
Facebook は (当然ですが) 顔認識を使用して「あなたが他の人の写真や動画に写っていることを知らせ、より良い体験を提供できるように」していますが、オプトアウトも可能にしています。
Apple フォトは「高度なコンピューター ビジョンを使用してすべての写真をスキャンし、写真に写っている人物、シーン、オブジェクトを認識します」。
しかし、これらすべてのプラットフォームにおいて、これらの機能は、見知らぬ人が写真からあなたが誰であるかを知ることができないように設計されています。
Windows 10ユーザーは、写真に写っている人物から同意を得ていることを表明するよう求められている（クリックして拡大）
マイクロソフトは、追加の安全対策が必要であると判断し、写真に写っている人々から「適切な同意」を得るべきだという考えを打ち出しました。
これは、フォト アプリのビルド 19041 で有効になっています。Windows 10 自体のビルドに固有のものではありません。
どのような同意が適切でしょうか？ プライバシーステートメントへのリンクがあり、そこから膨大なプライバシーに関する一般的な文書へと移動します。写真に関するセクションには免責事項が満載です。顔のグルーピングは「デバイスのファイルシステムのコンテキストを超えてアクセスすることはできません」と書かれています。そしてこう続きます。
私たちの多くは写真をたくさん撮ります。そして、Android および iOS 向けの Microsoft OneDrive アプリには、すべての写真をアップロードして Windows 10 のフォトに表示するオプションがあります。写真を撮るすべての人から同意を得ようとしたら、どんな困惑や怒りの反応が返ってくるか想像がつきます。ただし、その「必要な同意」が何であるかをある程度知っていると仮定します（ほとんどの人は知りませんし、同意を得ることは可能だとも仮定します）。
したがって、この機能をオフにして応答しない限り、対話は有益なものではなく、同意がない場合の合法性について Microsoft がそれほど疑念を抱いているのであれば、そもそもこの機能がなぜ存在するのかという疑問が生じます。
混乱するダイアログ：承認または拒否するだけで問題ありません（クリックして拡大）
同社は直感的なUIの好例とも言える反例を考案しました。機能を無効にするには「承認」をクリックすべきか「拒否」をクリックすべきかが不明瞭な確認ダイアログを表示したのです。少なくとも1人のユーザーが困惑し、「新しい写真の顔認識機能で『オファー』が有効化されているのに、拒否した後にオファーを停止させるにはどうしたらいいですか？」と質問しました。
マイクロソフトのこの動きは、その無意味な実装はさておき、顔認識技術に対する懸念の高まりと軌を一にしている。同社は先週、フィナンシャル・タイムズ紙に対し、2016年に公開され、世界中の認識システムの学習に使用されていた1000万人分の著名人（およびその他の人々）の顔データベースを削除したと述べた。ただし、このデータベースは個人用のコピーを通じて引き続き容易に入手可能な状態だ。
IBM は今年 3 月、ML トレーニング データセットに Creative Commons ライセンスの Flickr 画像を使用した際にも、被験者の同意に関する懸念に直面した。
顔認識技術をめぐる論争の多くは、警察による使用に集中している。英国の人権団体リバティの弁護士、ミーガン・ゴールディング氏は、顔認識技術の使用は「警察国家に相応しいものであり、私たちの街で行われるべきではない」と述べており、米国自由人権協会（ACLU）をはじめとする米国の人権団体も顔認識技術の禁止を求めている。
AmazonのRekognitionサービスの利用は様々な場面で抗議を引き起こしており、最近の年次株主総会では、「政府機関への顔認識技術の販売」を独立した審査の対象とし、同社に対し「Rekognitionに関する独立した調査を委託し、当該技術がプライバシーや公民権をどの程度危険にさらし、脅かし、侵害する可能性があるか…株主に報告する」ことを義務付ける提案がなされた。取締役会は「Amazon Rekognitionの画像および動画分析機能は社会と組織の両方に多大な利益をもたらす」ことを理由にこれに反対し、提案は否決された。
ローカルデバイスで写真のタグ付けを支援するAIは、警察や雇用主が実際に利用するには程遠いように思えるかもしれませんが、この技術の普遍性を示しています。今後規制が強化される可能性はありますが、少なくとも一部のケースでは、私たちが好ましくない方法でAIが利用されることを阻止することは不可能でしょう。®
