カリフォルニアを拠点とする顔認識企業は、人々の写真や動画を許可なく収集して開発したAIモデルとアルゴリズムを削除するよう米連邦取引委員会から指示された。この救済措置により、プライバシー侵害者が不正に入手したデータから利益を得ることが今後できなくなる可能性がある。
2020年8月31日にサービスを停止し、その後Paravisionという名称で顔認識サービスプロバイダーとして再スタートした一般向け写真アプリメーカーのEveralbumは、月曜日に、廃止されたEverアプリに2017年に「Friends」という機能を導入した件でFTCと和解した。FTCは、同アプリがユーザーの許可なくデフォルトで顔認識コードを導入し、ユーザーの写真を整理していたと主張している。
FTCによると、Everalbumは2018年7月から2019年4月の間、ユーザーの同意なしにコンテンツに顔認識技術を適用しないとユーザーに伝えていた。同社はイリノイ州、テキサス州、ワシントン州、EUなど特定の地域のユーザーには顔認識技術の利用を選択させていたものの、それ以外の地域に居住するユーザーに対しては自動的に顔認識技術が有効になっていたとされている。
当局はさらに、Everalbumによる顔認識技術の利用は「友達」機能のサポートだけにとどまらなかったと主張している。同社はユーザーの顔と他の情報から取得した顔画像を組み合わせて4つのデータセットを作成し、自社の顔認識技術に活用していたとされ、これが企業顧客向けの顔検出サービスの基盤となった。
同社はまた、アプリを使用する消費者に対し、アカウントを無効化すればデータを削除すると伝えていたが、少なくとも2019年10月まではそうしなかったとされている。
報告書によると、職場における偏見と不平等を除いて、AIと自動化で解決できないものはない
続きを読む
FTCは、この訴訟と和解を発表する中で、Everalbum/Paravisionは、アカウントを無効化したEverアプリユーザーの写真と動画、同意を与えなかったユーザーの顔の特徴をベクターで表現したすべての顔埋め込み、そして「Everユーザーの写真や動画で開発されたすべての顔認識モデルやアルゴリズム」を削除するよう求められると述べた。
FTCは、テクノロジー企業との過去のプライバシー訴訟において、このような対応をとったことはありません。FTCのロヒット・チョプラ委員によると、GoogleとYouTubeが親の同意なしに子供のデータを収集したとして1億7000万ドルの支払いで合意した際、FTCの和解は「民事制裁金を支払った後でも、GoogleとYouTubeがその行為から利益を得ることを可能にした」とのことです。
同様に、FTCが2012年のプライバシー和解合意に違反したというFacebookとの和解を承認票を投じた際、Facebookは顔認識技術やデータを一切手放す必要はなかったと彼は述べた。
「委員たちはこれまで、データ保護法違反者が不正に入手したデータから多くの価値を生み出しているアルゴリズムや技術を保持することを認める投票を行ってきた」とチョプラ氏は声明（PDF）で述べた。「これは重要な軌道修正だ。」
The Registerからの問い合わせに対し、FTCの広報担当者は、同局はこれまでにも企業にデータ削除を求める命令を出しているが、「これはFTCが顔認識技術だけに焦点を当てた初めての訴訟であり、特定のデータ削除要件は訴訟における事実上の申し立てに合わせて調整されている」と述べた。
彼らは消費者に写真撮影で一つのことをすると言いながら、それを顔監視技術に利用した。
電子フロンティア財団の上級スタッフ弁護士アダム・シュワルツ氏は、 The Registerとの電話インタビューで、EFF は FTC のこの救済策を概ね支持していると語った。
「この会社の行為は非常に悪質だと考えています」と彼は述べた。「消費者に写真撮影で何かができると言いながら、それを顔認証技術に利用したのです」
FTCがこれらの問題を解決すべき方法の一つは、不正行為を行った企業に、彼らが得た利益をすべて返還させることです。もし違法に顔認識アルゴリズムを構築したのであれば、その救済策はシステムを削除することです。
Paravision AIの広報担当者はThe Registerへの電子メールで、FTCの同意命令は同社がすでに実施した変更を反映していると語った。
「Everサービスは2020年8月に終了しており、今後消費者向け事業を展開する予定はありません」と広報担当者は述べた。「2020年9月、ParavisionはEverユーザーのデータを一切使用しない最新世代の顔認識モデルをリリースしました。今回の同意命令は、当社が既に定めた方針を反映したものであり、将来を見据えた慎重な姿勢を強化するものであり、当然ながら当社はこれに完全に従います。」®
