IBMは、顔認識システムのトレーニングに使用される物議を醸している「顔の多様性」データセットを、世界中の軍隊や法執行機関に直接関係する企業や大学と共有した。
このデータセットには、クリエイティブ・コモンズ・ライセンスに基づき、人気画像共有サイトFlickrに投稿された100万枚の画像から抽出された情報が含まれています。IBMは、顔認識システムのバイアス軽減に役立つことを期待してこのデータセットを公開しました。
The Registerが入手したメールによると、IBMは今週、オンラインアンケートでデータ利用許可を申請し、データ利用を許可された人々のリストにデータセットへのリンクを送信した。「DiFデータセットのダウンロードリンクに問題がある場合は、こちらの新しいリンク（zipファイル、約376MB）からデータセットをダウンロードしてください」とIBMの顔の多様性研究（DiF）チームは記している。
チームは数百のメールアドレスにメールを送信し、データセットへのアクセスを許可された人物の名前を明らかにしました。その大半は、米国、中国、イタリア、日本、英国、カナダ、オーストラリア、ニュージーランドなどの大学の学生や研究者でした。
それらの多くは民間組織からのものです。コンタクトレンズやオンラインゲーム会社といった一見無害な業界からのものもあれば、生体認証システムや監視システムの構築に注力している、より疑わしい組織もあります。中には軍や法執行機関と直接関係している組織もいくつかあります。
米国政府の資金提供を受け、国防総省および国土安全保障省（DHS）と連携する研究開発会社MITREの従業員2名に、DiFデータセットへのリンクが送られました。MITREは現在、写真や動画からの生体認証による顔認証の実現など、幅広いプロジェクトに取り組んでいます。
リストに載っていたもう一つの組織はメリーランド試験施設で、同施設は国土安全保障省（DHS）の様々な生体認証システムの試験を支援しており、空港のセキュリティを模した環境で被験者に虹彩スキャナーなどの機器の試験を実施しています。FaceFirstという企業は、「警察、高速道路パトロール、保安官事務所、その他の公共安全機関を含む法執行機関向けの堅牢な顔認識ソフトウェアの市場リーダー」であると自負していました。
DHS（国土安全保障省）が、動画フィード内のデータベースからAIを用いて対象人物を特定することに関心を持っていることは周知の事実です。米国連邦政府を調査している非営利団体「政府監視プロジェクト（POGO）」が公開した文書によると、米国移民関税執行局（ICE）の担当者がAmazonの商用顔認識システム「Rekognition」に関心を示していたことが明らかになりました。
他にも目立った機関がいくつかある。リストにはGoogle、Microsoft、Amazon、Huaweiの研究者も名を連ねている。ポルトガル軍の将校を養成する大学のような機関である陸軍士官学校の関係者もデータセットにアクセスしていた。中国政府の中央軍事委員会傘下の国家国防科技大学の博士課程の学生も同様にアクセスしていた。我々は彼らにコメントを求めている。
中国は経済と国家安全保障の強化のため、AIを優先的に活用してきた。特に空港、レストラン、公共の道路で顔認証技術を迅速に導入し、イスラム教徒の取り締まりにも同様の技術を活用してきた。
「中国政府が新疆ウイグル自治区でAI顔認識システムを使い、ウイグル族のイスラム教徒に対する大規模な人権侵害を行っていることを考えると、IBMが公開したトレーニングデータが悪質なAIアプリケーションに利用される可能性は間違いなくある」とワシントンDCに拠点を置くシンクタンク、ニュー・アメリカのサイバーセキュリティ政策フェロー、ジャスティン・シャーマン氏はThe Registerに語った。
IBMがAIトレーニングにFlickrの顔写真を使用していることをめぐる騒動、マイクロソフトにとってそれほど小さくない中国での大きな問題、など
続きを読む
「しかし、だからといってIBMがこの種のデータを公開すべきではない、あるいは他の企業や団体がAI研究のオープンな性質に歯止めをかけるべきだということではありません。ほとんどのAIアプリケーションは民生用と軍事用の両方の用途があり、そのため「危険な」AIアプリケーションやコンポーネントとそうでないものを区別することは不可能かもしれません。」
IBMは利用規約において、データセットは「非営利の研究目的のみ」に使用できると規定しています。また、申請書では、使用後のデータセットの削除も求められています。しかしながら、IBMがこれらの規則をどのように適用する予定なのかは明確ではありません。
IBMの広報担当者は次のように述べた。「Diversity in Facesにおける私たちの目標は、社会が重要な疑問を投げかけている技術における科学的進歩を促進することです。この情報を利用することで、技術の精度と公平性を高めるという私たちの目標に合致すると表明した研究者にのみ情報を提供しました。」
しかし、バイアスへの対処だけでは、悪意ある利用の問題は解決しません。「AIにおけるバイアスの議論でしばしば見落とされるのは、たとえバイアスを完全に排除できたとしても（実際には不可能ですが）、顔認識が人々の生活に与える影響という点で、問題が軽減されるわけではないということです」と、AIスタートアップ企業Clarifaiの元アノテーション責任者、リズ・オサリバン氏は述べています。®
