マイクロソフトの顔認識技術、青白い白人以外の人物も識別可能に

マイクロソフトは顔認識技術を改良し、白人男性以外の人間をより正確に識別できるようにした。

本日の画期的な発表では、「肌の色の違いによる性別の認識に関するシステムの能力が大幅に向上する」と約束されているが、その発表は、レドモンドが非倫理的とみなすいかなる目的にもこの技術は使用されないという保証をCEOのサティア・ナデラ氏が従業員に文書で伝えてから1週間後に行われた。

このシステムは、写真から顔を抽出し、外見から年齢、性別、笑顔、頭の姿勢、ひげなどを描写し、顔写真のデータベースから特定の人物を識別するために使用できる。

マイクロソフトの社員は、以前のブログ記事で、マイクロソフトは米国移民関税執行局（ICE）がAzureでホストされた機械学習技術を利用することを喜んで許可したと述べていたが、心配する必要はなかった。結局のところ、このソフトウェアは男性で、しかも白人でなければうまく機能しなかった。ICEは今のところ、まさにそのような人々に対しては問題視していないようだ。

ロンドン警視庁が採用した同様の技術は、正しく顔が一致したのは無実の人々のたった2人だけで、このシステムを使用して逮捕された人は一人もいなかったという報告書で批判を浴びた。

マイクロソフト社は、市販の顔認識技術は、青白い肌の白人男性以外の人物を識別するのにはあまり適しておらず、肌の色が濃い女性を識別するのに最も苦労すると述べた。

しかし、自社のクラウドベースの顔認識技術に関しては、状況は好転しつつある。機械学習モデルの学習に用いるデータセットの変更により、マイクロソフトは肌の色が濃い男女の識別エラー率を「最大20分の1」まで削減することに成功した。

チームがトレーニングセットを拡張する前の認識率がどの程度だったのか、そして現在の認識率がどの程度なのかについては、一切明らかにされていません。The RegisterはMicrosoftにさらに正確な数値を求めたところ、広報担当者は謝罪しつつも「ブログ記事に記載されている以上の詳細はお伝えできません」と回答しました。

マイクロソフト社に「最大 20 倍」の意味をもっと具体的に説明するよう求めたところ、この Windows 大手は「これはエラー率の改善の尺度だが、具体的なエラー率は公表していない」と回答した。

出発点が分からなければ、実際にどれほどの改善があるのか​​を見極めることは困難です。結局のところ、根本的な問題はよく知られています。AIの性能は、学習に使用したデータの品質に左右されます。マイクロソフトのシニアリサーチャー、ハンナ・ウォラック氏は次のように説明しています。

偏った社会で行われた決定を、その社会によって生成されたデータを使用して模倣するように機械学習システムをトレーニングする場合、それらのシステムは必然的にその社会の偏りを再現することになります。

チームはトレーニングデータセットを拡張しただけでなく、肌の色、年齢、性別に焦点を当てた追加データを収集し、最終的に分類器を微調整して結果を改善したと伝えられています。マイクロソフトの認知サービスチームのプリンシパルプログラムマネージャーであるコーネリア・カラプセア氏は、結果として得られたデータセットは「肌の色を問わず、説明責任を果たすことができました」と述べています。

この技術は、Azureサービス経由でFace APIにアクセスできる顧客が利用可能で、ネットユーザーは写真をアップロードして、システムが顔認識をどの程度正確に処理しているかを確認できます。El Regは実際に試用してみましたが、やや精度が低いと感じました。

しかし、ICE が従来の電子メール以外で Microsoft と何かを行う場合、認識を向上させるものに非常に興味を持つ可能性があります。®