控えめなメイクでも顔認識を妨害できる

サイバー防衛請負業者ピープルテックの研究者らは、顔認識アルゴリズムが顔の特定の領域に焦点を当てることで、より巧妙な監視回避戦略が可能になることを発見した。

「新しい AI カメラ カモフラージュ: 完全な変装を伴わない顔クローキング」と題されたプレプリント論文の中で、主任科学者の David Noever 氏とデータ サイエンティストの Forrest McKee 氏は、最小限のメイクアップの適用と画像ファイルの操作によって顔認識システムを混乱させる取り組みについて説明しています。

ノーバー氏とマッキー氏は、顔認識システムに対して提案されてきたさまざまな防御策について詳述している。その中には、高コントラストのメイクアップを使用して非対称性を作り出す CV Dazzle、アルゴリズムを混乱させる敵対的攻撃グラフィック、顎と頬の検出を不明瞭にする Juggalo メイクアップなどがある。

そしてもちろん、マスクもあります。マスクはシンプルであるという利点があり、使用されている顔認識アルゴリズムに関係なく、かなり効果的である傾向があります。

しかし、著者らが指摘するように、これらの技術は注目を集めています。

「CVダズル、敵対的パッチ、ジャガロメイクなどのこれまでの取り組みは、顔検出を妨害するために大胆でコントラストの高い修正に依存していましたが、これらのアプローチには2つの重大な制限があります。その劇的な目立つため、人間の観察者に簡単に認識されてしまうことと、堅牢なキーポイントモデルでトレーニングされた最新の顔検出器に対処できないことです」と彼らは書いています。

「対照的に、この研究は、顔認識を効果的に妨害することは、明白な変装に固有の視認性の問題を引き起こすことなく、高密度のキーポイント領域（眉のライン、鼻梁、顎の輪郭など）を微妙に暗くすることによって達成できることを実証しています。」

この研究は、機械学習における物体検出に使用されるハールカスケード分類器を欺くために最小限のメイクを施すことと、人間の観察者には顔が見えるようにしながらも、BetaFaceAPI や Microsoft Bing Visual Search などの特定の逆画像検索システムからは顔を隠す方法でアルファ透明レイヤーを操作して画像ファイル内の顔を隠すことという 2 つの領域に焦点を当てています。

ノーバー氏は、ザ・レジスター紙との電話インタビューで、顔認識は重大なリスクを伴う、非常に危険な問題であると語った。

「偏見から群衆のカウント、交通の動きを利用して実行できるあらゆる有用なことまで、AI のあらゆる良い面と悪い面が引き出されます」と彼は語った。

• 警察は顔認識技術を好み、その使用に関する情報を裁判所から隠蔽している
• 顔認識技術は米国の法律を上回っているが、連邦政府が追いつくことは期待できない
• このアプリは、テキストから画像へのAIモデルがアーティストを騙すのを阻止できる可能性がある
• AIエンジンがあなたの写真をスクレイピングして顔認識するのにうんざりしていませんか？これをやっつける方法があります

「必ずしも注目を集めることなく、認識アルゴリズムを体系的に攻撃できる」と彼は述べ、それがストライサンド効果を回避する方法を提供すると付け加えた。「匿名性を求めた瞬間、匿名性を引き寄せてしまうのだ」

ノーバー氏は、AIと顔認識の良し悪しについては立場を表明していない。論文では、有益な用途と有害な用途があることを認めているからだ。彼の会社に関しては、「私たちは多くの技術評価業務を請け負っているので、これはむしろ家事の承認印のようなものだ」と説明した。「このアルゴリズムが期待通りの働きをするという確信をどうやって得られるのか？」

しかし、全体として、この種のテクノロジーは慎重に扱う必要があると彼は主張する。「最近のニューヨークの路上殺人事件を見ればわかるでしょう。あの犯人捜しは、ソーシャルメディアから画像が収集されるため、ほぼ全員が警察の顔認証ラインアップに強制的に並べられるという状況に依存していました。これは善のためには非常に役立つ技術であると同時に、非常に危険なものです。AIと顔認識の組み合わせはまさにパンドラの箱です。ですから、私たちは慎重に扱う必要があります。」

多くの研究にもかかわらず、マスクはこれらのシステムを回避する数少ない確実な方法の1つであり続けている（今のところ）。

デューク大学の電気・コンピュータ工学助教授で、グレイズやフォークスのような顔認識対策プロジェクトに携わってきたエミリー・ウェンガー氏は、レジスター紙への電子メールで、顔認識やAIに対する技術的防御は課題に直面していると語った。

「数年前、私と同僚数名がこの分野を分類した論文を書きました」と彼女は説明した。「私たちの主な結論は、(1) 顔認識システムの『セットアップ』段階、例えばデータ収集や参照データベースの作成といった手法が十分に研究されていないこと、(2) この問題には根本的な情報の非対称性があり、システムを回避しようとする人々を不利な立場に追い込むという点です。」

「システムがどこで動作しているか、基盤となる機械学習/AIモデルは何か、あるいは自分が参照データベースの一部であるかどうかがわからなければ、マスクを着用する以外に確実に回避できる選択肢はほとんど残されていない」

ウェンガー氏は、マスクは着用が簡単で、COVID-19パンデミックを受けてより受け入れられるようになったため、現在は実用的であると述べた。

「多くの研究が行われているにもかかわらず、マスクは（今のところ）これらのシステムを回避する数少ない確実な方法の一つです」と彼女は述べた。「しかし、歩行認証は非常に強力になりつつあり、顔認証に取って代わるかどうかも不透明です。この技術に対する実用的かつ効果的な回避戦略を想像するのは困難です。」®