偽りの潔癖症：カトリック大学のAIボットが裸の女にビキニを塗るよう教える

NSFW（不適切な投稿） SNSなどのサイトでヌード画像を自動的に検出し、禁止するために、人工知能（AI）ソフトウェアがますます活用されるようになっています。しかし、今日のアルゴリズムやモデルは、わいせつな投稿を完璧に検出できるわけではなく、コンテンツのモデレーションの多くは依然として人間によって行われています。

代替案として、AIを使って写真に魔法のようにビキニを描き、女性のいやらしい部分を隠してしまうという方法があります。ブラジルのリオグランデ・ド・スルにあるポンティフィカ・カトリック大学の研究者グループは、生成的敵対的ネットワーク（GAR）にまさにこの操作を実行させ、ヌードを自動的に検閲する訓練を行いました。

今月初めにリオデジャネイロで開催されたIEEE国際ニューラルネットワーク合同会議（IJCNN）で発表された論文で、このAI研究者たちはその成果の一部を発表しました。ところが、彼らのAIコードにはかなりのばらつきがあるようです。コンピューターで描かれたビキニは、リアルさが欠けているものもあり、片側が不揃いだったり、露出度が高すぎたり、肌を十分に覆うための位置が適切でなかったりする例もありました。

現時点では、このプロジェクトは概念実証の段階に過ぎません。論文の共著者であるロドリゴ・バロス氏は木曜日、The Register紙に対し、「私たちの論文で説明したアプローチは、画像検閲を行う上で興味深く斬新な方法です。ヌード検閲に関する私たちのアプローチは、現状では、まだ十分に堅牢ではないため、実用化には至らないと考えています」と述べました。

バロス氏によると、研究者たちは「トレントファイル経由の画像パック」から写真をダウンロードすることでデータセットをまとめた。2,000枚以上の画像が収集され、そのうち1,965枚がトレーニングに使用され、残りの220枚がモデルのテストに使用された。

ビキニがどのようなものかを学ぶため、水着を着た女性の写真をシステムに入力しました。水着をどこに貼り付けるべきかを判断するために、ソフトウェアはヌード写真も読み込む必要がありました。これらの写真セットを活用することで、ソフトウェアは画像から画像への翻訳機能を持つようになりました。

ほら、これを着て

「ネットワークを訓練する際、ある領域（ヌード写真）のデータを別の領域（水着写真）にマッピングする方法を学習しようとします。両領域の画像の分布は全く異なります」とバロス氏は説明した。

システムはビキニを再現し、他の画像に貼り付けることにのみ関心があるため、服を着た状態と裸の状態のスナップ間で肌の色、体型、顔が大きく異なっていても問題ありません。ただし、生成された水着は常に完璧というわけではありません。システムはトレーニングデータの周囲のピクセルも考慮するため、最終的なレンダリングではノイズとして認識されてしまうからです。

「特に気づいたのは、水着画像のいくつかは白い背景で撮影された写真撮影用の写真であるのに対し、ヌード画像の背景は往々にして非常に複雑であるということです」とバロス氏は述べた。「そのため、ネットワークは各ドメインの『背景の種類』を暗黙的に関連付ける学習をします。そのため、翻訳の際に背景が大きく乱れることがよくあります。」

基本的に、モデルに女性の裸の写真が与えられた場合、生成ネットワークは自動的にビキニを着用するはずです。生成ネットワークは、生成ネットワークが吐き出した画像が本物かどうかを判別する別の識別ネットワークを用いて学習されます。学習中に両方のネットワークが時間をかけて競い合うことで、生成ネットワークは識別ネットワークをうまく騙せるレベルまで向上していきます。

ここまでは順調です。しかし、この技術は逆方向にも応用できる可能性があります。開発者は理論上、同じコードを使ってビキニ部分を消し、胸の代わりに乳首を生成することも可能でしょう。

「学習が完了したら、領域Y（水着写真）から領域X（ヌード写真）にマッピングするモデルは安全に破棄し、関心のあるモデルだけを残すことができます」とバロス氏は述べた。「衣服を脱ぐことは決して当初の目的ではなく、手法の副作用に過ぎず、いずれにせよ破棄されることを強調しておきたいと思います。」

こういったものが悪者の手に渡らないことを祈りましょう。ディープフェイクを覚えていますか?

チームは、インターネットを子供にとってより安全な場所にするためにシステムを継続的に改善し、将来的にはブラウザ アプリケーションとして実装したいと考えています。®