GitHub は、写真に写っている女性の衣服を剥ぎ取って偽の裸の写真を生成する悪名高い AI 搭載アプリ「DeepNude」の部分的な設計図を含むリポジトリを削除しました。
これらのデコンパイルされたPythonソースコードの断片は、ソフトウェアの内部動作を明らかにしており、数週間前に短期間配布・販売されたDeepNudeアプリケーションのコピーから生成されました。この資料は現在削除されているGitHubリポジトリに配置されており、デコンパイルされたアルゴリズムとアプリのニューラルネットワークモデルをガイドとして、DeepNudeの新しい亜種を作成することを奨励しているようです。
また、DeepNude ベースのソースコードが含まれているために GitHub から削除されたリポジトリはこれだけではありません。
これらの削除は、ゲーマーやオタクに人気のマルチユーザーチャットシステムであるDiscordが、DeepNudeソフトウェアの販売または共有を行っている複数のサーバーインスタンスを禁止したことを受けて行われたものです。Discordは、チャットサーバー上でこのアプリを探したり、配布に協力したりしたユーザーも禁止したようです。
The Registerが有料ソフトウェアのクラック版の拡散を調査するために（正直に言ってジャーナリズム上の理由から）使用していた Discord アカウントが、今週の月曜日の夜に終了された。
「Discordはコミュニティのために安全で安心な環境を維持することに注力しており、あなたのアカウントは利用規約とコミュニティガイドラインに違反しているとしてDiscordコミュニティによってフラグが付けられました」と、私たちのアカウントがダメになったことを知らせるDiscordからのメールには書かれていた。
弊社チームは申し立て内容を確認し、アカウントを無効化する措置を講じました。お客様のアカウントは、合意のないポルノ画像を直接投稿していたか、そのようなコンテンツ専用のサーバーに接続していました。
El RegはDiscordに対し、今回の取り締まりに関する詳細を問い合わせた。このチャットシステム企業は以前、サーバーまたはユーザーによる利用規約違反の報告があれば調査中であると述べていた。
「合意のないポルノは、特定次第、サーバーを即時停止し、ユーザーを追放する」と同社は警告した。DeepNudeが生成する、服を着た女性の自撮り写真からデジタル的に想像された裸の女性の画像は、合意のないポルノの一種である。
憤慨
DeepNudeをめぐる騒動は先月、怪しげな開発者グループがWindowsとLinux向けのデスクトップアプリ、そしてAndroid版を開発していたことが発覚したことから始まった。このツールを入手すれば、誰でも女性の裸の姿を覗き見ることができるのだ。無料版と有料版の両方がダウンロード可能だった。
このアプリを使うのにディープラーニングの知識は必要ありません。露出度の高い女性の写真を読み込むだけで、自動的に同じ画像が、服の部分がその下に隠れている可能性のあるもの、いや、ニューラルネットワークの推測に置き換えられて表示されます。このアプリは、様々な服装の女性のポルノ写真数千枚で学習されているため、照明やフレーミングによってはうまく機能することもあります。
この女性蔑視的な怪物が拡散し、インターネットが怒りで爆発すると、作成者はすぐにウェブサイトからアプリケーションを削除し、使用とコピーをやめるよう人々に懇願し、何も起こらなかったかのようにふるまおうとした。
DeepNudeが削除：AI写真アプリが女性の服を脱がせて裸にしていた。今やウェブ上から削除された
続きを読む
しかし、時すでに遅しでした。ソフトウェアのプレミアムビルドはクラックされ、ファイル共有ネットワークやDiscordサーバーを通じて転売または配布されました。コンピューターサイエンスのオタクたちはコードのリバースエンジニアリングにも挑戦し、前述の通り、アルゴリズムとデコンパイルされたソースコードをGitHubなどのサイトに投稿し、他の変質者たちに利用させました。
最終的に、誰かがGitHubにこれらのリポジトリが不適切であると報告し、GitHubは「性的にわいせつ」であるという理由で速やかに削除しました。GitHubの広報担当者は昨夜、 The Register宛てのメールで次のように述べています。「GitHubを利用して性的にわいせつなコンテンツを投稿することは容認しません。利用規約およびコミュニティガイドラインにおいて、そのような行為は禁止されています。」
Microsoft が所有する GitHub の利用規定には、「いかなる状況においても、ユーザーは性的にわいせつなコンテンツである、または性的にわいせつなコンテンツを含むコンテンツをリポジトリにアップロード、投稿、ホスト、または送信してはならない」と記載されています。
オープンソースコード寮は、スタッフがGitHubでホストされているプロジェクトを手作業で調べてDeepNudeの実装を探すのではなく、発見した悪質なものを開発者に報告してもらっていると主張している。
「ユーザー生成コンテンツを積極的に監視しているわけではありませんが、不正使用の報告については積極的に調査しています。今回のケースでは、GitHubの利用規定に違反していると判断したため、プロジェクトを無効化しました」とGitHubの広報担当者は述べています。
The Register は、GitHub 上で DeepNude 関連のリポジトリを一時期複数発見したため、特にモグラ叩きのように頻繁に出現する場合は、すべてを根絶するのは難しいかもしれない。
「プロジェクトごとの報告書の数は公表していません」と広報担当者は付け加えた。®
