偽のAI生成ポルノはRedditやPornhubなどのサイトで禁止されているが、他のサイトでは有名人の顔をポルノ女優の体に載せる行為は問題ないとしている。
このようなビデオは、誰の顔の特徴も学習し、それをビデオ内の身体にマッピングできるニューラル ネットワーク テクノロジーによって可能になりました。
Redditは、この技術をポルノに応用する上で主導的な役割を果たしたようだ。このサイトには、Deepfakeappというメンバーが作成したサブレディット「r/deepfakes」があり、機械学習の知識があまりない人でも簡単に自分だけのアダルトファンタジー映画を作成できるようにデスクトップアプリを開発した。
このアプリは、別のRedditユーザーであるDeepfakeが作成したアルゴリズムに基づいており、Deepfakeは2017年12月にその結果の一部を公開した。
参考までに：有名人の顔を使って本物そっくりな偽のポルノ動画を生成するAIアプリが登場
続きを読む
Redditはその後、ルールを更新し、「未成年者を巻き込んだ強制的なポルノや性的または示唆的なコンテンツ」を禁止したが、これはr/deepfakesとr/deepfakeappの両方の終焉を意味した。
しかし、この禁止措置の効果は限定的だ。本稿執筆時点では、Pornhub（非常に NSFW なサイト -編集者注）で「ディープフェイク」を検索すると、大量の不快なビデオが出てくる。
Pornhubはマザーボードに対し、そのようなコンテンツを禁止した理由について「サイト上でいかなる合意のないコンテンツも容認しない」とし、「合意のないコンテンツは当社の利用規約（TOS）に直接違反しており、リベンジポルノ、ディープフェイク、または個人の同意や許可なく公開されたあらゆるコンテンツが含まれます」と述べた。
広報担当者はThe Registerに対し、今回の禁止措置は「サイト上の他の形式の非合意コンテンツへの対処方法と似た方法で」実施していると説明した。
Pornhubでフラグが付けられたコンテンツは、利用規約に違反していると判断し次第、削除いたします。合意のないコンテンツのフラグ付けについては、コンテンツが合意のないものであると判断した本人またはその法定代理人が、フォームを使用してコンテンツの削除を要請し、アップロードに異議を唱えていない旨を明記してください。
しかし、この対応は問題の一部である。なぜなら、誰かがそのようなビデオにフラグを立ててくれることに頼るだけでは、人々がさらに多くのビデオを作成し、インターネットにアップロードすることを阻止することはできないからだ。
ディープフェイクを喜んで掲載するサイトも存在します。その一つであるEroMeは、「エロい写真やポルノ動画を共有するのに最適な場所」と自称しています。同社の担当者はEl Regに対し、ディープフェイクには何の問題もなく、「パロディ」として捉えていると述べました。
調査の結果、deepfakes.ccというサイトも見つかりました。これは、完成した動画を公開したり、カスタマイズされたフェイクポルノの制作依頼を投稿したり、技術サポートを依頼したりできるフォーラムを提供しています。登録メンバーは2,000人を超え、裏でモネロをマイニングしているところを目撃されたこともあります。
間違いなく、こうしたものを、楽しみのため、あるいは金儲けのためにホストしている人は他にもたくさんいるでしょう。
動機が何であれ、ディープフェイクを暴露しようとするサイトの存在は、AI に責任がないことを示しています。テクノロジーが何を可能にしようとも、それを活用するのは人間なのです。®
