無料で入手できる機械学習ソフトウェアを使えば、有名人、政治家、子供、あるいはほとんど誰の顔でも、成人向け映画に登場するポルノスターの顔に貼り付けることができる。
出来上がった映画は本物らしく見え、悪意のある人物が金持ちや有名人から権力者、元パートナーに至るまでの人々を、動くビデオ映像の中で非常に不利で信じられそうな立場に置くことを効果的に可能にしている。
このソフトウェアには、ハリウッド映画に出演するために自分の顔を大ヒット映画のキャラクターの頭に貼り付けるといった無害な使用例もありますが、恐喝、恥辱、嫌がらせの可能性は驚くほど高いです。
こうした非常に有害な偽造動画を作成するプロセスは、ありがたいことに簡単ではありませんが、不可能ではありません。必要なのは、FakeAppというデスクトッププログラムというソフトウェアと、アプリのディープラーニングニューラルネットワークを学習させるための大量の被害者の写真、顔を貼り付けるための動画、そして出力に信憑性を持たせるためのちょっとした調整だけです。
悪意ある人々がディープフェイク技術について議論できるRedditの掲示板「/r/deepfakes」が2ヶ月前に登場し、1万7000人以上のフォロワーを獲得した。そこでは、変態たちがアリソン・ブリー、スカーレット・ヨハンソン、テイラー・スウィフトといった女性たちのフェイクポルノを投稿し、ヒントやコツを交換している。
これはAIで加工されたFakeAppの動画から取られた、説得力のある静止画だ。ポルノスターの体に歌手ケイティ・ペリーの顔が乗っている。RedditユーザーのDaFakirが2回も試して作ったらしい。
このサブレディットは、Deepfakesという名のRedditユーザーによって作成されました。彼はFakeAppの中核となる機械学習アルゴリズムを開発しました。このプログラムは、Deepfakeappという別の人物によって構築・パッケージ化されており、この人物はチャットボードで偽の動画を作成するためのコードと手順を配布しています。Deepfakeappは自分たちはDeepfakesではないと述べていますが、このプロジェクトでは両者がある程度協力していたようです。
このソフトウェアは、顔交換アルゴリズムに基づいています。ディープラーニングニューラルネットワークは、静止画の動画フレーム内の人物の顔（例えば、ブルーレイ映画のアダルト女優）を識別し、別の人物の顔（例えば、テレビタレントや歌手）と交換するようにトレーニングされます。これを毎秒30フレームまたは60フレームで繰り返すと、AIによって加工された動画が完成します。
たとえば、この職場で視聴可能なビデオでは、アプリが『スター・ウォーズ』の女優デイジー・リドリーの画像を他人の体に貼り付けています。
これまでのところ、悪者のほとんどは、女性セレブの顔をお気に入りのポルノスターにマッピングするためにこの技術を利用してきました。それ自体がすでに非常に恐ろしいことですが、児童ポルノやリベンジポルノの作成に利用されることを誰が止められるでしょうか？被害者のビデオ（テレビ番組、映画、ホームビデオなど）を切り取って加工すれば、モデルを学習させるのに十分なフレームが生成されます。
アクセス可能
しかし、こうした道徳的なジレンマはディープフェイクアプリの抑止力にはなっていない。彼らは、強力なAI技術がますます利用しやすくなるにつれて、このようなコードが公に現れることを想定している。そして、この技術は善にも悪にも利用されるだろう。
「結局のところ、良くも悪くも、このツールを使って誰かがやりたいことをするのを止めるのは不可能で、残念ながら、それは一部の人がそれを悪用することになるだろうということを意味している」と開発者は水曜日にThe Registerに語った。
「しかし、コミュニティはこれまで通り、今後も概ねこれを利用して創造的、革新的、そして前向きな作品を作り続けるだろうと私は楽観視しています。」
しかし、なぜ悪用されることが明らかなWindowsデスクトップアプリを作ったのだろうか？「この驚異的な顔交換技術を、必ずしも技術的な知識を持たないユーザーにも広めたいからです」とDeepfakeappは答えた。
必要なのは、プログラムのニューラル ネットワークをトレーニングするための Nvidia GPU、TensorFlow コードを実行するための Nvidia の CUDA ソフトウェア、そしてデータと結果を保存するための PC 上の約 3 ～ 4 GB のスペースだけです。
これを使いこなすのにAIの達人である必要はありません。コーディングに煩わされる必要もほとんどないからです。プログラムのドキュメントには、「このアプリは、Pythonなどの依存関係をインストールしたり、コードを解析したりすることなく、ユーザーがディープフェイク作成パイプライン全体（トレーニングデータの作成、モデルのトレーニング、そしてそのモデルを使ったフェイクの作成）を実行できるようにすることを目的としています」と記載されています。
ただし、目的のターゲットの画像を何百、何千も収集し、アルゴリズムのトレーニングが完了するまで数時間待つのは、かなりの変質者でなければなりません。
しかし、インターネットには気持ち悪い人がうようよしている。自分の結果を投稿したり、顔のぼかしを少なくする方法や眉毛を整える方法などについてアドバイスを求めるスレッドが無数に立っている。
Redditユーザーのyu78156853は明らかにアルゴリズムのトレーニングに十分な時間を費やしていない...これは下手に偽造されたビデオの例です
全体的に見て、かなり説得力のある結果が得られました。DeepfakeappはEl Regに対し、あるユーザーがキャリー・フィッシャーの顔を別の俳優の頭に貼り付けることができたと語り、その精度はハリウッドのアーティストが『スター・ウォーズ ローグ・ワン』で行ったよりも優れていたと語りました。
ディープフェイクとディープフェイクアプリの活動は、Viceのサマンサ・コールによって初めて発見されました。今週、フェイクアプリを発見した彼女は、その実態を的確にまとめました。「私たちは本当に困った状況です。今や誰もがAI生成のフェイクポルノを作っているのです。」®
