オンラインのディープフェイクはわずか9ヶ月で倍増し、政治家を怖がらせ、私たちを騙している

AIアルゴリズムによって生成される偽造コンテンツであるディープフェイクが増加しており、改ざんされたポルノ、政治指導者の偽のビデオ、ボットアカウントなどでインターネットが汚染されている。

機械学習による偽造動画の検出ソフトウェアの開発に特化したスタートアップ企業Deeptraceが発表したレポート[PDF]によると、現在ネット上には14,678本のディープフェイク動画が投稿されている。この数は過去9ヶ月間で7,964本だったものが、現在の数字に至り、100%増加している。

それらのほとんど、実に96%がポルノであることは驚くべきことではありません。ディープフェイクが初めて話題になったのは、インターネット上の変態たちがこの技術を使って、成人向け動画でポルノスターの顔を有名人にすり替え始めた昨年1月のことでした。

不気味な人たちが、お気に入りのポップスターや女優の偽動画を交換したり、自分だけのオリジナルポルノ動画の作り方のヒントを共有したりし始めました。こうした恐ろしい作品を生成するためのコードはすべてGitHubなどのリポジトリで公開されていたため、少しの技術的知識と適切な学習データがあれば、それほど難しくありませんでした。GitHubはDeepNudeの模倣作品の削除に取り組んでいます。

1年以上経ち、今ではさらに簡単になりました。DeepNudeのようなコンピュータアプリケーションを使えば、ユーザーは数回クリックするだけで自分のヌード画像を偽造できます。ソフトウェアエンジンに画像を与えるだけで、裸の体に貼り付けられます。DeepNudeの開発陣は、広く批判された際にコードを撤回しましたが、ダメージは既に及んでいました。

DeepNudeの開発者たちは、WindowsおよびLinuxデスクトップユーザー向けに、プレミアムライセンスとしてソフトウェアを1本50ドルで販売していました。その後、一部の開発者は、金儲けを狙って、他の悪徳業者にアプリを転売していました。

報告書ではまた、カスタムのディープフェイクの作成を支援する広告を掲載しているインターネット マーケットプレイスも発見され、被害者の声を複製して音声クリップで実際には言っていないことを言わせるのに最高 30 ドル、もっと単純な偽のテキストなら 10 ドルを要求している。

これらの卑猥なフェイク動画は、ディープフェイク専門のポルノサイト上位4社で、なんと1億3,436万4,438回もの再生回数を記録しています。しかも、なんとその100%が女性をターゲットにしているのです。

しかし、ポルノではないディープフェイクコンテンツはわずか4%ですが、その61%は男性を主人公としています。これらの動画には通常、ハリウッド俳優や政治指導者、時にはIT企業のCEOが登場します。

最大の懸念の一つは、この技術が政治的不和を招き、選挙に悪影響を及ぼす可能性があることです。ディープフェイク動画は既にガボンとマレーシアを揺るがしています。ガボンのアリー・ボンゴ大統領の姿は緊張感がありぎこちなく、その信憑性に疑問を呈する声が上がりました。また、この動画はガボン軍によるクーデター未遂事件のさなか、大統領が身を潜めていた時期に公開されました。政府はボンゴ大統領の健康問題を隠蔽していると非難されました。

マレーシアでは、アズミン・アリ経済大臣がライバルの政治顧問と同性愛行為に及ぶ様子が映し出されました。マレーシアでは同性愛行為は違法です。アリ氏はこの動画が自身のキャリアを台無しにするために作られたディープフェイクだと非難しています。

それだけではありません。TwitterやLinkedInの偽ボットアカウントも、ディープフェイク画像をプロフィール写真に使用してインターネット上に拡散しています。中でも特に有名なのは、メイジー・キンズリーとケイティ・ジョーンズを名乗るアカウントです。キンズリーはブルームバーグのジャーナリストを名乗り、テスラの空売り筋に接触しようとしていました。一方、ジョーンズはシンクタンクの研究員で、政府関係者へのスパイ活動を目的としていました。

AI研究者たちは、ディープフェイクを見抜くための機械学習アルゴリズムの開発に躍起になっています。しかし、多くの場合、判断は依然として推測に頼っています。イヤリングがずれていたり、ぼやけたシワがあったりと、何かが変に見えたら、それはディープフェイクかもしれません。

「ディープフェイクをめぐる開発のスピードは、状況が絶えず変化していることを意味し、脅威が急速に顕在化し、規模と影響が増大しています。これらの新たな課題に立ち向かう準備を整えることが不可欠です。今こそ行動を起こす時です」と報告書は結論づけています。®

追記：米国カリフォルニア州は、「選挙の60日以内に、政治候補者の行動や発言について悪意を持って誤った印象を与えることを目的とした、操作されたビデオや画像の配布を禁止する」法律を承認したと、州議会議員マーク・バーマン氏（民主党）は述べている。