分析米下院の情報委員会は木曜日、ディープフェイクと呼ばれるコンピューターで作成された動画に関する初の公聴会を開催し、AI、社会政策、法律の各分野の専門家に質問した。
これらのディープフェイク動画は通常、ディープラーニングソフトウェアによって生成され、視聴者を騙して、実際には言っていないことを誰かが言ったと思わせるものです。2020年のアメリカ大統領選挙を前に、民主主義を揺るがす可能性のあるコンテンツです。
1月、変態Redditユーザーが、AIアルゴリズムによって成人女優の顔を人気ハリウッドスターの顔に差し替えたポルノ映画の卑猥なクリップをオンラインで交換し始めたことで、ディープフェイクに対するパニックが一夜にして世間に広がった。
さらに、ニューラル ネットワークを使用して、元恋人や同僚、片思いの相手を成人向け映画に貼り付ける方法についてのヒントを求める人が出てくるなど、事態はさらに奇妙になってきました。
Reddit は最終的に、改ざんされた動画が最初に共有された /r/deepfakes フォーラムを閉鎖しましたが、問題は解決しました。ソース コード、ハウツー ガイド、アプリケーションが次々と登場し、十分なトレーニング データと時間があれば、誰でも独自のディープフェイクを作成できるようになりました。
インターネット上で動画が拡散され、技術の進歩に伴い、作品の質も向上しました。芸術的なものもあれば、ユーモラスなものもありました。しかし、ナンシー・ペロシ下院議長（カリフォルニア州選出、民主党）の演説中に、ペロシ氏が酔っ払っているように音声が不明瞭な加工動画がFacebookで拡散された際、実際に笑った人はいませんでした。AIによる加工動画ではありませんでしたが、デジタル加工された映像の威力を改めて証明しました。
実際、情報委員会のアダム・シフ委員長（カリフォルニア州民主党）は公聴会を主導し、ペロシ議長の動画はディープフェイクが政治に及ぼす影響を如実に示していると主張した。政治指導者の偽造動画を視聴した人々は、騙されて嘘を信じてしまう可能性がある。それは人々の判断や投票行動に影響を与える可能性がある。外国の敵対勢力がディープフェイクを作成し、流布して国の国益を阻害する可能性があることを考えると、民主主義への攻撃はさらに脅威となる。
ペロシ氏の動画は実際にはディープフェイクではないことを強調しておくべきだろう。この動画の制作には機械学習アルゴリズムは使われていないため、「チープフェイク」と呼ばれている。しかし、AIは今後、こうした改ざん手法をさらに強化し、改良していくだろう。
サンフランシスコを拠点とする汎用人工知能研究機関OpenAIの政策ディレクター、ジャック・クラーク氏は議員委員会に対し、最近の偽デジタルコンテンツの急増の主な原動力はソフトウェアとハードウェアの改善と入手可能性の向上だと語った。
最新のAIアルゴリズム、少なくとも科学者やエンジニアによって開発されたものは、オープンソースであることが多く、強力なCPUやGPUをクラウドプラットフォームでレンタルできるため、ディープラーニングの専門知識を必要とせずにディープフェイクを簡単に作成できます。現在、ディープフェイクは「人の声を合成したり、動画で人物になりすましたり、オンライン上で他人のように聞こえるようにテキストを書いたりして、人に言っていないことを言わせたり、実際にはしていないことをさせたり」できると、元レジスター紙のジャーナリストであるクラーク氏は述べています。
ディープフェイク攻撃の被害者は政治家だけではない。メリーランド大学法学部のダニエル・シトロン教授は、公聴会で、インド在住のジャーナリスト、ラナ・アユブ氏が標的となった事例を説明した。極右の荒らしが彼女の顔をポルノ動画に貼り付け、WhatsAppなどのソーシャルメディアやメッセージングプラットフォームで拡散したのだ。その後、彼女の個人情報がオンラインに投稿されると、レイプ脅迫の嵐に見舞われた。最終的に、彼女は自身の身の安全を恐れ、数ヶ月間インターネットから身を引いた。
ディープフェイクの力は、その拡散の容易さと衝撃性にあります。「人間は見聞きしたものに騙されやすく、信じたものは共有しがちです。わいせつなものほど、私たちはそれを広めます。挑発的なディープフェイクは共有されるでしょう」とシトロン氏は言います。
ディープフェイクは癌のように広がる
Twitter、Facebook、YouTube、Instagramなどの反社会的ネットワークは、ノイズを増幅させるだけです。ユーザーは、投稿がもたらす潜在的な害について考えることなく、簡単に「いいね！」やコメント、シェアをするように操作されてしまいます。絶え間なく情報が氾濫する状況では、ソーシャルメディアのバイラル性を抑制することは困難です。
バッファロー大学人工知能研究所の教授、デビッド・ドーマン氏は簡潔にこうまとめた。「嘘は真実が靴を履く前に地球を半周も旅することがある」とドーマン氏は委員会に語った。ディープフェイクは簡単に共有できるため、簡単に拡散する可能性があり、拡散がそれほど瞬時に起こる必要はないとドーマン氏は付け加えた。
彼は、この問題はソーシャルメディアプラットフォームと個人自身によって解決されるべきだと確信している。人々には悪質なコンテンツをフラグ付けして報告するための適切なツールが提供されるべきであり、そして、これら全てを実現している巨大テック企業はディープフェイクを検知し、自動的にフィルタリングできる能力を持つ必要がある。「動画を削除しなくても、警告ラベルを表示する必要があります。ソーシャルメディアプラットフォームに対し、プラットフォームがどのように利用されているかを認識させるよう、引き続き圧力をかけていく必要があります」と彼は述べた。
Facebookはディープフェイクを撲滅しない？それなら、ユーザーが投稿したコンテンツから守る貴重な法的保護を剥奪しよう。
続きを読む
外交政策研究所の著名な研究員、クリント・ワッツ氏は、モデレーターは拡散している動画を注意深く監視すべきだと述べた。「動画を確認し、ファクトチェッカーに渡すべきだ。もしディープフェイクであれば、格下げし、ニュースフィードで宣伝すべきではない」
ペロシ氏の安っぽいフェイク動画は、少なくともソーシャルメディアプラットフォームがこうしたコンテンツに対してどのように反応するかを明らかにした。Facebookは動画を残し、YouTubeは削除を選択した。シトロン氏は動画を削除することが正しい判断だと考え、「ディープフェイクを自動的にフィルタリングしてブロックする能力はまだないため、プラットフォームにはデフォルトの法律があるべきだ」と付け加えた。
しかし、Facebook、Twitter、YouTube、Instagramなどのシステムを通じて配信されるコンテンツについて、法的責任を問うことは困難です。なぜなら、これらのシステムは米国通信品位法第230条の保護を受けているからです。第230条は、「インタラクティブ・コンピュータ・サービスのプロバイダーまたはユーザーは、他の情報コンテンツプロバイダーが提供する情報の発行者または発言者として扱われてはならない」と規定しています。シトロン氏は、ディープフェイク対策に「特効薬」はないと述べています。法律の改正と市民の行動変容の両方が必要だとしています。
AIは問題ではない
現時点では、ディープフェイクを見抜くのは比較的容易です。画像や動画のクオリティはまだ完璧ではありませんが、中にはかなり説得力のあるものもあります。敵対者が作成した偽コンテンツを暴き続ける戦いは、まるで猫とネズミの追いかけっこのようだとドーマン氏は言います。「この問題はなくなることはないでしょう」
もちろん、フェイクニュースや嘘は昔から存在しており、ディープフェイク自体に目新しい点は何もありません。むしろ今回は、その拡散の規模の大きさが特に懸念されるところです。「AIは原因ではなく、単なる促進剤です。そして、その進化のペースは驚くべきものです」とクラーク氏は結論付けました。
下のビデオプレーヤーで公聴会を再生できます...®
YouTubeビデオ
