水曜日、ディープフェイクと呼ばれるリアルなコンピューター生成メディアに対する防衛に資金を提供する米国の法案が米上院で承認され、現在、同法案は米下院での審議を待っている。
昨年、キャサリン・コルテス・マスト上院議員（ネバダ州民主党）とジェリー・モラン上院議員（カンザス州共和党）によって提出された「生成的敵対ネットワークの出力の特定に関する法案（IOGAN 法）」は、欺瞞、嫌がらせ、または誤報の目的で使用できる本物そっくりの偽造品を検出し、防御するための研究を促進することを目的としています。
すでにそのような事態が起きています。例えば、セキュリティ企業のSensityは先月、メッセージングプラットフォーム「Telegram」上でディープフェイクを作成するボットに関するレポートを発表しました。このボットは、ソーシャルメディアに投稿された数十万もの女性の画像を盗み取り、被写体が裸に見えるように加工していました。Sensityによると、これらの画像は、世間を貶めたり、恐喝したりする攻撃に利用される可能性があるとのことです。
また、議会調査局は、外国の諜報機関が情報源を集めるためにソーシャルメディアアカウントにディープフェイク写真を使用していたという証拠があると主張している。
この問題は数年前から米国の議員の間で懸念事項となっており、2019年には公聴会が開かれ、ディープフェイクの取り締まりを怠ったオンラインサービスに責任を問うとの脅しも出た。
Facebookの50万ドルのディープフェイク検出AIコンテスト劇：優勝チームは同意に関する技術的な問題で失格
続きを読む
この法案（S.2904）は、米国立科学財団に「操作または合成されたコンテンツと情報の信憑性」、具体的にはディープフェイクなどの敵対的生成ネットワーク（GAN）として知られるAIシステムによって生成されたコンテンツに関する研究を支援するよう指示している。
また、米国国立標準技術研究所（NIST）に対して、ディープフェイクを測定および評価する方法の開発と、検出された合成または操作されたコンテンツに焦点を当てた官民パートナーシップの調査を義務付けている。
Amazon、Facebook、Microsoft などの企業や学術機関は、すでに Deepfake Detection Challenge などの取り組みを通じて関連研究を行っています。
フェイスブックは1月、パロディや風刺とみなされるものを除き、「誤解を招くような操作されたメディア」の削除をサポートするためにポリシーを改訂したと発表した。
米国国防高等研究計画局（DARPA）は、メディアフォレンジック（MediFor）とセマンティックフォレンジック（SemaFor）という2つのプログラムを進めています。議会調査局（CRS）[PDF]によると、前者は「写真や動画の完全性を自動的に評価し、偽造コンテンツがどのように生成されたかに関する情報をアナリストに提供する」アルゴリズムの開発を目指しています。
2 つ目は、「さまざまな種類のディープフェイクを自動的に検出し、属性を特定し、特徴付ける (つまり、無害か悪意があるかを識別する)」アルゴリズムの開発に重点を置いています。
ジョージア工科大学の研究者が参加する関連プロジェクトもあります。彼らは、GAN研究のための実際の機密情報に関連する、機密性のない合成データを生成するアルゴリズムの開発に取り組んでいます。これにより、科学者はプライバシーの問題を回避しながらGANを分析・テストできるようになります。
議会予算局は、S.2904が下院（HR4355）で承認され、大統領が署名した場合、2020年から2025年の期間に600万ドルの費用がかかると見積もっています。®
