米国大統領選挙が近づく中、過去1週間は嘘や誤報、不満を煽ろうとする国家主導の取り組みが憂慮すべきほど急増した。
最も顕著な例としては、ソーシャルメディアを通じて加工された動画が拡散され、公開されたことが挙げられる。その中には、民主党候補のジョー・バイデン氏がインタビュー中に眠っているように見える動画や、同じくジョー・バイデン氏とのジャーナリストのインタビューに言葉を追加して、全く異なる文脈を与えた動画などがある。
そして、何百もの若い黒人男性が所有しているとされるツイッターアカウントがあり、彼らは皆、まったく同時に、まったく同じ言葉で、なぜ民主党から共和党に乗り換えることにしたのかを説明することにした。
しかし、政治プロセスの腐敗や、主流派政治家が嘘や誤情報を拡散しようとする姿勢に絶望して手を挙げる必要はありません。ここに、情報のスーパーヒーロー、恐れを知らぬ戦士、真実を守るテクノロジーの守護者が現れたのです！そう、マイクロソフトが民主主義のために立ち上がったのです！全ては救われました！
まあ、理論上はね。
「本日、偽情報に対抗するための2つの新技術を発表します」と、同社は火曜日のブログ投稿で発表した。「Microsoft Video Authenticatorを発表します。」
ところで、この気の利いたタイトルの技術とは一体何なのでしょうか？「Video Authenticatorは静止画や動画を分析し、そのメディアが人為的に操作されている確率、つまり信頼度スコアを提供します。動画の場合は、再生中の各フレームでリアルタイムにこの確率を提供します。ディープフェイクのブレンド境界や、人間の目には判別できない可能性のある微妙なフェードやグレースケール要素を検出することで機能します。」
データセットと一致
それだけでは十分ではない。これはAI（そう、人工知能）を使って構築されたのだ。AIが完璧に機能することは誰もが知っている。「Video Authenticatorは、Face Forensic++の公開データセットを使用して作成され、ディープフェイク検出技術のトレーニングとテストにおける主要なモデルであるDeepFake Detection Challenge Datasetでテストされました」とMicrosoftは明らかにしている。
なるほど、ディープフェイクの問題はこれで解決ですね。他に何かありますか？ えっと、マイクロソフトって何ですか？
ディープフェイクから私たちを救ってくれるのは誰でしょうか？他のAIでしょうか？人間でしょうか？それとも、超知能を持つ多次元の存在でしょうか？
続きを読む
「あらゆるAI検出方法には失敗率があるため、検出方法をすり抜けるディープフェイクを理解し、対応できるように準備しておく必要があります。」すり抜ける？ Windows Vistaを開発した企業が担当しているのに、どうやってすり抜けるというのか？
「合成メディアを生成する手法は今後もますます洗練されていくと予想されます」と報告書は指摘している。「したがって、長期的には、ニュース記事やその他のメディアの真正性を維持し、証明するためのより強力な手法を模索する必要があります。現在、読者がオンラインで目にするメディアが信頼できる情報源からのものであり、改ざんされていないことを保証できるツールはほとんどありません。」
すごい、みんなの時間を無駄にしてしまった。でもちょっと待って、サティア・ナデラが背中に手を突っ込んでいるのが見えるんだけど…あれ、何？
「本日、私たちは操作されたコンテンツを検知し、視聴者が視聴しているメディアが本物であることを保証できる新しいテクノロジーも発表します。」
それで、これはどうやって機能するんですか？そして、一体どんなにつまらない名前をつけたんですか？「この技術は2つのコンポーネントから構成されています。1つ目は、Microsoft Azureに組み込まれたツールで、コンテンツ制作者がコンテンツにデジタルハッシュと証明書を追加できるようにします。」
なるほど、この話の意図が分かったような気がします…「2つ目は、ブラウザ拡張機能やその他の形で存在するリーダーです。証明書をチェックしてハッシュを照合し、コンテンツが本物で変更されていないことを高い精度で知らせ、誰が作成したかという詳細情報も提供します。」
壁に囲まれた庭園へお越しください
なるほど。つまり、誰もが動画のフィンガープリンティングにMicrosoftのソフトウェアを使い、それ以外の人もMicrosoftのブラウザ拡張機能か何かで動画を読み込むプログラムを追加すれば、動画操作に終止符を打てるということですね。素晴らしいですね。
しかし、これは新しく改良されたマイクロソフトなので、ユーザーを自分たちの世界に閉じ込めようとしつつも、少しは正直になるだろう。「偽情報や有害なディープフェイクと戦う上で、単一の組織だけでは意味のある影響を与えることはできないでしょう。
「私たちはできる限りの支援をしますが、この課題の性質上、複数のテクノロジーを広く導入すること、あらゆる地域の消費者に一貫して教育活動を行うこと、そして課題の進展に合わせて私たちがさらに学び続けることが必要です。」
そして、マイクロソフトが私たちの技術に関わるすべてを管理しているわけではないという事実に対処するため、同社はAI FoundationおよびそのReality Defender 2020（RD2020）イニシアチブと「提携」し、「報道機関や政治キャンペーンを含む民主的なプロセスに関与する組織にVideo Authenticatorを提供する」ことを決定しました。
どこで入手できるのでしょうか？「Video Authenticatorは当初、RD2020を通じてのみ利用可能になります。RD2020では、あらゆるディープフェイク検出技術に固有の限界と倫理的考慮事項について組織をガイドします。」
マイクロソフトがスター・ウォーズのR2D2を安易に引用すらしなかったことに気づかずにはいられません。まさにそこにありましたよ、皆さん。
また、BBC、CBC、ニューヨーク・タイムズなどと「提携」し、「当社の真正性技術をテストし、広く採用できる標準として発展させる」ことを目指しています。これは素晴らしいことであり、マイクロソフトには拍手を送ります。しかし、正直に言って、Fox NewsとFacebookが協力してくれるまでは、私たちは虚空に向かって叫び続けるしかないでしょう。®
