フェイスブックは、偽情報の拡散を取り締まるため、機械学習アルゴリズムによって操作されたと思われる偽の動画の少なくとも一部を削除すると誓った。
このような偽造コンテンツの作成に用いられるAI技術、すなわち生成的敵対的ネットワーク（GAN）は、過去5年間で急速に進歩してきました。2014年に導入されたGANは、当初はデジタルアートの作成など、比較的無害な用途に使用されていました。しかし、悪意のある人物が、このニューラルネットワークを訓練して、動画内の人物の顔を自動的に別の人物の体に貼り付けることができることに気づいたことで、その邪悪な側面が露呈しました。例えば、女優がハードコアなアダルト映画に自動で挿入されたり、政治家が危険な状況に巻き込まれたりといったことが考えられます。
いわゆるディープフェイクは、人々が実際には言っていないことやしていないことを言ったり、したりしているように見せかけます。ディープフェイクは時とともにより説得力を持つようになり、この技術が今後の選挙に影響を与えるために武器として利用されるのではないかと懸念する声が上がっています。
Facebookは現在、AIによって生成されたディープフェイクに対抗するため、ポリシーを更新しました。機械学習アルゴリズムを用いて編集され、人々を騙して架空の状況を信じ込ませるほどリアルな動画は、この反社会的プラットフォームから削除されるとのことです。
ディープフェイク、量子コンピューターによる暗号解読、ランサムウェア…アメリカを本当に怖がらせているものは何なのか？
続きを読む
この禁止措置は、パロディや風刺とみなされる加工動画や、発言内容の省略や順序の変更といった改変が加えられた動画には適用されません。この基準に従えば、ナンシー・ペロシ下院議長（カリフォルニア州民主党）の悪意ある編集動画は削除されません。この動画では、ペロシ議長の発言は単にスローダウンされており、高度なAIアルゴリズムを用いた加工は施されていないため、削除されません。新ポリシーでは、この動画は誤解を招くものとしてフラグ付けされることになります。
AI生成のディープフェイク動画を不適切に使用している広告やユーザー投稿は削除されるとのことだが、削除されなかったコンテンツも反社会的ネットワークによって誤解を招くものとしてマークされる可能性がある。
フェイスブックのグローバルポリシー管理担当副社長、モニカ・ビッカート氏は月曜夜、「削除基準を満たさない動画でも、当社の独立した第三者ファクトチェッカーによる審査を受けることは可能です」と述べた。
「写真や動画がファクトチェッカーによって虚偽または一部虚偽と判断された場合、ニュースフィードへの掲載を大幅に削減し、広告として掲載されている場合は拒否します。そして重要なのは、その動画を見た人、シェアしようとした人、あるいは既にシェアした人には、虚偽であることを警告するメッセージが表示されることです。」
機械学習アルゴリズムを用いて偽メディアを生成するのは簡単ですが、同様の技術を用いて偽メディアを検出するのは困難ですが、不可能ではありません。Facebookは最近、ディープフェイクを検出するシステムの構築に1,000万ドル（四半期利益の8時間分強）を投資しました。同社は昨年9月、コンピューター科学者による検出技術の開発を促進するため、「ディープフェイク検出チャレンジ」と呼ばれるコンテストを開始しました。
Facebookが苦慮しているメディアは、フェイク動画だけではありません。先月、同社はGANを用いて生成された偽の人物写真が偽アカウントのフロントラインとして利用されていたことを明らかにしました。その後、FacebookとInstagramで作成された900以上の偽のグループ、ページ、アカウントが削除されました。®
