米国の議員らは、ディープフェイクの増加に対処するため、米国のハイテク企業に対する包括的な法的保護、具体的には、ユーザーが投稿したコンテンツの影響からインターネット大手を守る保護を再検討する可能性があると警告した。
木曜日に行われた下院情報委員会の公聴会では、あまりにも本物らしく、捏造だと見抜くのが難しいほどデジタル加工された映像の問題が取り上げられました。こうした悪意を持って加工された動画は、ディープラーニング（深層学習）ソフトウェアを用いていることから、「ディープフェイク」と呼ばれることが多いです。
法律と人工知能の専門家からなる委員会は下院委員会に対し、こうした動画の主な発信源であるFacebook、Instagram、YouTubeなどの反社会的メディアネットワークは、通信品位法第230条により、こうした有害な偽動画に関する法的責任を一切免除されていると述べた。
専門家の一人、メリーランド大学フランシス・キング・ケアリー法科大学院のダニエル・シトロン教授は、230条を改正し、Facebookのような企業に法的保護を維持するために「合理的なコンテンツ・モデレーション」を義務付けるべきだと主張した。そして、少なくとも一人の議員、委員会委員長のアダム・シフ議員（カリフォルニア州民主党）は、この考えに前向きな姿勢を示した。
参考までに：有名人の顔を使って本物そっくりな偽のポルノ動画を生成するAIアプリが登場
続きを読む
230条は、一定の規則と注意事項を遵守することを条件として、ウェブサイトをユーザー投稿コンテンツに起因するあらゆる法的措置から保護するものです。テクノロジー企業は長年、この条項を神聖視しており、訴訟の洪水を招くことを懸念し、改正に強く反対するロビー活動を展開してきました。この条項が提供する包括的な法的保護は、Twitter、Facebook、eBayといったオンラインプラットフォームやWikipediaのような情報サイトの台頭に大きく貢献した一方で、テクノロジー大手企業が深刻な問題に対処することを阻んできました。
ディープフェイク問題は最近、ナンシー・ペロシ下院議長の音声が不明瞭に見えるように加工された動画がFacebookに投稿されたことをきっかけに、政治的な論争を巻き起こしました。この動画はドナルド・トランプ大統領が宣伝したもので、Facebookに動画の削除を求める声が上がりましたが、この巨大テック企業はこれを拒否しました。
これに対し、ある広告代理店はフェイスブックのCEO、マーク・ザッカーバーグ氏がフェイスブック傘下のインスタグラムで同社が保有するデータで何ができるかについて一連の不穏な発言をするディープフェイクを制作し、事実上フェイスブックに介入を挑発している。
より大きな問題
しかし、ディープフェイクの問題は安易な攻撃や宣伝活動よりも重大であり、政治やビジネスを含む幅広い分野に深刻かつ危険な影響を及ぼす可能性があると、今朝の議会公聴会で明らかになった。
公聴会では、IPO発表時などに株価を混乱させる意図でCEOが発言する偽の動画、あるいは大統領候補の名誉を毀損する偽の動画が検討された。専門家委員会は、こうした行為は民主主義制度やメディアに対する国民の信頼を損なう可能性があると警告した。
そして、彼にしかできない方法でこの渦中に飛び込み、ドナルド・トランプ氏は今週、次期アメリカ大統領選における外国からの介入、ひいては外国製のディープフェイクを歓迎すると述べた。彼はABCニュースに対し、「もし誰かがノルウェーのような国から電話をかけてきて、『あなたの対立候補に関する情報を持っています』と言ったら、聞いてみたいと思うでしょう。聞くことに何の問題もありません」と語った。
彼はまた、FBIにそのような外国からの介入を報告しない可能性もあると述べた。「これは干渉ではありません。彼らは情報を持っているので、報告すると思います。何かおかしいと思ったら、FBIに行くかもしれません。しかし、誰かが『敵対勢力の調査』を持ち出したら、そうでしょう？『ああ、FBIに電話しよう』となるでしょう。」
これらの発言は、特にFacebookのようなプラットフォームがディープフェイクを削除しないと決定したことで、政治的な緊張を高めている。専門家は、トランプ氏の発言とFacebookの姿勢は、ロシアのような外国政府による偽映像の作成と選挙への介入を事実上招き入れているに等しいと警告している。しかも、その明確な道筋も示されている。
昨年、シフ議員をはじめとする議員たちは、ディープフェイクに対して何らかの連邦政府による措置が必要だと述べていたが、実際にはほとんど何も起こっていないようだ。2020年の大統領選が迫る中、また過去の選挙に介入しようとした動きが広く記録されていることを踏まえ、議員たちは外国による干渉を制限する方法を模索している。
そのため、第230条の包括的な保護が標的となる可能性が高い。もし同条が改正され、Facebookのような組織（あるいはあえて言えばパブリッシャー）に「合理的なコンテンツモデレーション」を義務付ければ、立法者の視点からすれば、偽造動画の影響は限定的なものになる可能性がある。
幸せではない
テクノロジー大手の視点から見れば、これは莫大な賠償責任を負うことになり、何十億ものユーザーが著作権を侵害するコンテンツを投稿したり再投稿したりしないようにするために膨大なリソースが必要になる可能性がある。
230条は一度だけ適用対象となったことがある。Backpage.comの運営者が性的人身売買広告の削除を拒否し、賠償責任保護の陰に隠れた時である。これに対し、数ヶ月にわたる変更の試みが失敗に終わった後、議員たちはその保護を撤廃する新たな法律を制定した。
当時、インターネット界の巨人たちは、この問題が国民の支持をほとんど得られない、あるいは全く得られないテーマだと考え、ロビー活動の力をフルに使うことを控えたが、最も重要なのは、議員たちの支持を得て、テクノロジー大手への規制を求める声がより高まるのを避けるためだった。
しかし、Google、Facebook、Amazonなどの企業にさらなる説明責任を強いる勢いは、現時点では止められないようだ。Facebookがペロシ下院議長の改ざんされた動画の削除を拒否したことは、オンラインプラットフォームがより広範な公共の利益のために行動するよう、第230条を改正すべきだという声をさらに高めるだろう。
AIで作成された動画のような特定の事柄について法律を制定するのは非常に困難になるため、議員らは、常に新しい法律を書かなくても済むように、「合理的なコンテンツ管理」に沿ったより広範な文言を求めるかもしれない。
これまでのところ、シリコンバレーから、セクション230に基づくコンテンツモデレーションの義務化というアイデアに対して明確な反応は出ていません。しかし、彼らの気持ちがわからないわけではありません。彼らはこのアイデアを嫌っているのです。®
