ディープフェイク動画を楽しめる中国のZaoアプリを試してみたくなりましたか？プライバシーを守りたいなら、やめておきましょう。

中国のモバイルアプリ「Zao」は、AIベースの不思議な顔交換技術によりインターネットで旋風を巻き起こした。映画やテレビ番組の有名俳優の上にネットユーザーの顔を自動的に素早く描くことができるのだが、そのコードには秘密の仕掛けがある。

レオナルド・ディカプリオやマリリン・モンローといった俳優の体に自分の顔を貼り付け、有名なシーンに登場させるというアプリ生成の動画クリップを、ファンたちが共有している。これはなかなか面白い話だ。しかし、Twitterではエリオット・アルダーソンという名前で活動するフランス人セキュリティ研究者、バティスト・ロベール氏は、このソフトウェアがコンピューター生成した動画クリップをバックエンドのクラウドに保存していることを発見した。動画がアプリから削除された後、あるいはユーザーがアプリ自体を削除した後でも、正しいURLさえあれば誰でもオンライン上でアクセスできるのだ。

つまり、ディープフェイク クリップを作成すると、正しい URL を知っている人なら誰でもそれを閲覧でき、削除することはできないようです。

「自分の顔を適当なアプリにアップロードするのは危険です」とロバート氏は火曜日にThe Register紙に語った。「一度顔写真をアップロードしたら、それに関する権利は失われます。自分の顔がどのように使われるか、全く予想もつかないのです。」

ロバートは、アメリカのシットコム『ビッグバン★セオリー』の登場人物シェルドン・クーパーの体に自分の顔を映した動画クリップを生成するために、自分の写真を1枚アップロードした。アプリ内で動画を削除した後、その動画がZaoのバックエンドシステムからまだオンラインで公開されていることに気づいた。

昨日、#ZAOアプリのおかげで、シェルドン・クーパーに自分の顔を載せた動画を作成しました。今朝、アプリから動画を削除しました（「マイ作品」タブにはもう表示されません）。

なんと！#ZAOはあなたの動画を削除しません。動画はまだオンラインでご覧いただけます：https://t.co/sQJf7cknOw pic.twitter.com/p3Jw96OjWk

— エリオット・アルダーソン (@fs0c131y) 2019年9月3日

Zaoは金曜日のリリース後、中国のiOSアプリストアで瞬く間に人気アプリとなり、最も人気のあるアプリとなった。ユーザーはアプリをダウンロードする際に、携帯電話番号やWeChatのハンドルネームといった個人情報を入力する必要がある。WeChatは中国で広く利用されているスマートフォンアプリで、ソーシャルメディアと決済プラットフォームとして機能している。

中国の老舗ソーシャルメディアプラットフォームであるWeiboの公式アカウントに投稿された声明では、ネットユーザーがアプリをスマートフォンから削除した場合、個人データはすべて削除されると述べられていた。しかし、ロバートがアプリを削除したにもかかわらず、彼のディープフェイク動画は依然としてオンライン上に公開されており、誰でも視聴できる状態となっている。

それだけではありません。Zaoのプライバシーポリシーを簡単に翻訳すると、さらに懸念すべき慣行が明らかになります。国家安全保障、公共の利益、進行中の犯罪捜査に関連する場合、個人情報は同意なしに収集されると明記されています。アプリを使用することで、賭けをする人はデバイス情報、位置情報、そしてオンライン閲覧履歴も提供することに同意することになります。

プライバシーに関する懸念を引き起こしたAIアプリはZaoだけではありません。ロシアのスマートフォンアプリ「FaceApp」は、ユーザーを実年齢よりはるかに老けて見せるフィルターを使って偽の画像を作成し、ユーザーが投稿した自撮り写真を大量に保存していたようです。®