真夜中、83歳の女性は電話を受けた。警察官を名乗る発信者は、彼女の孫（名前は判明している）が刑務所に入ったと怒りを込めて報告してきた。運転中にテキストメッセージを送っていた際に警察官にひき逃げしたという。
警官は保釈金として4,000ドルをすぐに支払う必要があると言った。
老婦人は電話を切ったが、再び電話が鳴り、警官は孫と話せると言った。孫は電話に出て、祖母に保釈金を懇願していた。彼女は、冷酷な性格だからではなく、何かが「おかしい」と感じたから、保釈金は払わないと言った。
その時、孫の弁護士を名乗る男性が電話に出て、「この事件は必要ない。他に10件あるんだ！」と叫んだ。しかし祖母は保釈金は払わないと譲らず、電話は切れた。
孫に連絡を取り、すべてが仕組まれた詐欺だったと知るまで、彼女はそう時間はかからなかった。詐欺師たちの細かな情報収集は、奇妙なほど新鮮だった。彼らはこの女性を探し出し、電話番号を入手し、そしてどういうわけか彼女の孫の名前と、彼が数マイル離れた別の町に住んでいることを突き止めたのだ。
Facebookからそれらの個人情報をすべて入手できるだろうか？おそらく無理だろう。しかし、このソーシャルシェアリングサイトで十分な個人情報を見つけるのはそれほど難しくないだろう。他の公開データベースをくまなく調べ、ほぼ完全な家族構成を作り上げるのは、比較的容易な作業になるだろう。名前、住所、電話番号。真夜中に老婦人を騙すのに必要な情報はすべて揃っている。
嗅覚テストに合格するほどの性能ではなかったという事実は、現在の技術水準というよりも、詐欺師たちの能力を物語っている。ここ数ヶ月、「ディープフェイク」動画、つまり有名人の顔をポルノ映画に合成した動画に関する報道が数多くあった。こうしたディープフェイクの背後にある技術、つまりコンピュータービジョンと機械学習アルゴリズムは、かなり以前から公開されており、その技術は広く普及しているため、かつては骨の折れる高度な専門技術を必要としたような偽造が、今ではコマンドラインツールを駆使するだけで行えるようになっている。
Adobe VoCo - スピーチのためのディープフェイク
ディープフェイクが動画に及ぼす影響と同じく、Adobe VoCo（同社の「音声用Photoshop」）は音声にも影響を与えます。十分な長さの音声サンプル（例えば、豊富なソース素材を提供するバラク・オバマ氏）を入力すれば、どんな発言者でも、無数の任意の発言を生成できます。オバマ氏に何でも言わせることも可能です。
こんにちは |FNAME|、これはオバマボットDrupalチャットモジュールです
続きを読む
詐欺師たちが孫の声のサンプルを入手していたらどうなるか想像してみてください。祖母が孫の声の模造品に話しかけると、孫は祖母を信じ込ませ、金を払わせるような適切な声色で応答したはずです。
これらすべては、私たちの「個人情報」に関する大きな気づきの瞬間を示しています。Google Home、Amazon Alexa、Apple HomePodなど、音声制御可能なデバイスが今や飛ぶように売れており、十分な長さの音声サンプルを録音して武器化し、私たちに不利に利用することは容易になっています。もちろん、大手企業は家庭内での会話が家庭内に留まるようあらゆる適切な措置を講じるでしょうが、音声が新たなインターフェースとなることで、私たちを大規模に録音する機会はすでに飛躍的に増加しています。
私たちは、自分の発言を慎重に守り、他人の言葉を信じる前に非常に慎重にならなければならない時代へと近づいています。近い将来、安全を守るために特別な配慮が必要な人が、音声アシスタントと話す際に、100年前に「階下」のスタッフとコミュニケーションを取る際に使用していたであろうレジスターと似たようなレジスターを使用するようになるかもしれません。
これは誰にとっても悪い方針ではありません。深度センサー付きのスマートフォンカメラで顔を捉えられ、マイク付きのほぼすべてのインターネット接続デバイスで音声を録音できるようになった今、私たちはどのように偽装するかを考える必要があります。偽装者を出し抜くことはできるでしょう。少なくとも、偽装の試みから学ぶことはできるはずです。
これから先、「これは本当なのか？」という疑問は、特にとんでもないことが起きた時、つまりアメリカ大統領のロシアのコンプロマートであれ、ちょっとした派手な科学であれ、どんな些細なことでもつきまとうだろう。ファルコン・ヘビーが軌道に乗った後、プログラマーのベンノ・ライスがツイートしたように、「ロケット打ち上げの偽装がかなり上手くなったな」と。®
