2人の研究者によると、人間はもはや本物の人間の顔と人工知能が生成した顔の画像の違いを確実に見分けることができないという。
英国ランカスター大学心理学部のソフィー・ナイチンゲール氏とカリフォルニア州バークレー大学電気工学・コンピュータサイエンス学部のハニー・ファリド氏の2人の学者が、実際の写真とAIが合成した画像の両方に対する人間の評価を研究し、もはや誰もその違いを確実に見分けることはできないという結論に至った。
米国科学アカデミー紀要に掲載された研究の一部によると、人間が偽の画像を識別できたのはわずか48.2パーセントだった。
研究の別の段階では、参加者に偽物を見分けるためのトレーニングとフィードバックが与えられました。このグループは59%の確率で本物の人間を見分けることができましたが、その時点で結果は頭打ちになりました。
研究で使用された顔。クリックして拡大
調査の3番目の部分では、参加者に1から7の尺度で顔の「信頼性」を評価してもらいました。偽の顔は本物の顔よりも信頼できると評価されました。
「笑顔は信頼できると評価される可能性が高いが、人間の実際の顔の65.5％と合成顔の58.8％は笑っているため、表情だけでは合成顔がより信頼できると評価される理由を説明できない」と研究者らは記している。
偽の画像は生成的敵対的ネットワーク（GAN）を使用して作成された。GANは機械学習フレームワークの一種で、2つのニューラルネットワークが互いに一種の競争を行い、ネットワークがより良いコンテンツを作成できるようにトレーニングする。
- ファイル拡張子：誰がそれを必要とするのか？この男は必要とした
- ジャーナリストは「ソースを表示」ボタンを押しても起訴されない
- ネットワークルームのビッグバンに注意
- 学校と生徒のデバイスを消去したIT技術者が投獄される
- .NETの20年: Microsoftの非Javaを振り返る
この技術は、ランダムなピクセル配列から始まり、反復的に顔を生成する学習を行います。一方、識別器は、各反復ごとに合成された顔の検出を学習します。識別器が成功した場合、生成器にペナルティを与えます。最終的に、識別器は本物の顔と合成された顔の区別がつかなくなり、そしてなんと、人間も区別がつかなくなるのです。
研究で使用された最終的な画像には、黒人、南アジア人、東アジア人、白人の顔を表現した、実物の顔画像400枚と合成画像400枚という多様なセットが含まれていました。男性と女性の顔も含まれており、これは主に白人男性の顔を使用していた以前の研究とは異なります。
白人の顔の分類精度は最も低く、白人男性の顔の分類精度は白人女性の顔の分類精度よりもさらに低かった。
「白人の顔はStyleGAN2のトレーニングデータセットで過剰に表現されているため、より現実的であり、分類がより難しいと私たちは仮説を立てています」と研究者らは説明した。
科学者たちは、リアルな顔を作ることは成功している一方で、合意のない親密な画像（しばしば「リベンジポルノ」と誤って呼ばれる）、詐欺、偽画像の悪質な利用例としての偽情報キャンペーンといった潜在的な問題も生み出すと述べた。こうした活動は「個人、社会、そして民主主義に深刻な影響を及ぼす」と彼らは記している。
著者らは、こうした技術を開発する者は、メリットがリスクを上回るかどうかを検討すべきであり、もし上回らないのであれば、その技術を開発すべきではないと提言した。大きな欠点を持つ技術が一部の人々にとって魅力的であることを認識した上で、合成メディア技術によって引き起こされる潜在的な危害を軽減するための確立されたガイドラインを含む、安全策の同時開発を推奨したのかもしれない。
現在、ディープフェイクや類似メディアの検出精度向上に向けた取り組みが進められており、ニューラルネットワークで作成された画像を検出できるプロトタイプソフトウェアの開発などがその例です。ミシガン州立大学（MSU）とFacebook AI Research（FAIR）は昨年、共同でディープフェイク画像の作成に使用されたニューラルネットワークのアーキテクチャを示唆する研究を行いました。
しかし、The RegisterはMetaのディープフェイク検証の取り組みを、額面通りに受け取るべきではないと勧告しています。Metaの創設者は、不気味の谷から決して抜け出せない画像を自ら投稿していることで知られており、この研究によって不気味の谷が狭くなったとはいえ、今後も不気味の谷は存在し続けるだろうということを証明しています。®
