OpenAI の生成モデルによって生成された画像には、その出所を明らかにするメタデータが含まれており、アプリケーションはこれを使用することで、そのコンテンツが機械で作成されたものであることを人々に警告することができます。
具体的には、マイクロソフトが推進するこのスーパーラボは、予想通り、Adobe、Arm、マイクロソフト、インテルなどが支援する業界団体であるコンテンツの起源と真正性のための連合 (C2PA) が考案したコンテンツ認証情報仕様を採用しています。
コンテンツ認証情報は非常にシンプルで、ここで詳細に説明されています。標準的なデータ形式を使用して、メディアファイル内に、誰がどのように素材を作成したかに関する詳細情報を保存します。このメタデータはユーザーには直接表示されず、暗号化によって保護されているため、不正な変更は容易に確認できます。
このメタデータをサポートするアプリケーションは、ファイルの内容でこのメタデータを検出すると、そのファイルにコンテンツ認証情報が含まれていることを示す小さな「cr」ロゴをコンテンツ上に表示することが期待されています。このロゴをクリックすると、その情報が含まれたポップアップが開き、AIによって作成されたものであることを示す情報も表示されます。
OpenAIが生成したC2PAの「cr」ロゴが、対応アプリでどのように表示されるか。出典：OpenAI
ここでの考え方は、画面上のコンテンツが AI によって作成されたものかどうかが、理想的には画像エディタから Web ブラウザまで、サポートアプリケーションでコンテンツを表示または編集するユーザーにとってすぐにわかるようにすることです。
AI生成コンテンツが機械によるものとは明らかに異なるレベルにまで進化するにつれ、本物の画像と偽造画像を人々が見分けられるよう支援することが、間違いなくますます重要になるでしょう。専門家は、こうした合成メディアがネットユーザーを欺き、誤情報の拡散や偽情報キャンペーンの支援に利用されることを懸念しています。2024年の米国大統領選挙が近づく中、テクノロジー企業はリスクを最小限に抑えるための取り組みを強化しています。
しかし、コンテンツ認証情報戦略は、以前お伝えしたように、万能ではありません。メタデータは簡単に削除したり、メタデータなしでエクスポートしたり、スクリーンショットから「cr」を切り取ったりできるため、今後どのアプリケーションでも「cr」ロゴが表示されなくなります。また、メディアを作成するアプリやサービス、表示するアプリやサービスが、この仕様をサポートしているかどうかも重要です。
大規模に展開し、普及を促進するには、Adobeが推進している、削除されたメタデータを復元できるクラウドシステムと、ブランド認知度を高めるマーケティングキャンペーンも必要です。いわば、ブランド幅の拡大です。
OpenAI は今週、ChatGPT と DALL-E 3 API の出力に C2PA のコンテンツ認証情報が含まれると発表し、そのことを認めました。
「C2PAのようなメタデータは、出所の問題に対処するための万能薬ではありません」とOpenAIは認めている。「メタデータは、意図的であろうとなかろうと、簡単に削除されてしまう可能性があります。例えば、今日のほとんどのソーシャルメディアプラットフォームは、アップロードされた画像からメタデータを削除しており、スクリーンショットを撮るなどの操作によってもメタデータが削除される可能性があります。したがって、このメタデータが欠落している画像は、ChatGPTまたは当社のAPIで生成されたものである場合もあれば、そうでない場合もあります。」
- Metaは自社のプラットフォーム上で「最先端」のAI検出を試みる - ユーザーにラベルの追加を依頼
- AIによる政治的偽情報は大きな問題だが、これまで以上に対策が困難になっている
- AIアートの透かしはデジタル隠れんぼの無駄なゲーム
- ソニーのカメラ機能はデジタル画像を秘密裏に操作できないようにする
ファイルサイズへの影響について、OpenAIは、DALL-E APIで生成された3.1MBのPNGファイルは、メタデータを含めると約3%（約90KB）増加すると主張しています。一方、287KBのWebPファイルは、90KBのペイロードを含めると約32%増加します。
C2PAは普及が進んでいます。より多くのアプリやサービスがサポートを表明するにつれて、より多くのソフトウェアがC2PAを利用できるようになり、より多くの人々がC2PAを目にすることになり、C2PAは成長を続けています。Metaは今週、業界団体の仕様をサポートするツールを開発していると発表しました。
「出所を確立するためにこれらの方法を採用し、ユーザーにこれらの信号を認識させることが、デジタル情報の信頼性を高める鍵だと考えています」とOpenAIは宣言した。
ウェブ経由の ChatGPT と API 経由の DALL-E 3 モデルには C2PA メタデータが含まれるようになり、モバイル ユーザーは 2 月 12 日までにそれを利用できるようになると言われています。®
