マイクロソフト、アドビ、その他の大手企業は今週、AI 生成画像にメタデータを追加し、将来の対応アプリが特別なシンボルを使用してそれらの画像が機械で作成されたものであることを示すようにすると約束した。
これについて、AI透かしのようなものだと説明されている記事をいくつか目にしたことがあるかもしれません。私たちは詳しく調べてみました。
「透明性のアイコン」と説明されるこのシンボルは、吹き出しのようなスピーチマークの中に小文字の「cr」を描いています。
これは、テクノロジーやジャーナリズムを含む様々な業界の組織からなる「コンテンツの出所と真正性のための連合（C2PA）」によって作成されました。C2PAは約2年前から存在し、Adobe、Arm、Intel、Microsoft、Truepicが主導しています。C2PAは、画像内のメタデータによって、その画像の出所と編集履歴をデジタル的に安全に証明する方法を詳細に規定しています。従来の画像メタデータ以外にも代替アプローチは存在しますが、C2PAは上記の大手企業が推進するアプローチを提供しています。
実際、C2PAのコンテンツ認証メタデータは、どんな写真にも使用できます。AIで生成されたものである必要はありません。コンテンツ認証のウェブサイトに掲載されている例は、AdobeのPhotoshopとFirefly AIツールを使って作成されたもので、メタデータからそのように識別できます。Microsoft、Adobe、その他の企業は、将来的に、自社のAIジェネレーターが、この暗号署名されたメタデータを機械で作成された写真に含めることを約束しています。その目標は、写真がモデルによるものか人間によるものか、そしてどのように生成されたものかを見分ける方法を提供することです。
たとえば、マイクロソフトは、テキストを画像に変換する Bing Image Creator と Bing AI チャットボットによって作成されたアートワークに、いずれそのメタデータが取り入れられる予定だと述べた。
さて、ここからが厄介な部分です。仕様が安全で堅牢であると仮定した場合です。画像にメタデータを保存するのは簡単ですが、ユーザーはファイルの内容を詳しく調べることなく、どうやってそのメタデータを見つけるのでしょうか？
そうですね、コンテンツ認証情報メタデータを理解できる互換性のあるアプリケーションが必要です。ファイル内のデータを認識するアプリケーションは、画像の上隅に「cr」記号を重ねて表示します。この記号をクリックすると、画像の出典やコンテンツ認証情報メタデータの詳細情報（例えば、BingやPhotoshopで作成されたかどうかなど）を示すウィジェットが表示されます。
これにより、スナップの出所を簡単に調べることができます。ただし、コンテンツ認証情報に対応していないアプリケーションでファイルを開いた場合、シンボルは表示されません。アプリケーションはデータを理解できず、シンボルも表示されません。
前述のContent Credentialsのウェブサイトを見れば、その意味がお分かりいただけるでしょう。ウェブサイトを開いて、AIが生成した蝶の例までスクロールダウンしてください。このウェブページには、画像のメタデータを解析できるアプリケーションで、この画像がどのように表示されるかが示されています。上隅にシンボルが表示され、クリックまたはタップすると、「AI生成」であることを示すラベルが表示されます。ラベルを開かない状態では、画像は次のようになります。
コンテンツ認証情報 Web サイトでその蝶の画像を右クリックしてディスクに保存し、今日 Chrome などで開くと、次のようになります。
単なる画像で、シンボルはありません。ChromeはAI生成スナップに含まれるコンテンツ認証情報メタデータを認識しておらず、そもそもオーバーレイするアイコンも持っていません。コンテンツ認証情報の確認ページにアクセスし、ダウンロードした蝶の画像をドロップすると、AdobeのFirefly 1.0 AIスイートで作成されたことが分かります。
この技術（その仕様は詳細かつ印象的です）は、アプリケーションがメタデータを理解し、サポートすることを前提としています。そうでなければ、シンボルは表示されません。さらに、誰かがメタデータを削除したり、メタデータなしでファイルを別の形式にエクスポートしたり、シンボルをオーバーレイしないアプリケーションからスクリーンショットを撮って、メタデータのない画像を配布したりすることも可能です。削除された画像を、コンテンツ認証情報を理解するアプリで開いた場合、シンボルは表示されません。
つまり、コンテンツ認証情報を追加・読み取ることができるアプリ、ソーシャルネットワーク、ジェネレーターなどが必要なだけでなく、人々がアイコンを認識し、それを見分けられるようにする必要があります。受け取ったり見たりした写真にコンテンツ認証情報のアイコンが付いていないと、不信感を抱く可能性があります。これを効果的に実現するには、非常に高いブランド認知度が必要です。
また、コンテンツ認証情報のメタデータを削除するのを阻止するために、これらの画像に透かしを隠すステガノグラフィーやその他の手段が使われていることも認識していません。
とはいえ、Adobe はコンテンツ認証クラウドがあると言っていましたが、その仕組みは次のようになります。画像ファイルのメタデータを Adobe のクラウドにアップロードします。その後、ファイルの 1 つが識別メタデータなしで誰かに共有された場合、スナップを配布するために使用されているものは何でも、Adobe のクラウドで画像を実行し、視覚的に一致する場合はメタデータを復元できます。
Googleの逆画像検索のようなものを想像してみてください。元のメタデータが返されます。そうすれば、誰かがあなたの写真をウェブやアプリに投稿しようとして、すべてがうまくいったとしても、たとえ投稿前にメタデータが失われていたとしても、写真の出所は明らかです。コンテンツ認証情報クラウドから復元できるのです。
「デジタルコンテンツがコンテンツ認証情報で署名されると（C2PAオープン標準とコンテンツ認証情報を活用したプラットフォームで）、改ざん防止メタデータが添付されるため、コンテンツがどこに移動してもメタデータがコンテンツと共に残ります」とAdobeの広報担当者はThe Registerに語った。
「コンテンツのライフサイクルのどの時点でも、その情報が悪意を持って、または誤って削除された場合でも、Content Credentials Cloud を介して回復できます。」
少なくともAdobeはそれを考慮しました。ですから、人々にこのシンボルを認識させ、アプリケーションでこのシンボルをサポートさせ、アーティストや制作者にAdobeのクラウドにメタデータを提供し、オンラインパブリッシャー、ソーシャルネットワーク、その他のコンテンツホストがAdobeのクラウドに接続し、不足しているコンテンツ認証情報のメタデータを復元して、メタデータのない画像を識別できるようにする必要があります。ふぅ！
また、画像に対応できるアプリがまだ手元にない場合は、互換性のあるメタデータ ビューアまたは上記のコンテンツ資格情報検証ツールを使用して、自分で画像を確認することもできます。
- マイクロソフト、OpenAIのテキスト画像変換DALL-E 3をBingに導入
- 皆さん、ご心配なく。大手テック企業は安全で信頼できる生成AIを構築すると誓っています。
- AdobeのAIツールは美しい絵を描くかもしれないが、かなりの費用がかかる。
「Bing Image Creator で AI が生成した画像はすべて、コンテンツ認証情報を使用して識別されます」と、Microsoft の広報担当者はThe Registerに語った。「画像の横にコンテンツ認証情報が表示されている場合、ユーザーは目に見えないデジタル透かしを通して、元の画像の日時をすぐに確認できます。」
このプロセスは作成プロセス中に自動的に行われ、C2PAの技術要件に基づいています。アイコンは、消費者がコンテンツを簡単に認識できるようにするためのものです。Bing Image Creatorの場合、アイコンは年末までに導入され、「コンテンツ認証情報」という文字の横に表示される予定です。
フランスのPR・広告会社であるパブリシス・グループなどの他の組織も、Adobeと共同でコンテンツ認証メタデータを将来どのように活用していくかをプレビューする予定です。一方、カメラメーカーのライカカメラとニコンも、この仕様が将来の機器でどのように活用され、写真の出所を写真に埋め込むのかをデモンストレーションする予定です。
善意
このメタデータによって、ブランドや企業は、広告やマーケティングキャンペーンにおける合成画像の使用について、少なくとも透明性を保つことが容易になる可能性があると、同団体は述べている。ただし、企業がその情報開示に同意する場合に限られる。アドビのコンテンツ・オーセンティシティ・イニシアチブ（CAI）シニアディレクター、アンディ・パーソンズ氏は、付随する情報ウィジェットはユーザーにとって「デジタル栄養成分表示ラベル」のような役割を果たすと述べた。
「歴史を通じて、視覚的な図像はコミュニケーションと文化の強力な象徴として機能してきた」と彼は語った。
公式コンテンツ認証情報（Content Credentials）の『透明性の象徴』が、オンライン上の文化を超えて普遍的な標準となり、期待される存在となる可能性に、私たちは大変興奮しています。この新たなデジタル世界において、信頼が基本原則となることに貢献してくれるでしょう。今後も、Adobe製品およびソリューション全体にコンテンツ認証情報と新しいアイコンを組み込んでいくことを楽しみにしています。
確かに正しい方向への一歩と言えるかもしれませんが、このアイコンはインターネット上のコンテンツを認証し、AIによる偽物と本物を見分けるための万能ソリューションとなるには程遠いものです。今のところ導入は約束されたに過ぎず、ごく少数の、しかし非常に有名な企業によるサポートに限られています。そして、前述の通り、このアイコンが効果を発揮するには、生成AI開発者、ソーシャルメディア、アプリ開発者、パブリッシャーなど、より多くのプラットフォームのサポートが必要です。®
