現在も続くイスラエルとハマス間の致命的な紛争をフィクション化した、AIが生成した暴力的な写真は、Adobe社のストック画像ライブラリで販売されているだけでなく、一部のニュース出版社がそれらの写真を購入し、あたかも本物のようにオンライン記事で使用している。
Photoshopの巨人であるAdobeは昨年、機械学習ツールを用いて制作された画像をAdobe Stockライブラリでホスティング・販売すると発表しました。Adobeはこれらのアーティストに、これらの画像から得られる収益の33%を分配します。つまり、クリエイターは画像がライセンス供与されダウンロードされるたびに、33セントから26.40ドルの収益を得ることができることになります。
生成AI技術は進歩し、より身近で使いやすくなりました。誰でも、様々なテキスト画像変換ツールを使ってリアルな画像を作成できます。そして今、これらのツールを使って、ガザ地区におけるイスラエルとハマスの戦争を描いた偽画像を作成し、Adobe Stockで販売している人もいます。
これらの画像は画像ライブラリでは「AI生成」と表示されていますが、ダウンロードされて他のオンラインサイトに投稿された際には、その旨が明示されないことがよくあります。小規模メディアのニュース記事などでは、これらの画像が合成画像であると明示されていなかったと報じられています。これが今後の兆候ではないことを願います。
捏造：ニュース記事で使用されている AI 生成の Adobe Stock 画像 ... クリックして拡大
建物から黒い煙がもくもくと立ち上る様子を描いた「イスラエルとパレスチナの紛争を生成AIで表示する」と題されたAdobe Stockの画像が、あたかも現実であるかのように多数のインターネット記事に掲載されているようだと、オーストラリアのニュースメディアCrikeyが最初に報じた。
Adobe Stock で簡単に検索してみると、空爆、炎上する車両、ガザでの破壊された建物などを描いた、AI が生成した同様の戦争関連の画像が見つかります。
- マイクロソフトとMeta、2024年の選挙における偽情報対策計画の詳細を発表
- WhatsAppのAIはパレスチナ人のチャットステッカーに喜んで銃を追加したが、イスラエル人のものは追加しなかった
- マイクロソフトとアドビが推進する「AI透かし」システムはどのように機能し、機能しないのか
- Adobeが自社のストックフォトプラットフォームでAI生成画像を販売へ
専門家は、AIがオンライン上で偽情報を拡散するために利用されるだろうと繰り返し警告しており、リアルに見える合成コンテンツがインターネット上に投稿・共有されるケースが増えているため、この問題への対処はますます困難になっています。複数の組織が、ネットユーザーが本物と偽物を見分けられるよう、AI生成コンテンツに様々な方法で透かしを入れようとしています。
コンテンツ認証イニシアチブの下、Adobe、Microsoft、BBC、New York Times などのテクノロジーおよびジャーナリズム組織は、ファイルのメタデータを使用して画像のソース（人間または機械学習ソフトウェア）を強調表示するコンテンツ認証情報の実装と推進に取り組んでいます。
ただし、コンテンツ クレデンシャルはまだ実用的な設定では展開されておらず、期待どおりに機能するには、ソーシャル ネットワーク、パブリッシャー、アーティスト、アプリケーション、ブラウザー、生成 AI 開発者の協力が必要です。
「Adobe Stockは、ライセンス申請時にすべての生成AIコンテンツにその旨のラベルを付けることを要求するマーケットプレイスです」とPhotoshop大手の広報担当者はPetaPixelに語った。
これらの特定の画像は、提出され、これらの要件に従ってライセンスが利用可能になった時点で、生成AIとしてラベル付けされました。Adobe Stockの画像のうち、どの画像が生成AIツールを使用して作成されたかをお客様が知ることが重要だと考えています。
Adobeは誤情報対策に尽力しており、コンテンツ認証イニシアチブを通じて、出版社、カメラメーカー、その他の関係者と協力し、自社製品を含むコンテンツ認証の導入を推進しています。コンテンツ認証により、デジタルコンテンツがどのように撮影、作成、編集されたか、AIツールがデジタルコンテンツの作成や編集に使用されたかどうかなど、重要なコンテキストを把握できるようになります。
The Register はAdobe にさらなるコメントを求めています。®
