「見た目はセクシーだけど間違っている」―生物学と医学におけるAIの問題点

Table of Contents

「見た目はセクシーだけど間違っている」―生物学と医学におけるAIの問題点

生物医学視覚化の専門家たちは、健康・科学アプリケーション向けの画像を作成する際に、生成AIツールをどのように、あるいは使用するべきかどうかについて、まだ合意に至っていません。しかし、解剖学や関連分野の誤ったイラストは、臨床現場で、あるいはオンライン上の誤情報として危害を及ぼす可能性があるため、ガイドラインとベストプラクティスの策定が急務となっています。

ノルウェーのベルゲン大学、カナダのトロント大学、米国のハーバード大学の研究者らは、11月に開催されるIEEEのVis 2025会議で発表予定の「『見た目はセクシーだが間違いだ。』バイオメディカル視覚化におけるGenAIの創造性と正確性の緊張」と題する論文でこの点を指摘している。

論文の中で、著者の Roxanne Ziman、Shehryar Saharan、Gaël McGill、Laura Garrison は、OpenAI の GPT-4o または DALL-E 3 で作成されたさまざまなイラストを、視覚化の専門家が作成したバージョンと並べて紹介しています。

研究論文からのスクリーンショット

論文のスクリーンショット。
上段:GPT-4oまたはDALL-E 3の誤った画像。下段:BioVisMedのイラストレーターが作成した画像 - クリックして拡大

挙げられた例の中には、微妙な点で現実から乖離しているものもある。一方、Frontiers in Cell and Developmental Biology誌に掲載され、現在は撤回されている論文に登場する「悪名高いほど恵まれた体格のネズミ」のように、空想としか思えない例もある。

いずれにせよ、生成 AI によって作成された画像は見た目は良いかもしれないが、必ずしも正確ではないと著者らは述べている。

「本稿執筆時点でのGPT-4o画像生成の一般公開を考慮すると、GenAIが生成したビジュアルは洗練されていてプロフェッショナルに見えることが多く、信頼できる情報源と間違われるほどだ」と著者らは論文で述べている。

「この正確さの錯覚は、根本的に欠陥のある表現に基づいて重要な決定を下す原因となる可能性がある。AIが生成した一見正確な「雑多な情報」を大量に流される知識や訓練のない患者から、100%の正確さを保証できないモデルによって生成された画像やコードに基づいて人命に関わる重大な決定を下す経験豊富な臨床医まで、その可能性がある。」

膵臓を見せると、MidJourney はこう言います、「これがエイリアンの卵の山だ!」

ベルゲン大学で視覚化研究を行っている博士研究員の共著者ジマン氏は、The Registerへの電子メールで次のように語った。「AI生成画像が直接的に健康に悪影響を及ぼした実例にはまだ出会っていませんが、インタビュー参加者の1人が、オランダで詐欺や、育児手当詐欺で不当に告発された人(主に外国人の親)を検出するためのAIベースのリスクスコアリングシステムに関する事例を私たちに教えてくれました。」

AI生成画像に関して、より深刻な問題は、医療・健康関連の出版物、そして広く科学研究出版物において、不正確な画像が使用されていることです。潜在的な危害はすぐには明らかではありませんが、健康・医療情報を伝える際に、このような不正確な画像の使用が増えていること、そして医療における固定観念を強化するといった問題は憂慮すべきものです。

ジマン氏は、論文で取り上げられた一連のインタビューでも言及されているように、より大きな問題は、不正確な画像が科学研究に対する一般大衆の認識に影響を及ぼすことだと述べた。彼女は「恵まれた体格のネズミ」が、スティーブン・コルベアのレイト・ショーでどのように取り上げられたかを例に挙げた。

「(人々が『正当な』ニュースソースよりも信頼する傾向がある)そのような著名人による風刺的な批判は、科学研究コミュニティ全体の正当性に疑問を投げかけ、一般の人々が科学研究コミュニティから発信される情報を(さらに)不信感を抱いたり、真剣に受け止めなくなったりする可能性がある」とジマン氏は述べた。

「COVID-19やワクチンキャンペーンなどの公衆衛生コミュニケーションにどのような影響が及ぶか考えてみてください。そして悪意のある人物は、誤解を招くが説得力のある画像を素早く簡単に作成し、共有できるようになりました。」

ジマン氏は、AIが生成した医療画像はバイオメディカル視覚化(BioMedVis)コミュニティで笑いや批判のために共有されることが多いが、医療従事者はリスクを軽減する方法をまだ見つけていないと述べた。

  • このコーディングのトレンドが問題を引き起こすかもしれないという雰囲気を感じた
  • AIが普及するにつれ、メンタルヘルスへの影響に対する懸念が高まる
  • ServiceNow、AI活用で1億ドルの人員削減を目指す
  • マイクロソフトCEO、人員削減に苦悩

この目的のため、著者らはBioMedVisの専門家17名を対象に調査を行い、生成AIツールに対する彼らの見解と、業務におけるそれらのツールの活用状況を評価しました。本論文では仮名で表記されている回答者からは、生成AIに関する幅広い見解が寄せられました。著者らは、回答者を「熱狂的導入者」「好奇心旺盛な導入者」「好奇心旺盛な楽観主義者」「慎重な楽観主義者」「懐疑的な回避者」の5つのペルソナに分類しました。

回答者の中には、AIモデルによって生成された画像の抽象的で幻想的な美しさを高く評価し、顧客との会話を進展させるのに役立つと述べた人もいました。一方、GenAIのスタイルに批判的な回答者(約半数)は、「Frank」氏と同様に、これらの画像のありきたりな見た目は退屈だと述べました。

無関係な、あるいは幻覚的な言及は依然として問題であり、「緑色に光るタンパク質」などの新しい造語も同様である。

調査対象者は、キャプションや説明文の補助としてテキスト変換モデルを使用することもありましたが、必ずしも回答者の満足を得られませんでした。論文では、「無関係な、あるいは幻覚的な言及は依然として問題であり、『緑色に光るタンパク質』のような新しい造語も同様である」と指摘されています。

調査回答者の中には、生成型AIが定型コードの生成やデータのクレンジングといった定型的なコーディング作業の処理に役立つと考えている人もいます。一方で、既にコーディングの学習に時間を費やしており、そのスキルを委任するのではなく活用したいと考えている人もいます。

研究者らはまた、回答者の間に矛盾した態度があることを指摘している。回答者は、商業目的で生成AIツールを使用する場合、「現時点では公開されているGenAIツールに組み込まれている知的財産権の侵害について深刻な懸念を表明する」一方で、個人レベルでの生成AIの使用も概ね受け入れている。

調査対象となった 17 社のうち 13 社はすでに GenAI をある程度自社の制作ワークフローに取り入れていますが、BioMedVis の開発者や設計者は依然として画像の精度を優先しており、「現状の GenAI ではこの基準を達成できない」と著​​者らは指摘しています。

彼らは「アーサー」の発言を指摘している。「まだデジタル世界からアートを生成するための情報を集めている最中ですが、坐骨神経と尺骨神経の違いをまだ認識できていません。ただの、ワイヤーですからね。」

また、GenAI が正確な解剖学を生成できないことについての「Ursula」の言葉を引用しています。「膵臓を見せてください。すると MidJourney はこう言うんです。『エイリアンの卵の山です!』」

論文によれば、AIの出力結果に誤りがあることは多くの場合明らかだが、技術が進歩し、人々がこうしたシステムを信頼することに慣れてくると、こうした誤りを検出することがより困難になるとBioMedVisの人々は予想している。

研究者らはまた、機械学習のブラックボックス性や偏見への対処の難しさについても、より一般的な懸念を表明している。

論文では、「解剖学的画像であろうとコードブロックであろうと、不正確または信頼性の低い出力は誤解を招き、責任の所在を曖昧にする可能性があります。参加者は、GenAIが使用され、説明責任の線が曖昧になった場合、誰が責任を負うべきか疑問を呈しました」と説明されています。ブラックボックスモデルは、このような説明責任を阻害します。アンケート回答者の「キム」氏は、「結果を説明できる誰かがいるべきです。それは信頼と[…]能力の問題です」と述べています。

コミュニティとして、私たちはこれらのツールについての考え、質問、懸念を気軽に共有すべきです。

トロント大学の共著者であるシェリヤール・サハラン氏は、The Registerへの電子メールで、この研究が、生成AIがバイオメドビゼーション専門家の仕事と価値観にどのように適合するかについて人々が批判的に考えるきっかけになることを願っていると語った。

「こうしたツールは私たちの分野で大きな部分を占めるようになっており、ただ使うだけでなく、私たちの仕事のやり方や、なぜその仕事をするのかという点において、それが何を意味するのかを批判的に考えることが重要なのです」とサハラン氏は語った。

コミュニティとして、私たちはこれらのツールに関する考え、疑問、懸念を気軽に共有するべきです。オープンな会話と反省の姿勢がなければ、私たちは時代遅れになったり、私たちが本当に大切にしていることと異なる方法でこれらのテクノロジーを使ってしまう危険性があります。前進する前に、考え、反省する余地を作ることが重要です。®

Discover More