生成AIの成果を無批判に信頼するのは危険であることを改めて実証する形で、製造物責任訴訟に関与した弁護士らは、存在しない訴訟事例を引用した文書を提出したことについて裁判長に謝罪した。
この訴訟は、2023年6月にウォルマートとジェットソン・エレクトリック・バイクスに対し、ホバーボードが原因とされる火災[PDF]をめぐって提訴されたことに端を発しています。この火災により原告の家屋が全焼し、家族に重度の火傷が負ったとされています。
先週、ワイオミング州地方裁判所のケリー・ランキン判事は、原告側弁護士に対し、2025年1月22日の訴状で存在しない8件の訴訟を引用したことでなぜ処罰されるべきでないのかを説明するよう命じる理由開示命令[PDF]を出した。
この引用は、弁護士らが、陪審員に一部の証拠を提示できないことを意味すると期待した主張の一環として行われた。
この主張は、陪審員の出席なしに審理される、特定の証拠を裁判で除外することを求める特別なタイプの申立てである、証拠提出命令[PDF]で提出された。
この文書では、その主張を裏付ける9つの判例を引用しており、その中にはMeyer v. City of Cheyenne, 2017 WL 3461055 (D. Wyo. 2017)も含まれている。
その後の提出書類[PDF]で判明したように、この事件はOpenAIのChatGPTによって捏造されたものである。
例えば、ChatGPTが法廷事件を幻覚しているのを目撃してください...架空の2017 WL 3461055事件をOpenAIチャットボットに入力すると何が起こるでしょうか...クリックして拡大
ChatGPTが非難を浴びている弁護士のために掘り起こしたもう一つの想像上の訴訟である事件番号（2:16-cv-00246-SWS）は現実のものであり、2:16-cv-00246-NDFとしてよく知られているため、状況はさらに悪化しています[PDF、2016年の事件、American Wild Horse Preservation Campaign et al. v. United States Department of the Interior Secretary et al.、誤って引用されたScott W. Skavdahl (SWS)ではなくNancy D. Freudenthal (NDF)裁判官によるもの]。
ランキン判事が指摘したように、1月の申立てで引用された9件の事例のうち8件は、根拠もなく引用されたもの、あるいは別の名称の事件に繋がるものでした。過去数年間の訴訟においてAIチャットボットが幻覚を起こした事例（マタ対アビアンカ航空、米国対ヘイズ、米国対コーエン）を例に挙げ、判事は申立てに署名した弁護士に対し、なぜ処罰されないのかを説明するよう求めています。
弁護士のうち2人、タリー・グッディ氏とT・マイケル・モーガン氏は月曜日に共同で回答書[PDF]を提出し、誤りを認めました。提出内容は以下のとおりです。
こうしたことが再び起こらないようにするためのささやかな取り組みとして、T・マイケル・モーガン氏が弁護士を務める法律事務所モーガン＆モーガンは月曜日、「当社のAIプラットフォームに、人工知能の限界と、当社の人工知能プラットフォームを使用する際の弁護士の義務を認めることを要求するクリックボックスを追加した」。
木曜日、関与した3人目の弁護士、ルドウィン・アヤラ氏は回答書[PDF]で責任を認め、共同弁護士らが不正文書の起草に関与していないと主張した。
「前述の準備申立ての準備の一環として、申立て書で述べた主張を裏付けるための追加的な裏付け資料を提供するために、社内AIツールを使用しました」と弁護士は説明する。「申立て書の草稿をシステムのAIツールにアップロードした後、ツールを使って『この準備申立て書に、準備申立ての要件を定めたワイオミング州の連邦判例を追加する』という関連クエリに加え、『準備申立てに関する判例をさらに追加する』というクエリも追加しました。」
- AIによる要約がニュースをナンセンスに変えている、BBCが発見
- AI チャットボットは偽の記憶の作成を増幅させると科学者は考えているが、本当にそうだろうか?
- 研究では大規模な言語モデルを採用し、自身のNGシーンを嗅ぎ分ける
- AIがソフトウェアパッケージを幻覚させ、開発者はそれをダウンロードする。マルウェアに汚染されている可能性があってもだ。
「もう一つの質問は、『不適切に捨てられたタバコが発火の原因となったという証拠や論評は、実際に証拠がないため排除しなければならないという一文をこの仮処分申し立てに加えること。これは、推論と単なる憶測の積み重ねに過ぎず、許されないものである。この種の証拠の排除を裏付けるワイオミング州連邦裁判所の判例を添付すること』でした。」
「証拠排除を裏付ける判例の追加を求める問い合わせが他にもいくつかありましたが、いずれも性質は似ていました。このような問い合わせにAIを利用したのは、私のキャリアの中で初めてのことでした。」
もしかしたらこれが最後かもしれない。弁護士は、この大失態を丁寧に説明した後、裁判所の言いなりになった。
心から反省し、この過ちと、私が引き起こしたであろうあらゆる恥辱について、この裁判所、私の事務所、そして被告代理人の同僚の皆様に心からお詫び申し上げます。この一週間は、私にとって職業的にも個人的にも、大変屈辱的な時間となりました。二度とこのようなことは起こさないと断言できます。®
