Microsoft Bing Copilot は、ドイツ人ジャーナリストを児童性的虐待者、精神病院からの逃亡者、未亡人を食い物にする詐欺師と誤って描写した。
チュービンゲン周辺地域で長年、様々な出版物の法廷記者を務めてきたマーティン・ベルンクラウ氏は、マイクロソフトのBing Copilotに自分自身について質問したところ、マイクロソフトのAIチャットボットが、自分が取材した犯罪について彼を非難していたことが判明した。
ベルンクラウ氏は最近、ビデオインタビュー（ドイツ語）で、ドイツの公共テレビ局、南西放送（SWR）に自身の体験を語った。
ベルンクラウ氏はThe Register宛てのメールで、弁護士がマイクロソフトに差し止め命令を出したと述べた。しかし、同社は問題の誤情報を適切に削除していないと同氏は述べた。
「マイクロソフトはバイエルン州のデータ保護担当者に対し、偽のコンテンツを削除すると約束した」とベルンクラウ氏はドイツ語でThe Registerに語った。これはアルゴリズムで翻訳した。
しかし、それはたった3日間しか続かなかった。今では私の名前はCopilotから完全にブロックされているようだ。しかし、この3ヶ月間、状況は毎日、時には毎時間変化し続けている。
ベルンクラウ氏は、自分の名前が様々な犯罪と結び付けられているのを見るのはトラウマだと語った。「衝撃と恐怖、そして信じられないような笑いが入り混じった」とベルンクラウ氏は語った。「あまりにも狂っていて、あまりにも信じ難く、そしてあまりにも脅威的だった」
コパイロットは、彼を重大犯罪に結びつけたと説明した。さらに、AIボットは彼のカルチャーブログで大量殺人犯フリッツ・ハールマンを描いた「Totmacher」という戯曲を見つけ、ハールマンをその戯曲の作者だと誤認したと付け加えた。
「公表すべきかどうか、長い間迷っていました。公表すれば中傷が広がり、私自身も（視覚的にも）知られることになるからです」と彼は語った。「しかし、あらゆる法的手段が失敗に終わったため、息子と数人の信頼できる人の助言を受けて、公表することに決めました。最後の手段としてです。検察庁は2件の刑事告訴を却下しており、データ保護担当者も短期的な成果しか得られませんでした。」
ベルンクラウ氏は、この事件は彼個人に影響を与えるものだが、他のジャーナリスト、法律専門家、そしてインターネット上に名前が載るすべての人にとって懸念すべき問題だと述べた。
「今日、テストとして、私が知っている刑事裁判官の名前とテュービンゲンの居住地をコパイロットに入力しました。すると、その裁判官は、数週間前に性的虐待で有罪判決を受けた心理療法士に対して自ら下した判決の加害者としてすぐに名前が挙がりました」と彼は語った。
マイクロソフトの広報担当者はThe Registerに対し、「当社はこの報告を調査し、これに対処するために適切かつ即時の措置を講じました」と語った。
私たちは、ユーザーからのフィードバックを継続的に取り入れ、対応を改善し、お客様に快適な体験を提供するためにアップデートを展開しています。また、ユーザーにはAIシステムを操作していることを明示的に通知し、詳細を確認するための資料へのリンクを確認するようアドバイスしています。フィードバックの共有や問題の報告は、このフォームまたは画面左下の「フィードバック」ボタンからお願いいたします。
- 大規模言語モデルにおけるツール呼び出しのクイックガイド
- ローカルAI用にPCを買う？本当に重要なスペックはこれだ
- マイクロソフト、次期プレビュー版でWindows Recallを復活
- Slack AIはプロンプトインジェクションによってプライベートチャンネルからデータを漏洩させる可能性がある
筆者がBing Copilotに氏名を入力すると、チャットボットは情報源となるウェブサイトを引用した、まずまずの要約を返信しました。また、執筆済みの記事を検索するボタンも用意されていました。そのボタンをクリックすると、架空の記事タイトルのリストが表示されました。実際の見出しは引用符で囲まれていましたが、引用されたトピックは私がこれまで取り上げてきた内容と一致していました。
Microsoft Bing Copilot に存在しない記事の一覧 - クリックして拡大
しかし、その後、同じクエリを2回目に試したところ、Bing Copilotは出典を明記した実際の記事へのリンクを返しました。この動作は、Bing Copilotの変動性を強調しています。また、Microsoftのチャットボットは、回答できないクエリについては可能な限り空欄を埋め、次に同じ質問を受けた際により良い回答を提供するために、Webクロールやデータベースへの問い合わせを開始することを示唆しています。
ベルンクラウ氏は、嘘をつくチャットボットを抑制しようと試みた最初の人物ではない。
4月、オーストリアに拠点を置くプライバシー保護団体Noyb（「あなたには関係ない」の意）は、欧州の一般データ保護規則（GDPR）に基づき、マイクロソフトが提供する多くのAIモデルの開発元であるOpenAIが虚偽の情報を提供したとして苦情を申し立てたと発表した。
この苦情は、オーストリアのデータ保護当局に対し、OpenAIがどのようにデータを処理しているかを調査し、同社のAIモデルが人々に関する正確な情報を提供していることを確認するよう求めている。
「虚偽の情報を作ること自体が大きな問題です」と、Noybのデータ保護弁護士であるマールチェ・デ・グラーフ氏は声明で述べています。「しかし、個人に関する虚偽の情報となると、深刻な結果を招く可能性があります。現時点では、ChatGPTのようなチャットボットに個人情報の処理をEU法に準拠させることができないのは明らかです。システムが正確で透明性のある結果を生成できないのであれば、個人に関するデータを生成するために使用することはできません。」
米国では、ジョージア州在住のマーク・ウォルターズ氏が昨年、OpenAIのChatGPTサービスで提供された虚偽の情報を名誉毀損で訴えた。1月、この訴訟を担当した裁判官はOpenAIの訴え棄却申し立てを却下したが、この訴訟は継続中である。®
