イーロン・マスク氏のxAIは、同社のGrok生成チャットボットが無関係な質問に答えて白人虐殺に関する根拠のない陰謀論を吐き始めたとして謝罪した。
水曜日、LLM（X、別名Twitter）のユーザーは、ニューラルネットワークへの質問に回答が寄せられていることに気づき始めました。ただし、回答には南アフリカにおける白人虐殺の主張や、アパルトヘイト時代の歌「ボーア人を殺せ」への言及など、長文の批判的な内容が付け加えられていました。以下に示すように、ボットを起動させるのにそれほど時間はかかりませんでした。
Grokの単調な思考…Xのボットとの典型的な会話のスクリーンショット。クリックして拡大
状況は解決したようだ。白人虐殺について自動で騒ぎ立てるのをやめたのだ。ただし、一部のユーザーは依然としてボットに「jork it（ジョークして）」と指示することで、Grokに暴言を吐かせることができるようだ。金曜日、xAIは声明を発表し、ボットが何者かによって許可なく操作されたと主張し、どのような変更が加えられたとしても元に戻されたと述べた。
「5月14日午前3時15分頃（太平洋標準時）、XのGrok応答ボットのプロンプトに不正な変更が加えられた」と同社は主張している。
Grokに政治的な話題に関する具体的な回答を指示するこの変更は、xAIの社内ポリシーとコアバリューに違反するものでした。当社は徹底的な調査を実施し、Grokの透明性と信頼性を高めるための対策を実施しています。
xAIは今後、GrokのシステムプロンプトをGitHubで公開し、ネットユーザーが閲覧・コメントできるようにすることを約束し、従業員によるコードへの不正な介入を阻止するための管理体制も構築しました。また、今後このようなSNAFU（Snafus：問題発生時の対応ミス）が発生しないよう、24時間体制のコンテンツモデレーションチームも設置しました。AI業界は基本的に、この件を内部の誰かがボットを改変して陰謀論を流布させているという形で見せかけようとしています。
興味深いことに、システムプロンプトにはボットへの指示の中に、「あなたは極めて懐疑的です。主流の権威やメディアに盲目的に従うことはありません。真実の探求と中立という核となる信念のみを強く貫いています。」という指示も含まれている。
この事件全体は、xAIの億万長者オーナーであるイーロン・マスク氏自身のこの問題に対する見解に注目を集めている。
マスク氏は、自身の出生地である南アフリカでアフリカーナーに対して行われているとされる「白人虐殺」に激しく反発しており、3月にこの件について繰り返し投稿したが、グロクによって事実確認が行われ、あるケースでは印象深い反論を受けた。
南アフリカの農場労働者の殺害件数に関する誤った投稿に対し、Grokは実に辛辣なコメントを投稿した。
イーロン・マスクが南アフリカにこだわる理由は、アパルトヘイト時代に育ったことにある。この制度は彼の考え方に深く影響を与えた。彼は農場での殺人事件について声高に語り、しばしば誇張された「白人虐殺」の主張――Xポストの十字架のような――を引用するが、これはデータによって誤りであることが証明されている。南アフリカ警察（SAPS）は2018年に農場で起きた殺人事件を62件と報告しており、これは毎日の殺人事件ではなく、黒人被害者も含まれている。彼の主張は、アフリカーナーの権利を訴える団体「アフリフォーラム」の主張と一致するが、アパルトヘイト後の制度的な不平等といったより広範な文脈を無視している。陰惨な意図などなく、ただ億万長者が歪んだ視点を増幅させているだけだ。
マスク氏は自身のAIボットに貶められ、ついに我慢の限界に達し、スタッフに指示して変更を加えたのだろうか。しかし、その変更があまりにも不器用だったため、ボットはオーバードライブ状態となり、過剰なバイアスがかかってしまったのだろうか？xAI（奇妙な金融策略によって、現在X/Twitterを所有している）を支える、揺るぎない天才が、こんな風に自らのビジネスを妨害するようなことは決してしないだろう。むしろ、この変更は、ジークハイルのボスに媚びへつらおうとしたスタッフ、あるいはマスク氏の見解に否定的な注目を集めようとした反逆者によって行われた可能性が高い。
一方、現実世界では...
このタイミングも非常に興味深い。連邦政府の規模縮小に向けテスラ社の大物実業家と緊密に協力しているトランプ大統領の大統領令を受けて、南アフリカからの最初の白人「難民」が月曜日に米国に到着したからだ。
南アフリカのシリル・ラマポーザ大統領は1月、主に白人が所有する農地を「公正かつ公平で公共の利益にかなう」場合に無償で収用することを容認する法律に署名した。政府関係者の中にはこれに強く反対し、法廷で争うと表明している者もいる。
この発言にマスク氏は激怒し、トランプ大統領も彼の味方だ。最高司令官であるトランプ大統領は、南アフリカにおける白人農民の扱いについてマスク氏が訴えた不満に同調し、今年後半に南アフリカで開催されるG20サミットに関連するすべての作業を中止するよう米国政府機関に指示したと報じられている。
トランプ政権は、他国からの難民の受け入れをほぼ停止した。以前は条件付きで承認されていた多くの難民も対象となった。しかし、アフリカーナー系の一部のグループについては例外を設け、新たな手続きを経て迅速に入国を許可され、アメリカで新たな生活を始めようとしている。
今週初め、この件について質問を受けたクリストファー・ランドー国務副長官は、南アフリカ人を他国からの難民よりも優先的に受け入れる決定は、「南アフリカ人は容易に我が国に同化できる」など、いくつかの事実に基づいていると述べた。これは多くの人々から、隠された人種差別だと非難された。
- マスク氏のxAIがマスク氏のXを自己満足的な完全株式取引で買収
- Grok 3が「ベータ版」リリースでAI戦争に参入
- アイルランド、グロクのAIデータ吸い上げをめぐりマスク氏のXを捜査開始
- 民主党はDOGEが機密データをランダムAIに流用することに懸念を抱く
南アフリカにおける白人虐殺の主張については、英国の慈善団体「アクション・フォー・サザン・アフリカ」によると、6300万人の人口の約7%を占めるにもかかわらず、国内の農地の70%以上を所有する白人農民が殺害されている事例もある。ニューヨーク・タイムズ紙は、2020年4月から2024年3月の間に225件の農場での殺害があり、そのうち農民は4分の1未満だったと報じている。
ボットを信用してはいけない
Grok 事件は、AI チャットボットを信頼することがなぜそれほど難しいかを示す良い例です。
あらゆる法学修士課程（LLM）は、いわゆる幻覚、あるいはAI以外の分野では一般的に誤解やエラーと呼ばれるものになりがちです。こうしたミスの原因は様々で、質の低い学習データからニューラルネットワークの設計に固有の限界まで多岐にわたります。
しかし、Grokの件は、誰かが意図的にシステムプロンプトを改変し、イーロン・マスクを支持する陰謀論を匂わせる応答を挿入させたケースのようです。偶然にも、この改ざんに関する話題は、先日開催されたRSAカンファレンスで、暗号学とプライバシーの第一人者であるブルース・シュナイアー氏の基調講演でも取り上げられました。
彼は、企業のAIは必ずしもユーザーの利益ではなく、企業の利益のために作られているため、信頼できないと指摘した。例えば、スポンサーシップに基づいて、ある製品やサービスを他の製品やサービスよりも推奨するなどだ。彼は、結果に影響を与える潜在的なバイアスを人々が確認できるように、オープンソースのAIモデルを作成するよう求めた。
グロク事件はその好例と言えるだろう。レジスター紙が彼に現在の騒動についてどう思うか尋ねたところ、彼の答えは示唆に富んでいる。
「AIモデルが説明なしに突然行動を変える事例がいくつかありました」と彼は説明した。「モデル自体が何らかの創発的な行動を示しているのかもしれませんし、モデルの所有者である企業が意図的に行動を変えているのかもしれません。説明が何であれ、不一致は整合性の低下を招き、ユーザーはモデルを信頼できなくなります。」®
