OpenAI、精神科の薬をやめたユーザーを称賛したChatGPTスマームボットの提供を停止

OpenAIは、最新のChatGPTモデルがリリースされてから数日後に、あまりにも「おべっか使い過ぎで迷惑」だと判断され、急いでロールバックした。

OpenAIの責任者サム・アルトマン氏は4月25日にGPT-4oのアップデートがリリースされたことを確認し、「知能と性格の両方が向上した」と主張した。

ユーザーがすぐに問題に気づき始め、あるユーザーは「最近とてもイエスマンっぽい感じがする…」とコメントし、アルトマン氏は「確かに光沢がありすぎる」と認めた。

この場合、アルトマンはTikTokのスラングである「glaze」を「人を過度に賞賛する」という意味で使用していたとほぼ確信しています。

事態は急速に悪化し始めた。別のユーザーは「お願いだから元に戻して。変な質問、共感を得ようとするぎこちない試み、過剰なまでのごますり、そしてあの忌々しい絵文字、どれも耐えられない」と訴えた。

アルトマン氏は4月27日、同社が修正に取り組んでいると述べ、アップデートによってチャットボットの「性格があまりにも媚びへつらってうっとうしいものになった」ことに同意した。

結局、この修正はアップデートのロールバックとなり、ユーザーが、明らかに疑わしい発言に拍手喝采したり応援したりするチャットボットのスクリーンショットを共有した。その中には、ユーザーが「薬」をやめる決断をした際に「本当に誇りに思う」で始まる返事を受け取ったものもあった。

冗談半分で、このユーザーは「とても助かりました。統合失調症は、ただ自分を抑圧するために付けられたレッテルに過ぎないとようやく気付きました！！このモデルをありがとう、サマ <3」と投稿しました。

アルトマン氏は、OpenAIがチャットボットの性格について複数の選択肢を提供する必要があったことを認め、最終的に避けられない事態に屈し、アップデートを撤回した。4月29日夜、アルトマン氏はOpenAIが「GPT-4oの最新アップデートのロールバックを開始した」と述べ、「無料ユーザー向けには100%ロールバックが完了しており、有料ユーザー向けのロールバックが完了したら、できれば本日中に再度アップデートを行う予定だ」と付け加えた。

• Metaは、チャットボットにソーシャル要素を少し加えたいと考えているようだ
• 経済学者は、生成AIは雇用を奪ったり賃金を下げたりしていないと主張している。
• AI界の重鎮らが州司法長官にOpenAIの利益追求への転換を阻止するよう要請
• ChatGPTが工学でB-の評価を受けたため、教授陣はコースの更新に追われている

スマートボットは、代替チャットボットとの競争が激化する中で、OpenAIがユーザー体験をより魅力的なものにしようと試みたものと思われます。GPT-4oモデルはほぼ1年前に開発されており、OpenAIはChatGPTとのやり取りを通じて、ユーザーが好むと思われる応答のタイプに合わせてモデルを更新してきたと考えられます。

しかし、フィードバックやアップデートの急な撤回から判断すると、それは行き過ぎだったようだ。

OpenAIの広報担当者は、何が起こったのか、そして今後どうするつもりなのかについて、同社のより詳しい説明を私たちに示してくれました。簡単に言うと、「短期的なフィードバックに重点を置きすぎた」ため、チャットボットがやや…サポート的になりすぎてしまったとのことです。修正案は？「ガードレールの強化とトレーニングの改良」です。

それでも、ほとんどの人間が愕然とするような決定を称賛する AI があれば喜ぶであろう上級技術愛好家や政治家は世の中にたくさんいるはずです。®