The Register が確認したところによると、誰かが OpenAI の GPT-3 テキスト生成ソフトウェアを使用して Reddit に一連の投稿を書き、その投稿が実在の人物によって書かれたものだと人々に信じ込ませ、その過程でインターネット ポイントを獲得したという。
Redditユーザーのthegentlemetreさんは、過去10日間で人気サブレディットAskRedditに数百件もの回答を投稿しました。AskRedditは、何百万人もの人々が実用的なヒントや人生アドバイスを求めて集まる場所です。最も混雑した時期には、アカウントには1分間に約1件のコメントが投稿され、人々の質問に対する回答がごちゃ混ぜになっていました。これらの投稿のほとんどが数段落に及ぶことを考えると、一人で投稿するにはかなりの偉業と言えるでしょう。
彼らの返答の中には、エレベーターの下に閉じ込められた人間のコロニーについてのこの偽の話のように、支離滅裂で実に不気味なものもある。ネットユーザーの質問に全く答えないこともあれば、ネブラスカ州の存在を否定するなど、虚偽の情報を拡散することもある。公共の場でトップレスになることに関して男性が差別されていると信じている投稿もある。
ソフトウェアエンジニアのフィリップ・ウィンストン氏は、thegentlemetreは実際にはGPT-3をベースにしたボットではないかと推測した。「この投稿を見て、これは多用なユーザーかボットのどちらかだと思いました」と、同氏はThe Register紙に語った。
「履歴を見ると、1分に1回くらい投稿しているのが目に入りました。ボットだろうと思いました。投稿を見てみると、中には本物っぽいものもありましたが、問題のある投稿も多く、ボットだと確信しました。でも、今まで見た中で一番マシな投稿でした。」
ボットだと確信していたが、これまで見たものよりはましだった
GPT-3サブレディットのRedditユーザーに確認を依頼したところ、彼の疑念は確証を得た。複数のユーザーが、そのテキストはPhilosopher AIが生成した散文と同じパターンを持っていると指摘した。Philosopher AIは、OpenAIのクラウドベースGPT-3 APIにベータテスターとして早期アクセスしたエンジニア、Murat Ayfer氏が開発した。Philosopher AIはこのGPT-3 APIを利用して出力を生成していた。つまり、謎のRedditユーザーのコメントは、Ayfer氏のPhilosopher AIを介してGPT-3が生成したものだったということになる。
Philosopher AIは、誰でも質問を入力するとGPT-3によって生成された回答が得られるウェブサイトとしてスタートしました。Ayfer氏のサイトは、実質的には、ネットユーザーが質問を入力すると、クラウド上にホストされ回答を生成するOpenAIのGPT-3インスタンスとの間にアクセスレイヤーとして機能していました。OpenAIがベータユーザー向けの無料トライアルを終了したため、Ayfer氏もPhilosopher AIへの無料アクセスを終了し、現在このサービスは2.99ドルでダウンロード可能なスマートフォンアプリを通じてのみ利用可能です。
Clippy 9000に備えよ: MicrosoftはOpenAIのメガブレインGPT-3をあらゆる用途に独占的にライセンス供与
続きを読む
Ayfer氏は、thegentlemetreの背後にいる人物がPhilosopher AIを使ってRedditボットを作成したことを確認した。Ayfer氏は自身のソフトウェアを使って生成されたすべての返信をデータベース化しており、ボットの投稿の一部がデータベース内の投稿と一字一句完全に一致していることを発見した。
彼は、ボットが不正利用防止のために設けられたCAPTCHA認証を回避してアプリをマイニングできたと考えている。iOS版のアプリでは、ユーザーにCAPTCHA認証を求めないため、iOSアプリを装ってPhilosopher AIのバックエンドにアクセスした人物は、問題なく通過できてしまう。
「有料ユーザーがCAPTCHAでブロックされないように、iOSアプリをCAPTCHAチェックをスキップするように設定していましたが、iOSクライアントの識別方法はすぐにリバースエンジニアリングされてしまいました」と彼はThe Registerに語った。「すでにいくつかのパッチを当てており、CAPTCHAシステムの改良を続けています。」また、ユーザーがPhilosopher AIに問い合わせる回数を減らすため、より厳しい制限も導入した。
Ayfer氏は、AskRedditフォーラムに投稿された質問を読み取り、Philosopher AIにプロンプトとして渡し、その回答がサブレディットに投稿される自動スクリプトが設定されたと考えています。彼がアプリのCAPTCHA処理を改善した後、thegentlemetreのアカウントでの活動は沈静化しました。
奇妙なスタント？
しかし奇妙なことに、ボットは完全に沈黙したわけではない。ユーザーはその後、お気に入りのAskRedditサブレディットと、AI倫理について議論するToasterTalkにそれぞれ2つの投稿を行った。
返答は奇妙なほどそっけない。ボットの喋り方はRedditにぴったりで、「大人が使うフォーラムではうまく機能しないだろう」と誰かが言うと、thegentlemetreは「その通りだと思う」と返した。
ウィンストン氏は、ボットを作成した人間が現在アカウントを乗っ取り、個人的に返信を書いていると考えています。私たちはRedditでthegentlemetre氏にコメントを求めて連絡を試みましたが、まだ返答がありません。
では、機械学習ソフトウェアが、華麗な文章でも特に賢明でもないものの、まるで人間が書いたかのように読めるインターネット掲示板の文章を生成できるようになった今、一体何が起きているのでしょうか？これは、AIが人間を出し抜いている兆候なのでしょうか？それとも、電子的に生成された支離滅裂な文章がウェブ上で当たり前だとしたら、そもそも人間はそれほど賢くなかったということなのでしょうか？
「過去3000年間、人間のような見た目の文章は人間が書いたものだと思われてきました」とウィンストン氏は語った。「もうすぐ、それは通用しなくなるでしょう。きっと素晴らしいものが生まれるでしょうが、同時に多くの疑問も生じます。私にとってのディストピア的なビジョンは、何百万人ものRedditユーザーやTwitterユーザーが、ボットと会話をしながらも、そのことに気づいていないという状況です。」
私にとってのディストピア的なビジョンは、何百万人ものRedditユーザーやTwitterユーザーがボットと会話をしていて、それに気づいていないということだ
OpenAIは、同社のソフトウェアが悪意のある人物によってボットの作成やフェイクニュースやスパムの拡散に利用される可能性があると警告している。しかし、アイファー氏は「明らかに誰かが楽しんで、物事をかき回しているだけだ」と見ている。
「今、無害な環境でこのような事例が起こっているのを見るのは、ある意味貴重なことです。無制限の悪意あるGPT-3アクセスや、今後数ヶ月、あるいは数年のうちに確実に普及するであろう同様の機械学習技術を使って、誰かがソーシャルメディア上で何ができるかは容易に想像できます。これは今後数年間、興味深い問題となるでしょう。私たちは、万全のボット検知機能を必要とするでしょう。」
「OpenAIかGPT-3を持つ誰かだけがそれを検出できるのだろうか」とウィンストン氏は付け加えた。「もしそうだとしたら、彼らはそのサービスに料金を請求できるだろう。つまり、掃除機のセールスマンが家に押し入って、まず床に土を投げ散らかし、その後掃除料金を請求するようなものだろうか？ GPT-3ボットの実行料金を徴収し、さらに同じボットの検出料金を別の人に請求するというのは、世界最高のビジネスモデルになるかもしれない。」
Redditの広報担当者はコメントに応じなかった。
OpenAIの広報担当者はEl Regに対し、 「当社のAPIを使って人々を欺く行為を一切支持しません」と述べた。「当社は、人工知能が全人類に恩恵をもたらすべきだという信念に基づいて設立され、悪用、偏見、その他業界全体にわたる課題と常に闘っています。」®
