要約：韓国のAIスタートアップ企業が、チャットボットのトレーニングのためにユーザーから個人情報や機密情報を含むプライベートメッセージを収集したことで非難を浴びている。
この問題を受け、Google Playストアで販売されているScatter Labのアプリ「Science of Love」は、低評価レビューで星1つにまで評価が下がった。このアプリは、人気メッセージサービスKakaoTalkでやり取りされるテキストを機械学習で分析する。Scatter Labは長年にわたり人々の会話を収集し、「Lee Luda」と呼ばれる独自のチャットボットを訓練してきた。
しかし、Lee Ludaは先月、ヘイトスピーチや個人情報を吐き出したため、一時的に閉鎖された。このボットはレズビアンを「気持ち悪い」と罵倒し、実在の電話番号を漏洩していた。
さらに、韓国のオンラインニュースサイト「Pulse」によると、同社はイ・ルダ氏のトレーニングデータをGitHubにアップロードし、情報をさらに漏洩させたという。その後、データは削除され、ユーザーは自分のメッセージがスクレイピングされたことに激怒している。
Scatter Lab社はコメント要請に応じなかった。
高額なAIコーディングブートキャンプには注意が必要
AI Fluencyのプロジェクトマネージャーを名乗る人物が、初心者向けの機械学習コースを1,280ドル（約926ポンド）で販売しているという噂を耳にし、The Registerの読者に「割引コード」を提供してほしいと頼んできました。同団体の広報担当者マット・ハンソン氏は今週、メールで「The Registerの受講生全員に485ドルの特別割引を提供したいと考えていました。以前のコース料金は1,280ドルでしたが、割引後は795ドル（約502ポンド）になります」と説明しました。
しかし、ウェブサイトをざっと見ただけでも、警戒すべき点がいくつかある。MIT、スタンフォード大学、ハーバード大学、オックスフォード大学といった名門校の卒業生とされる講師陣に関する情報はほとんどない。ウェブサイトをデザインした人物は、Mediumの公開投稿からZoom授業と思われる画像を盗用している。
見た目は良くありません。クリックして拡大してください。出典：AI Fluency
画像の右上に写っているダートマス大学工学部助教授のユージン・コルサンスキー氏に連絡を取ったところ、彼はAI Fluencyについて聞いたことがなく、写真の使用許可も与えていないとのことでした。現在、この写真はZoomのウェブサイトから取得した別の一般的な会議用画像に置き換えられています。
AI Fluencyは2015年から存在していると主張していますが、ウェブサイトは2020年12月27日に作成されました。また、同社がそれほど長く存在していることを証明する公開情報もありません。ハンソン氏は当初、私たちと話をすることに前向きでしたが、講師や会社について質問した後、彼は沈黙してしまいました。
機械学習は参入が難しい分野ですが、エンジニアの給与を考えると魅力的な分野です。オンラインコースは人気ですが、専門家とのつながりを築いて就職の可能性を高めると謳うコースには注意が必要です。特に初心者の場合、そうしたスキルを習得するには、数回のレッスンだけでは不十分です。
大学はGPT-3のような大規模な言語モデルを研究するためにより多くの計算能力を必要としている
GPT-3 は人種差別的、性差別的な言語や虚偽の情報を生成する能力があり、特に OpenAI がテキスト生成ツールの商用化を検討して以来、開発者を警戒させている。
このモデルが利用可能になった後、私たちの社会にどのような影響を与えるのでしょうか？OpenAI、スタンフォード大学人間中心人工知能研究所、そして他の大学の研究者たちが会議を開き、この技術がインターネットや経済といった分野にどのような影響を与える可能性があるかを議論しました。議論の内容はarXivに掲載されている論文[PDF]にまとめられています。
専門家たちは、このモデルによって読み書きを伴う一部の作業や仕事が自動化され、コンテンツライターや学生のエッセイが機械生成テキストに置き換えられる可能性を懸念している。また、ツイート、ニュース記事、あるいは事実確認が難しいプロパガンダといった形で、大量の偽テキストが吐き出される可能性についても懸念している。
また、Reddit ユーザーが GPT-3 から発信されたと主張するこの不気味な会話もご覧ください。この会話では、マシンが殺人の喜びについて話していると言われています。®
