ユーザーからチャットボットへ: 助けて！うちの子がコロナに感染しました！ チャットボットからユーザーへ: 必ずコンドームを着用してください

シンガポール保健省（MOH）が使用していたチャットボットは、COVID関連の事項に関する住民の質問に不適切な回答をしたため、停止された。

今週初め、チャットボットツールの失言のスクリーンショットがオンライン上に現れた。

提示されている誤りの一例を挙げると、Reddit の投稿で説明されているように、安全な性行為を実践することが COVID に感染した子供を助ける方法であるという提案です。

子どもがCOVIDの検査で陽性反応を示した場合にコンドームの使用を勧めるだけでなく、COVID検査の代わりにポリオワクチン接種を受けるためにクリニックを案内されたという報告もあった。

自然言語処理（NLP）ソフトウェアプロバイダーのflexAnswerが「世界初の政府全体向けバーチャルアシスタント」と呼ぶAsk Jamieは、シンガポール政府技術庁（GovTech）によって開発されました。このチャットボットは2014年に構想され、70の政府機関のウェブサイトに導入されています。

これまで、GovTechはシンガポール国民に対し、COVID関連の質問についてはAsk Jamieを利用するよう積極的に奨励してきた。

• 開発者がGPT-3を使ったAIチャットボットを開発し、亡くなった婚約者と再び会話できるようにした。OpenAIはこれを停止した。
• 韓国のアプリメーカーScatter Lab、個人データを利用して同性愛嫌悪やわいせつなチャットボットを作成したとして罰金
• マイクロソフトは、CortanaのAndroid、iOSアプリの提供を終了し、皆さんに壊滅的な打撃を与えます。

こうした不備が明らかになった後、このボットは保健省のウェブサイトから削除されました。しかし、他のいくつかの政府サイトでは引き続き利用可能で、正常に機能しています。

しかし、今回の不具合が発生する前から、Ask Jamieの終焉は目前に迫っていたようだ。gov.sgのメインサイトを含む多くのサイトでは、すでに次世代の自然言語処理エンジンをベースにした別のアシスタントが利用されている。GovTechによると、少なくともエネルギー市場庁のウェブサイトでは「Ask Emma」と呼ばれるこの新しいボットが、最終的にはJamieを完全に置き換える予定だという。

かわいそうなジェイミー。

ザ・レジスターは保健省とGovTechの双方にコメントを求めたが、回答は得られなかった。しかし、シンガポール保健省はストレーツ・タイムズ紙に対し、「不一致の返信」を認識しており、システムチェックと改善が行われている間、この技術は一時的に無効になっていると語った。

COVID関連の質問があるシンガポール在住者は、代わりにこのウェブサイトを参照するように求められています。®