ソーシャルメディア上で偽のCOVID-19検査キットを売りさばく詐欺師を捕まえるための最新の機械学習ソフトウェアが、米国国立衛生研究所の資金提供を受けた小さなスタートアップ企業によって開発されている。
カリフォルニア大学サンディエゴ校健康科学部の准教授ティモシー・マッキー氏によって設立されたS-3リサーチは、人工知能を使ってオンラインで麻薬の売人を嗅ぎ分けることに重点を置いていた。
このスタートアップは、インターネット上でオピオイドやマリファナを宣伝する広告を探し出し、その広告文を用いて分類器を学習させた。その結果生まれたシステムは、様々な自然言語処理技術を活用することで、インターネット上の違法薬物広告を自動的に識別し、ウェブサイト、規制当局、警察に当該コンテンツを削除するよう警告することができた。
その後、新型コロナウイルス感染症（COVID-19）が猛威を振るいました。中国では、この謎の呼吸器疾患について、中国のマイクロブログサイト「微博（ウェイボー）」で人々が話題にし始めました。マッキーは注意深く観察を続け、ウイルスがより多くの地域や国に感染するにつれて、ソーシャルメディア上で情報が瞬く間に広まっていきました。
3月までに、世界保健機関（WHO）は新型コロナウイルス感染症をパンデミックと宣言しました。詐欺師たちは人々のパニックに乗じて、COVID-19の偽の治療法、ワクチン、検査キットをオンラインで売りつけ始めました。S-3リサーチは、こうした悪質な広告を自社の技術で検出し、深刻な被害をもたらす前に阻止することに注力することを決定しました。
欧州はコロナウイルス追跡のための単一アプリの導入を訴える。一方、アメリカはアプリの開発を全く検討していないふりをしている。
続きを読む
「最初は、どれもかなり無害なものばかりでした」とマッキー氏はThe Register紙に語った。「漢方薬やビタミンC点滴が免疫力を高めると宣伝する人がいました。確かに効果があるわけではありませんが、害になるわけでもありません。」
各国政府が検査キットの不足や外出禁止令、渡航禁止令の発令への躊躇など、アウトブレイクの封じ込めに苦慮する中、インターネット上では指先穿刺、尿検体、唾液でCOVID-19を検査できる機器を謳う詐欺師が溢れかえっていた。しかし、このキットは全て偽物だ。実際の検査では、直径15cmの綿棒で鼻と口の間の空洞を検査し、専門機器を用いて検査を行う。
「こうした偽造検査は、感染拡大を悪化させる可能性がある」とマッキー氏は述べた。「もし陰性だったらどうなるだろうか？ 自分が感染者かもしれないのに、ソーシャルディスタンスのガイドラインを守ろうとしなくなるかもしれない。」
アメリカの医薬品・貿易監督機関であるFDA（食品医薬品局）とFTC（連邦取引委員会）は、偽造COVID-19製品を販売している企業7社に警告を発しました。「FDAは、偽造COVID-19製品の販売と宣伝を公衆衛生への脅威と見なしています。FDAは、特に今回のような重大な公衆衛生問題発生時には、オンライン上の情報源を定期的に監視する積極的な監視プログラムを実施しています」と、FDA長官のスティーブン・ハーン氏は述べています。
モグラ叩き
COVID-19検査キットを販売する偽広告は、英語、スペイン語、ロシア語から中国語、日本語まで、あらゆる言語で見受けられます。「パンデミックと同様に、これは世界的な問題です」とマッキー氏は述べました。
S-3リサーチ社は現在も開発中のソフトウェアの再学習に取り組んでおり、Twitterのほか、RedditとLinkedInからもウイルスに言及した投稿を8000万件以上収集した。各投稿のテキストは教師なし学習アルゴリズムによって分析され、コロナウイルスと販売に関連する単語のクラスターが特定された。そして、「検査キット」「迅速な結果」、ショッピングサイトへのリンクといった疑わしいテキストのパターンが、偽のコロナウイルス関連商品の悪質な広告の指標として特定された。これらのパターンは分類器に学習させ、偽の検査機器を宣伝していると思われるインターネット投稿を自動的にフラグ付けできるようにする。
訓練されたシステムが完成すれば、FDA などの規制当局もその恩恵を受けるだろうし、ソーシャル ネットワークにも役立つ可能性があると言われている。
「分類器を訓練するための正確な特徴をまだ模索しているところです」とマッキー氏は述べた。「今のところ、悪質なコンテンツをうまく削除できている人はいません。プラットフォームは自力で削除できますし、リソースも豊富です。しかし、公衆衛生のニーズを満たすことに注力しておらず、技術的な観点から見ても非常に困難です。」
「これは非常に突発的なものです。すべてはニュースや人々が共有する情報に基づいています。例えば、FDAが突然新しい種類の検査キットを承認した場合、詐欺師たちはまさにそのキットを宣伝し始めます。」
偽造品の販売業者を摘発するのはモグラ叩きのようなものです。ウェブサイトやアプリから排除されても、詐欺師は新しいアカウントを登録するだけです。テクノロジーだけでは解決できません。人々が検査や治療の実態を理解し、オンラインで偽物を購入しないよう教育する必要があります。しかし、奇跡の治療法に関するツイートを鵜呑みにするような人は、専門家の意見に耳を傾けないのではないかと懸念しています。
実際の検査や治療がどのように機能するかを説明する、当局からのより強力で明確なアドバイスは、偽の治療法、原因、検査に関する誤った情報や根拠のない有害な陰謀論の拡散を検出し、阻止するシステムとともに役立つ可能性がある。
「人々が使用すべき製品や医薬品に関する正しい情報を提供するためには、何が起こっているのかを特定し、その特徴を明らかにする必要があります。新型コロナウイルスはパンデミックであるだけでなく、インフォデミック（情報社会の混乱）でもあります。これに対抗するには技術的な解決策が必要です。これが最後のパンデミックになるわけではありません。」
S-3は今月、その活動の詳細をまとめた論文を発表する予定です。準備が整い次第、お知らせいたします。®
追加更新
その論文はすでに出版されました。
