もう一つ、注意点があります。テクノロジー大手が「AIがあなたの話を聞いている」と言うとき、それは人間があなたの話を聞いているという意味です。Facebook、そうですよね？

Facebookは、中毒者のプライベートな音声通話のクリップを聞き、AIソフトウェアが理解できない会話の一部を書き起こすため、数百人の請負業者を秘密裏に雇用していた。

火曜日のブルームバーグの報道によると、基本的に、Facebook Messenger に音声通話の自動文字変換を許可し、この反社会的ネットワークの機械学習コードが雑談中に何を言ったのか理解できなかった場合、音声クリップが人間と共有され、それを聞いて何を言ったのか理解することになるという。

契約社員たちは音声クリップの出所を知らされておらず、ただ録音を聴いてFacebookのシステムに入力するように指示されただけだった。おそらく、これらの音声は米国の巨大IT企業FacebookのAIコードにフィードバックされ、文字起こし能力の向上に役立てられたのだろう。音声サンプルは匿名化されていたようだが、人間のフリーランサーたちがどれほど恥ずかしい、プライベートな内容を耳にしたかは想像に難くない。Messengerアプリのこの音声テキスト変換機能は、オプトイン方式だったと理解している。

Facebookのポリシーでは、同社は「アカウント登録、コンテンツの作成または共有、他のユーザーとのメッセージのやり取りなど、Facebook製品の使用時に提供されるコンテンツ、通信内容、その他の情報」を収集すると規定されています。しかし、音声通話が分析のために人間と共有されるかどうかは、あまり明確ではありません。

テクノロジーの巨人があなたのプライベートな会話を盗聴していることは、それほど驚くべきことではありません。Amazon、Apple、Microsoft、Googleも、ネットユーザーの会話を盗聴するために外部業者を雇っていることを認めています。今日の人工知能アルゴリズムは悪くはないものの、善とは程遠く、目に見えないところで人間が操作して形を整えているからです。どの企業もこのことを明言しません。そうでなければ、コードだけでなく人間の手によってどれほど多くの個人情報が検査されているかを知ったら、人々、政治家、規制当局は完全にパニックに陥ってしまうでしょう。

4月、AmazonがデジタルアシスタントAlexaのパフォーマンスを人間を使って監視していたことが明らかになりました。この不気味なデバイスがユーザーのリクエストに適切に応答しているかどうかを確認するためです。ところが、プライバシー設定を変更することで、Alexaを介した人間による監視を阻止できることが判明しました。

先月、Appleの請負業者として働く内部告発者は、人間による分析のためにSiriが収集した音声サンプルに、セックスをしている人々や、機密の医療情報について話している人々、または怪しい麻薬取引をしている人々の音声が含まれていることがあると暴露した。

Googleは先月も、スマートスピーカーの詮索癖について白状した。Google Homeデバイスのマイクで録音された音声クリップは、「言語の専門家」に渡され、レビューされていたという。「これは音声技術開発のプロセスにおいて非常に重要な部分であり、Googleアシスタントのような製品の開発には不可欠です」と、検索王のGoogleは当時述べた。

Facebookに音声通話の文字起こしについてさらに説明を求めたが、広報担当者は「AppleやGoogleと同様に、私たちも1週間以上前に人間による音声の審査を一時停止しました」という短い声明を出し、公式の場では話さなかった。®