Alexaがすべてを録音してオンラインで漏らすという馬鹿げた恐怖を知っていますか？それが今起こったのです

更新「アレクサ、そう言ったでしょ」のバナーを出す時が来た。オレゴン州ポートランドのカップルが今月初め、夫の従業員の一人から、自宅で二人きりで話している録音を妻が受け取ったと告げる電話を受けたからだ。

「今すぐアレクサ機器の電源プラグを抜いてください」と、身元を明かすことを望まない夫婦にスタッフは告げた。「ハッキングされています」

当初、夫婦はいたずら電話かと思った。しかし、100マイル以上離れたシアトルに住む従業員が、二人がフローリングについて話していたところだったと明かし、漏洩を認めた。

録音は、夫妻のAlexa搭載Amazon Echoから、夫の連絡先リストに登録されている従業員の携帯電話に送信されていました。従業員はその音声を妻のダニエルに転送しました。ダニエルは、自分が床について話しているのを聞いて驚きました。この出来事は予想外だったと言わざるを得ません。夫妻はAlexaに会話のコピーを誰かに渡すように指示していませんでした。

「侵害されたと感じました」とダニエルさんはKIRO-TVに語った。「完全なプライバシーの侵害でした。すぐに『もう二度とあの機器は使わない。信用できないから』と言いました」

その後、夫婦は家中を歩き回り、サーモスタットやセキュリティシステムなどさまざまなスマートホームデバイスを管理するためにあらゆる場所に設置していたAmazon Alexaガジェットのプラグを抜き、その後、このウェブ大手に電話をかけ、この盗聴技術について苦情を申し立てた。

ダニエルさんによると、アマゾンは音声起動のデジタルアシスタントがファイルを録音し、ほとんど見知らぬ人に送信したことを認め、深く謝罪したが、なぜこのようなことが起きたのかについては一切説明しなかった。

「彼らは『弊社のエンジニアがログを確認したところ、あなたがおっしゃった通りの状況を確認しました。まさにあなたがおっしゃった通りのことが起こりました。申し訳ありません』と言いました。彼は30分ほどの間に15回も謝罪し、『この問題を指摘していただき本当に感謝しています。これは修正が必要な問題です』と言っていました！」

彼女はすべてのAlexaデバイスの返金を求めたが、今のところ同社は応じていないと述べた。

アレクサ、どうしたの？ごめんなさい、今は応答できません

我々はアマゾンに説明を求めたが、本日、この米国大手企業は、ソフトウェアに問題があったことを認める回答をした。

Amazonはプライバシーを非常に重視しています。発生した事象を調査した結果、極めて稀な事例であると判断しました。今後、このような事態が発生しないよう対策を講じています。

このようなことが起こるということは、Alexa デバイスのプログラミングに重大な問題が発生していることを意味します。

これらのマシンは「アレクサ」のウェイクワードを常に聞き取るように設計されており、マイクから1秒間の音声バッファを常に確保してコマンドを待ちます。バッファ内でウェイクワードが検出されると、会話が途切れるまで音声を録音し、その音声をAmazonのクラウドシステムに送信して文字起こしを行い、必要な操作を判断して応答します。

常に会話しながら聞き取るこのシステムは驚くほど効果的で、消費者向け製品として大成功を収め、Google や Apple からも競合する音声制御機器が発売されるきっかけとなった。

それ以来、アマゾンはAlexaを基盤技術として位置づけるためにあらゆる手を尽くしてきた。Alexaをアプリに開放し、スマートホーム製品と連携させて音声コマンドで家の中を変更できるようにし、さらに最近では連絡先リストにアクセスして電話をかけられるようにした。

すべてが素晴らしいように聞こえますが、うまくいかないとデバイスがバグのように動作し、自宅のプライバシーの中で話した内容を録音し、その録音を一見ランダムな連絡先に送信します。

実のところ、AmazonはAlexaの有用性を拡大し、市場における優位性を確固たるものにしようと躍起になりすぎて、あまりにも急ぎすぎている。ここ数ヶ月、デバイスがウェイクワードを誤って認識することがあまりにも多く発生している。ユーザーがそれに気づくのは、デバイスが質問していないのに予期せぬ返答を返してきた時だ。

Alexaの音声認識とAIシステムも完璧とは程遠く、誤解を招く可能性があります。しかし、そうした誤解や予期せぬ応答がそれほど頻繁でない限り、製品全体の利便性を考えると、ユーザーはそれを我慢しています。

拡大の問題

しかし、デバイスの機能が絶えず増え続けることの問題は、意味不明な返答を返すよりも、誤解の方がはるかに大きな影響を与える可能性があることです。デバイスは今や、電話をかけることから家を暖めるまで、幅広い機能やサービスとやり取りするためのコマンドを聞き取ることを期待しています。そして、AmazonはAlexaがコマンドが明確でない場合、それを再確認するのではなく、聞いたと思われる内容に基づいて即座に行動することを許可しすぎているように思われます。

おそらくこのケースでは、システムはウェイクワードを誤って認識しただけでなく、会話を連絡先リストの相手に電話をかけるように指示されていると誤解したと考えられます。そして実際に電話をかけ、その後、ある時点で会話は終わったと判断し、再びスリープ状態に戻りました。

デバイスが動作をアナウンスした（本来は動作するように設計されている）のに、それが聞き取れなかったのか、それともアナウンスしなかったのかは、重要な情報です。ただし、エンドユーザーにとっては、この区別は実際には重要ではないかもしれません。

このようなシステムに対する誰もが抱いていた懸念が現実のものとなったため、状況から深刻な影響が出ることは明らかだ。

Amazonは、何が問題だったのか、どのように対応し、どの程度の情報を提供するべきかについて、激しい議論を交わすことになるだろう。数日以内には、問題を発見し、二度と再発しないように修正したという連絡が来ることは間違いないだろう。そして、なぜ今回が一回限りだったのか、納得のいく理由も示されることを期待している。

しかし真実は、ハードウェアまたはソフトウェアの間違いがあれば、Alexa デバイスは簡単にバグになる可能性があり、デバイスを頻繁に更新しようと急ぐあまり、Amazon が大きなミスを許してしまったことは間違いないということです。

それでは、読者の皆様、コメント欄でお楽しみください。®

追加更新

Amazonの広報担当者は、Alexa Echoの不具合について、少なくともAmazonの視点から何が起きたのか、より詳しい情報を提供してくれた。Amazonによると、Alexa Echoはカップルのプライベートな会話を盗み聞きした際に起動ワードを誤認識し、フローリングの話をコマンドとして認識し始め、そこから事態は悪化したという。Amazonの説明は以下の通り。