Cloudflareのファミリー向けDNSサービスが最初のフィルタリングで失敗：重要なLGBTQや性教育サイトが「誤って」ブロックされる

言論の自由を擁護することで知られる Cloudflareは、成人向けコンテンツをブロックするために DNS サービスの自称ファミリー向けバージョンを展開しましたが、最終的には LGBTQ の Web サイトや性教育リソースへのアクセスを拒否する結果となりました。

水曜日に導入されたこのサービスは「1.1.1.1 for Families」と呼ばれています。家庭のインターネットユーザーがマルウェアをブロックし、お子様がアダルトコンテンツを閲覧するのを防ぐことができます。保護者の方は、デバイスまたはゲートウェイの設定で、マルウェアを配信するウェブサイトからの保護にはDNSリゾルバー1.1.1.2、マルウェアおよびアダルトコンテンツからの保護にはDNSリゾルバー1.1.1.3を使用することができます。

ブラウザやその他のアプリは、DNSリゾルバを使用して、theregister.comのようなドメイン名を接続可能なネットワークアドレスに変換します。そのため、CloudflareのフィルタリングされたDNSは、アクセス禁止または危険と見なされるドメイン名の参照を拒否し、子供などのユーザーが有害なコンテンツを閲覧するのを防ぎます。これが理論です。

しかし、Cloudflareのアダルトコンテンツに対する当初のフィルター設定により、ユーザーはStonewall、LGBT Foundation、Outright、Mermaids、Broken Rainbow、Transgender Law Center、Lambda Legal、さまざまな性教育サイトなど、有用かつ重要なオンラインリソースにアクセスできなくなっていました。

カナダのバンクーバーを拠点とする擁護団体、Open Privacy Research Societyの事務局長サラ・ジェイミー・ルイス氏はツイッターで、不適切なサイトブロックを行っているとしてCloudflareを非難した。

「文字通りのナチスを自社のプラットフォームからブロックするという決定に何週間も苦悩し、その後数分でセックスワーカーを犠牲にすることを決めた@Cloudflareのような組織なら、検閲ゲームに参入する際にはもっと配慮するはずだと考えるだろう」と彼女は語った。

CloudflareのCEOであるマシュー・プリンス氏はすぐに反応し、「これは当社の愚かなミスであり、直ちに修正します」と述べた。

ルイス氏は、自身が特定したサイトのうち、すべてではないものの、一部のサイトはブロック解除されたと述べた。

プリンス氏はThe Registerへのメールで、その旨を述べた。「これはひどいミスであり、できるだけ早く是正できるよう取り組んでいます」と彼は述べた。「インターネットの分類には、様々な外部分類サービスを利用しています。『Googleセーフサーチ』のようなサービスを目指していたのですが、あるプロバイダーの「アダルトテーマ」に含まれていたカテゴリーがいくつかあり、調査時に見落としていました。」

同社によれば、1.1.1.1 for Families は、同社の Gateway 企業ファイアウォールと同じサイト フィルタリングおよび分類テクノロジを使用しているという。

「インターネットを広範囲にカバーするために、複数の外部ソースを組み合わせて利用しています」と、同社の広報担当者はThe Registerへのメールで説明した。「プロバイダーのリストは常に見直し、相互に誤りがないかチェックしています。将来的には、ユーザーがより細かく、自分にのみ適用されるカテゴリーを追加選択できる機能を提供する予定です。」

ルイス氏はツイッターのダイレクトメッセージで、コンテンツのフィルタリングは難しい場合があることを認めたが、クラウドフレアはサービスを開始する前に、そのサービスが何をブロックするのか理解しておくべきだったと述べた。

「コンテンツフィルタリングは非常に難しい問題です」と彼女は述べた。「おそらく、インターネット技術における最も難しいシステム上の問題の一つでしょう。とはいえ、クィアの若者を支援するためのコンテンツをフィルタリングすることは、事実上すべてのナイーブなフィルタリング製品が、最初の発明以来行ってきたことです。これは既知の問題であり、Cloudflareの社員がサービス開始前にリソースサイトにアクセスしようとしなかった（あるいはアクセスしたとしても問題だとは思わなかった）という事実は、個々のサイトをホワイトリスト化するだけでは解決できないシステム上の問題を明らかにしています。」

ルイス氏にとって今回の失策が特に腹立たしいのは、Cloudflareが過去に検閲の危険性について声高に訴えてきたからだ。プリンス氏が2011年に書いたように、「Cloudflareは、私たちの役割はインターネット検閲ではないという確固たる信念を持っています」。

「この『間違い』が存在すること自体が、Cloudflareにおける組織的な問題を明らかにしています。この問題は、毎年何百万人ものクィアの若者が自殺を図っています。そして、そもそもこれらのサイトが存在する理由も明らかにしています」とルイス氏は指摘した。「中立的な第三者を標榜しながら、その一方で、このような疎外された層を明確に標的とするポリシーを制定するなど、許されることではありません。」

ルイス氏は、クラウドフレアが、害を与えることなくフィルタリングできることを実証できるまで、コンテンツブロッキングサービスをオフラインにすべきだと主張している。®

追加更新

Cloudflareは、「何が起こったのか、なぜ起こったのか、そしてそれを解決するために何をしたのか」を説明するブログ記事を公開した。

完全な開示: The Register は Cloudflare の顧客です。