YouTubeは、小児性愛者同士のコミュニケーションや、児童虐待ビデオへのリンクに使用されていたとされる数百万本の動画のコメント機能を無効にした。
この異例の措置は、視聴回数を増やし、ひいては広告収入を何よりも増やすことを目的に設計されたこのウェブ巨人のシステムが根本的に破綻していることを示すさらなる兆候だ。
YouTubeは木曜日のブログ投稿で、「過去1週間、略奪的行為の可能性がある数千万本の動画のコメントを無効にしました」と述べた。「これらの取り組みは、未成年者が登場する動画に重点を置いており、今後数ヶ月にわたり、リスクのある動画の特定を継続していきます。」
この決定は、幼児の無害な動画のコメント欄が不適切なコメントを書くために使われているとして、あるユーチューバーが怒りの暴言を投稿したことを受けて、今月AT&Tやフォートナイトゲームの開発元であるエピックなどが同サービスの広告主ボイコットを実施したのを受けてのものだ。
マット・ワトソン氏は、YouTube上の「ソフトコア小児性愛者グループへのワームホール」と称する動画の概要を説明した20分の動画を投稿した。動画では、ヨガやアイスクリームを食べるといった日常の無邪気な活動を行う幼い子供たちの動画を次々と紹介し、不適切なコメントや、子供が危険な状況に置かれていると見られる動画内の特定の箇所にジャンプするコメント欄へのリンクを指摘した。
小児性愛者ネットワーク
不快ではあるものの、曖昧であり、完全に違法というわけではありません。しかし、ワトソン氏は、小児性愛者が連絡先を共有しているのを目撃したと主張し、コメント欄に投稿されたリンクをたどって児童虐待画像にアクセスしたこともあると述べています。しかし、彼はこれらの主張を裏付ける証拠を提示していません。
証拠がないにもかかわらず、この動画が急速に注目を集めたため、広告主はサービスから広告を撤回しました。数日後、このインターネットの巨人は問題を解決すると公に約束しました。
その後すぐに、全米性的搾取センターがこのクリーンアップについて調査し、十分な対策が取られていないと述べた。YouTubeはコメントの一部を削除していたが、収益化をさらに進めるために動画をオンラインに残していた。伝えられるところによると、動画には、登場する子供たちと連絡を取る方法や、同じ考えを持つ変質者とネットワークを築く方法が詳しく含まれていたという。
「たった2回のクリックで、小児性愛者や児童虐待者によって子供たちが性的に扱われている動画の迷宮に入り込むことができた」と、米国に拠点を置く同センターの支援活動担当副代表、ヘイリー・ハルバーソン氏は語った。
「YouTubeのおすすめアルゴリズムが、何十万、時には何百万回も視聴されている動画をどんどん表示してきて、クリックするたびにコンテンツはより露骨に性的なものになっていったのです。」
「YouTubeはこうしたコンテンツを排除していると主張しているにもかかわらず、今のところYouTubeは、幼い子供を性的に刺激する動画や、小児性愛者がネットワークを構築し、情報やより露骨な児童ポルノへのリンクを交換する拠点となっている動画から収益を得続けている。」
「YouTubeはこれらの動画を削除しないことで、子どもたちを危険にさらしている。」
現在、YouTube は幼児が登場するほぼすべての動画へのコメントをシャットダウンしており、この問題の極めて繊細な性質を浮き彫りにしています。
お金を見せて
しかし、同じブログ記事の中で、YouTube は、批評家が問題の背景にあると指摘する文化そのものを示し続けた。つまり、広告と収益を何よりも優先させようとする姿勢と、提供するサービスに対する編集責任を認めようとしない姿勢だ。
同社は「少数のクリエイターは、こうしたタイプの動画へのコメント投稿を有効にし続けることができる」と述べ、「こうしたチャンネルは、積極的にコメントを管理することが求められる」と付け加えた。
これらの免除されたチャンネルは、サービス上で最も人気があり、したがって最も収益性の高いチャネルであると考えるのが妥当でしょう。
しかし、もっと重要なのは、YouTube がこの問題に対して提案している解決策は、Facebook と Google が長年、不適切なコンテンツやフェイクニュースへの解決策として推進してきたものと同じであり、効果的なモデレーションには程遠いままである、人工知能だ。
YouTubeは「ポリシー違反を理由に数億件のコメントを削除してきたが、略奪的なコメントを識別して削除する、さらに効果的な分類システムの開発に取り組んできた」と指摘した。
Google傘下のYouTubeは、コンテンツとコメントのフィルタリングに機械学習アルゴリズムのみを使用する（あるいは使用すると主張している）と明言しています。そうでなければ、違法コンテンツに対する責任を負ってしまう可能性があるからです。そのため、YouTubeをはじめとするソーシャルメディアは、従来のメディアにおける「パブリッシャー」ではないと主張しながらも、プラットフォーム上で公開するコンテンツから数十億ドルもの収益を上げ続けています。
しかし注目すべきは、YouTube が、この新しい改良されたシステムは「動画の収益化には影響しない」と強調した点だ。
ルーパー
また、このウェブ大手は、批評家たちの最大の懸念事項の一つ、つまり同社のアルゴリズムが視聴中の動画に似た動画を自動的に表示し、危険なループを生み出す可能性があるという問題にも対処できていない。
シリコンバレーのYouTubeは以前、ユーザーを陰謀論のワームホールに陥れ、例えば地球が平面であるといった動画を視聴すると、次々と別の動画へと誘導するなど、批判を浴びてきました。こうした動画を投稿するユーザーは、陰謀論的な趣旨の動画も視聴・投稿する傾向があり、結果としてYouTubeはそれらの動画もおすすめとして表示してしまうのです。
人種差別、性差別、白人至上主義的なコンテンツでも同様のパターンが観察されています。専門家によると、オンラインのエコーチェンバーは極めて不健全な状態になり得るとのことです。今回のケースでは、幼い子供の動画を1つクリックすると、関連動画がすぐに他の幼い子供の動画で占められるようになり、結果として、幼い子供が登場するという点だけが唯一の関連性を持つ動画（例えば、好きな映画やアクティビティといった具体的なトピックではなく）を多数見たい人々が集まる、事実上の出会いの場が生まれてしまったことが注目に値します。
しかし、YouTube にとって、このアプローチは非常に利益をもたらします。なぜなら、ほとんどの場合、ユーザーが選択した動画の終了後に視聴をやめてしまう可能性があったとしても、このアプローチによって同様のコンテンツを視聴し続けるようになり、結果として広告の数字と収益が増加するからです。
嫌がらせ、憎悪、悪意、子供への自殺願望…ソーシャルメディアの得意技は他に何かある？ああ、そうだ、サイバー犯罪だ
続きを読む
YouTubeは、新規アカウントやコンテンツの作成、そしてアカウントによる不正利用の苦情に対しても、非常に緩い規制アプローチを採用しています。YouTubeは、追加の規制はサービスを不必要に制限すると主張していますが、批評家は、規制の欠如、あるいは施行されている規制の欠如が、あらゆる行為を許し、小児性愛者が子供向け動画に不適切で不快なコメントを投稿したり、さらには（最も憂慮すべきことに）オンライン上で集団で活動したりする状況につながると指摘しています。
「クリエイターが当社のポリシーに違反し、ユーザーやクリエイターコミュニティ全体に明白な損害を与えた場合、当社は引き続き措置を講じます」と、同社は改めてユーザー自身の責任だと強調した。「引き続き、このような問題がございましたらご報告ください。」
ちなみに、マット・ワトソンが投稿した、この問題を浮き彫りにする元の動画（下記に埋め込み）は、YouTubeのシステムで検索してもなかなか見つかりません。なぜでしょうか？それは、クリック数を増やして広告収入を得ようと、ワトソンの怒りの暴言に対して怒りの暴言を投稿する他のYouTuberがプラットフォームに殺到しているからです。
YouTubeビデオ
そして、ソーシャル メディアが奨励し、奨励し続けている破壊的な言説を反映して、最も人気のあるビデオは、ワトソン氏に同意するものでも、問題をさらに掘り下げるものでもなく、むしろ彼を個人的に攻撃するビデオです。®
追伸： YouTubeは依然として、若者向けの怪しい動画に悩まされているようです。YouTube Kidsの動画では、視聴者に手首を切るという最も効果的な自殺方法を思いがけず教えていました。
