分析米国環境保護庁が小麦1キログラムあたり最大9mgのげっ歯類の排泄物と、3か月間の空気中の鉛0.15μg/m 3を許容するのと同様に、Facebookは有害なコンテンツが常にサービスの一部になると予想しています。
マーク・ザッカーバーグCEOは昨年11月の投稿でこの問題に触れ、フェイスブックのコンテンツ浄化の取り組みは完璧になることは決してないが、改善は期待できると述べた。そして木曜日の記者との電話会議でも同様の発言をし、あらゆる場所で機能するコンテンツ・モデレーション・システムを構築することは不可能だと指摘した。
メディアコールは、米国のウェブ界の巨人による第3回透明性レポートに焦点を合わせました。このレポートは、これまで以上に多くの悪質なコンテンツに関する情報を提供しています。ザッカーバーグ氏による概要説明の後、ソーシャル広告事業のインテグリティ担当バイスプレジデントであるガイ・ローゼン氏は、同社の役割を環境規制当局に例えました。
同社は自社の「有病率」指標をこのように説明している。「大気質を測定する際、環境規制当局は大気中の二酸化窒素の割合を調べ、それが人体にどれほど有害であるかを判断します」と同社は木曜日のブログ投稿で説明した。「有病率はインターネット版に相当するもので、人が有害なものを目にする割合を測るものです。」
責任
The Registerのような出版社は、誤植や事実誤認を最小限に抑えるよう努めています。Facebookは、同様の法的責任を負わないにもかかわらず、世論の働きかけや政治的な脅迫を受けて、殺人動画、児童搾取画像、テロリストのプロパガンダ、ヘイトスピーチ、ハラスメント、薬物販売、その他関連する悪質なコンテンツへのユーザーの露出を制限するという、自らの責任を負っています。これは困難な課題であるため、ザッカーバーグ氏は政府にガイダンスの提供を求め続けています。
ザッカーバーグ氏の「屈服しつつもなお除去を続ける」という姿勢に倣い、同社の報告書は、ヘイトスピーチがソーシャルネットワークの空気をどれほど汚染しているかは誰にも分からないことを認めている。報告書によると、Facebookは文化的背景や言語のニュアンスを考慮した、世界的な普及指標の開発に取り組んでいるという。
それでも、フェイスブックは2019年第1四半期に400万件のヘイトコンテンツに対して対策を講じました。これは前四半期の330万件から増加しており、システムはそのうち65.4%を積極的にフラグ付けしました。これはAIへの投資とコンテンツモデレーターの増員によるもので、2018年第4四半期の58.8%から増加しています。積極的にフラグ付けされたコンテンツは、閲覧される前に削除されるため、これは重要な意味を持ちます。
Facebookは約15万件のヘイトスピーチ削除を取り消した。そのうち2万1200件はFacebook自身によるもので、13万件はコンテンツを投稿した人々からの再申し立てによるものだ。
Facebookでは、いじめや嫌がらせ、スパム、規制対象商品（麻薬や銃器）に関する投稿についても、蔓延率の測定ができなかった。
2019年第1四半期の児童搾取画像の削除件数は、前四半期の680万件から540万件に減少しました。これは、コンテンツモデレーターに対し他の分野に注力するよう指示したことが一因です。また、ローゼン氏によると、Facebookの検出システムに新しいファイルハッシュが追加されないバグが発生しており、現在は解決済みとのことです。
普及率で言えば、Facebookの閲覧1万回のうち3回未満が児童搾取コンテンツでした。テロリストのプロパガンダについても同様の統計が当てはまります。成人のヌードや性行為については、2019年第1四半期の閲覧1万回のうち12～14回に1回の割合で同様のコンテンツが含まれていました。また、閲覧1万回のうち23～25回に1回の割合で、残酷な暴力描写が含まれていました。
偽のビューです！
この四半期に削除された偽アカウントは22億件を超え、これはFacebookが発表する月間アクティブユーザー数とほぼ同数です。これは前四半期より10億件増加しており、これは自動攻撃の増加によるものとされています。Facebookは、これらの偽アカウントのほとんどが作成後数分以内に削除されたため、利用状況の把握や広告料金の設定に使用された指標にはカウントされていないと主張しています。
フェイスブックとグーグルのユーロ偽ニュース取り締まりを遅らせるためのソフトマネー「脅迫」が明らかに
続きを読む
ローゼン氏は、2018年第4四半期と2019年第1四半期に、偽アカウントがフェイスブックの全世界の月間アクティブユーザー数の約5％を占めたと推定した。これは、同社が2018年第2四半期と第3四半期の3％から4％と推定していた数値よりも増加している。
電話会議に参加したFacebook幹部は、AIの改良が同社の事前検知能力に与えた影響を称賛する一方で、技術の限界も認めた。ローゼン氏はAIは「万能薬ではない」と述べ、人間の関与も必要だと指摘した。
その目標達成に向けて、グローバルオペレーション担当副社長のジャスティン・オソフスキー氏は、先週発表されたコンテンツレビュー契約社員の時給引き上げについて強調しました。サンフランシスコ・ベイエリア、ニューヨーク、ワシントンD.C.では時給22ドル、シアトルでは時給20ドル、その他の米国大都市圏では時給18ドルとなっています。ちなみに、これはFacebookの技術インターンの時給の約半分です。
モデレーターには、現場でのカウンセリングも24時間提供されます。首を切ったり子猫を踏み潰したりするビデオを一日中見続けるのは、精神的な負担となります。
「この規模でのコンテンツレビューは簡単なことではありません」とオソフスキー氏は語った。®
