更新：斬首、強姦、拷問などからソーシャルネットワークを守るために雇われたフェイスブックの契約社員が、不快なコンテンツにさらされることによって生じる精神的トラウマから従業員を保護できなかったとして、このテクノロジー大手とその契約会社プロ・アンリミテッドを訴えた。
サンフランシスコ在住のセレナ・スコラ氏を代表して金曜日にカリフォルニア州サンマテオ郡裁判所に提出された訴状では、フェイスブックのコンテンツ管理業務では毎日毎分、斬首事件が起こっていると述べられている。
訴状によると、Facebookは数千人の請負業者を雇用し、毎日サイトに送られてくる何百万もの動画、画像、ライブストリーミング放送をサニタリー処理している。これらの多くには、特に残酷で心を痛めるコンテンツが含まれている。
フェイスブックの殺人動画について何か対策を講じないとザッカーバーグは嘆く
続きを読む
訴状には、「職場で非常に有害で、極めて拡散しやすい画像に継続的に、そして容赦なくさらされた結果、スコラさんは深刻な精神的トラウマと心的外傷後ストレス障害を発症し、苦しんでいる」と記されている。
生々しい暴力や虐待の画像にさらされた人々は、精神的トラウマに悩まされることが多いようです。昨年、マイクロソフトのオンラインセーフティチームの元メンバーが、同様のストレスを理由に同社を提訴しました。
Facebookは最新の透明性レポートで、2018年第1四半期に340万件のコンテンツを削除したと述べており、これは2017年第4四半期の120万件から増加している。シリコンバレーの大手企業は、この増加の原因として、検出技術の向上（約70%）、過激な写真に警告バナーが表示されないようにするバグ修正（約13%）、そして暴力描写のあるコンテンツの急増（約17%）を挙げている。
同社によると、サイトにアップロードされる暴力描写の約86%はシステムが検出し、残りの14%はユーザーからの報告によるものだという。ヘイトスピーチ検出アルゴリズムはそれほど優れておらず、違反コンテンツの検出率はわずか38%で、ユーザーからの報告は62%に上る。
訴状によると、フェイスブックのモデレーターは毎週1000万件の投稿を審査し、ルール違反の可能性がないか確認するよう求められているという。
人間フィルターの小さな軍隊
マーク・ザッカーバーグCEOによると、Facebookはセキュリティとコンテンツレビューを担当する人員を、4月時点の1万5000人から今年末までに2万人に増やす予定だ。訴状によると、現在コンテンツレビューを担当しているのは約7500人だという。
過失と安全な職場環境の維持の不履行を訴えるこの訴訟では、スコラ氏が見たものの詳細については触れられていない。「スコラ氏はフェイスブック社が秘密保持契約を装って報復するのではないかと恐れているからだ」
訴状によると、Facebookはコンテンツモデレーターを保護するための職場安全基準の策定に実際に貢献したという。ソーシャル広告業界のFacebookは、Adobe、Apple、Dropbox、Facebook、GoDaddy、Google、Kik、Microsoft、Oath、PayPal、Snapchat、Twitterとともに、テクノロジー連合と呼ばれるグループに加盟しており、2013年と2015年に「児童性的虐待画像への対応に関する従業員レジリエンス・ガイドブック」と題する報告書を発表している。これらの報告書では、企業が従業員が児童虐待画像への曝露による精神的苦痛に対処するためにどのように支援すべきかを解説している。
しかし、訴状によれば、Facebook は自らのアドバイスに従っていないという。
「Facebookは、自らが創設に尽力した職場の安全基準を無視している」と訴状は述べている。「それどころか、数十億ドル規模のこの企業は、コンテンツモデレーターに対し、精神的トラウマを引き起こし、悪化させることが知られている環境で働くことを積極的に義務付けている。」
The RegisterはFacebookにコメントを求めたが、返答はなかった。®
追加更新
この記事が掲載された後にThe Registerに提出された声明の中で、コーポレートコミュニケーションディレクターのバーティ・トムソン氏は次のように述べた。
現在、この申し立てについて検討中です。この業務は困難な場合が多いことを認識しています。だからこそ、コンテンツモデレーターへのサポートを非常に重視しています。トレーニングの実施、モデレーターが受ける福利厚生の充実、そしてFacebookのコンテンツをレビューするすべての人に心理的サポートと健康関連リソースが提供されるようにします。
「フェイスブックの従業員は社内でこれらの指示を受けており、コンテンツレビューのために提携している企業にも、オンサイトカウンセリング（原告が働いていた場所で利用可能）や、多くの大規模施設にあるリラクゼーションエリアなどの健康関連リソースを含むリソースと精神的サポートの提供を求めています」と彼は結論付けた。
