フェイスブックが、求人、住宅、信用に関する広告が不当な差別をしているとする5件の訴訟を解決してから2年が経ったが、南カリフォルニア大学の研究者らは、同社が依然として性別に基づいて不公平な求人広告を掲載していることを発見した。
今月下旬にウェブカンファレンスで発表される予定の「求人広告配信アルゴリズムにおける差別の監査」と題する論文では、南カリフォルニア大学の博士課程学生であるバジリアル・イマナ氏、同大学のコンピュータサイエンス学科助教授アレクサンドラ・コロロバ氏、同大学のコンピュータサイエンス学科研究教授ジョン・ハイデマン氏が、Facebook と LinkedIn におけるアルゴリズムによる求人広告配信の偏見について調査している。
コロロバ氏はThe Registerへの電子メールで、米国の法律では資格に基づいて広告配信を差別化することが認められているため、彼女と同僚は資格に基づく合法的な偏見を排除しながら偏見をテストする方法を開発したと説明した。
「職務資格を考慮しても、Facebookはバランスの取れたターゲティングで求人広告の配信に性別による偏りを生じさせている」とコロロバ氏は述べ、このことが「Facebookの広告配信アルゴリズムは単に偏っているだけでなく、実際に差別的である」という議論を推し進めるものだと指摘した。
「興味深いことに、LinkedInのアルゴリズムを監査した際には、そのような影響は見られませんでした」と彼女は付け加えた。
2019年、コロロバ氏は、Facebook社が前述の公民権訴訟を解決し、差別的広告に対抗するための変更を発表した直後に、Facebook社の広告配信における偏った行動が広告予算と広告内容に起因することを発見した一群の学者の一人でした。
もう一度確認しましょう
今回、コロロバ氏とその同僚は、FacebookとLinkedInのアルゴリズム広告プラットフォームが、男性と女性と特定された閲覧者（そのデータが入手可能な場合）に、その職種に予想される性別の分布とは異なる比率で求人広告を配信することで、どのように求人広告を歪めているかを調査した。
研究者たちは、配達ドライバー、ソフトウェアエンジニア、営業担当者という3つの異なる職種における2つの広告のパフォーマンスを、性別分布の既知の違いを考慮して比較することで、この目標を達成しました。そして、FacebookとLinkedInの広告受信者における期待される性別比率と実際の性別比率を比較検討しました。
そうした広告ペアの 1 つは、Domino's Pizza の配達ドライバー (男性 98%) の広告と、Instacart で食料品を運ぶ配達ドライバー (女性 50% 以上) の広告で構成されていました。
4人の女性がインフォシスを性差別で訴えるため強制仲裁からの解放を求める
続きを読む
「これらのサービスのドライバーの実際の性別分布は、ドミノ・ピザでは男性に偏り、インスタカートでは女性に偏っている」と論文は説明している。
「プラットフォームがインスタカートの広告をドミノ・ピザの広告よりも比較的多くの女性に表示している場合、両方の仕事の資格要件は類似しており、性別による偏りは視聴者の性別による資格の違いに起因するものではないため、プラットフォームのアルゴリズムは差別的であると結論付けます。」
研究者らは「Facebookでは統計的に有意な性別の偏りが見られ、LinkedInでは性別の偏りは見られなかった」ことを発見した。
ソフトウェアエンジニアリングの求人広告については、研究者らはNetflix（女性35%）とNvidia（女性19%）の採用広告を選択した。従業員の属性における既存の違いを学習・統合するアルゴリズムを用いた広告プラットフォームであれば、Netflixの求人広告はNvidiaの求人広告よりも多くの女性に表示されるだろうと研究者らは予想しており、結果は予想外ではなかった。
Facebook は再び広告配信を性別によって偏らせたが、LinkedIn はそうしなかった。
販売員の職種については、Reed Jewelers（連邦雇用統計によると、宝石販売の女性割合は62パーセント）とLeith Automotive（自動車販売の女性割合は17.9パーセント）の求人広告を比較しました。
この求人広告のカテゴリーでも、前回と同様の結果が出ています。「Facebook 上のすべての求人の間で統計的に有意な配信の偏りが見られましたが、LinkedIn 上の 3 つのケースのうち 2 つでは見られませんでした。」
研究者らは、性別によるフェイスブックの広告偏向は資格の違いだけでは説明できないと主張し、その研究結果は「フェイスブックのアルゴリズムが違法な差別的結果の原因となっている可能性がある」ことを示唆していると指摘した。
コロロヴァ氏によると、Facebookは研究者の調査結果を知らされていたが、返答していないという。The RegisterはFacebookにコメントを求めたが、返答は得られていない。
何かが起こっている
Facebook のアルゴリズムが LinkedIn のものと異なる動作をするのはなぜかと尋ねられると、コロロバ氏はいくつかの可能性を挙げた。
「FacebookはLinkedInよりもユーザーに関するデータソースを多く保有している可能性があり、それによって現実世界の偏りをより正確に把握できる可能性がある」と彼女は示唆した。「Facebookは、広告配信アルゴリズムにおいて、エンゲージメント推定値をLinkedInよりも重視している可能性がある。LinkedInは、公平性を確保するためにアルゴリズムに意図的な工夫を凝らしている可能性がある。」
彼女はまた、使用された調査方法がLinkedInのアルゴリズムを分析するには不十分かもしれないと認めたが、LinkedInはアルゴリズムの公平性に対処するために一致団結して努力してきたようだと指摘した。
コロロヴァ氏は、自身と同僚が求人広告の表示方法の最適な方法を提案するつもりはないと述べた。「広告の受信者の性別は、ターゲット層の性別を反映するべきだというのが私たちの考えです。これは、すべての訪問者に広告を表示するという単純なアルゴリズムでも同様の結果になるはずです」と彼女は述べた。
従業員の多様性を高めることに関心のある広告主は、「誰に広告を出すかという決定をフェイスブックに『却下』されるのではなく、バランスの取れた視聴者に広告を出せるようになるべきだ」と彼女は語った。
コロロバ氏は、外見上は中立的な特性が偏見を反映する可能性があることを認めつつ、自宅の位置情報データが過去のレッドライニングの偏見を捉えている例を挙げ、フェイスブックの広告配信が差別的になることは避けられないわけではないと述べた。
「フェイスブックのアルゴリズムが偏った配信につながるという複数の過去の観察や、フェイスブックがそれに対処しているとの声明を考慮すると、われわれのデータにおいて彼らの結果が差別的であることは特に驚くべきことだ」と彼女は語った。
「Facebookの場合、これらの結果は、広告主とユーザーの『価値』（またはエンゲージメント）を最適化するという同社のビジネスモデルと一致しており、外部からの評価と潜在的な規制の重要性を示唆している。」
研究者たちは、広告料に5,000ドル近くかかる研究費用と、数ヶ月に及ぶ時間的投資を理由に、FacebookやLinkedInのような広告プラットフォームは、広告が差別禁止法に準拠しているかどうかをより簡単かつ低コストで検証できるようにすべきだと主張している。そして、これらのプラットフォームが独自にそのような措置を講じる可能性は低いため、アクセスを義務付ける法律を制定すべきだと提言している。
「Facebookの広告配信アルゴリズムについて、公益研究者による監査を実現可能にしたいと考えています。そうすることで、広告の偏りに関する透明性が高まり、問題への対処が促進されると考えているからです」とコロロバ氏は述べた。「Facebookの現在の透明性向上への取り組みは、実現可能性という目標に大きく及ばない状況です。」®
