Facebookは自社のプラットフォーム上での差別をめぐって多くの批判を受けているが、新たな論文は、同プラットフォームの問題がさらに深刻である可能性があることを示唆している。
Facebookは、広告システムが広告主による不法な差別を許しているとの批判が3年間続いた後、先月、広告主による不公平な信用情報、雇用、住宅広告の掲載を防ぐことを目的とした広告プラットフォームの変更を発表しました。その1週間後、米国住宅都市開発省は、Facebookを公正住宅法違反で提訴しました。
しかし、プレプリントサーバーArXivで先日公開された研究によると、広告主による差別的な広告の配信を阻止することは、公平性を重視する人々にとっての課題の一部に過ぎず、Facebookは広告配信インフラに組み込まれた偏見も調査する必要があるという。
ノースイースタン大学、南カリフォルニア大学、テクノロジーアカウンタビリティの非営利団体アップターンの研究者によると、フェイスブックの広告配信システム自体が、明確な意図なくして、包括的な広告を差別的な方向に誘導する可能性があるという。
「最適化による差別：Facebook の広告配信が歪んだ結果につながる仕組み」と題された論文の中で、共著者のモハメド・アリ、ピオトル・サピエジンスキー、ミランダ・ボーゲン、アレクサンドラ・コロロヴァ、アラン・ミスラブ、アーロン・リーケは、広告主の予算と広告内容が広告配信に影響を及ぼし、中立的な広告ターゲティング設定が使用されている場合でも、性別や人種に応じて歪められることを発見した。
研究者たちは、Facebook広告が男性に表示される傾向があることを発見しました。これは、女性が広告をクリックする頻度が高いため、Facebookのシステムを通じて女性にリーチするには費用がかかるためです。この差は広告予算を比較すると明らかになります。広告予算は広告配信に影響を与えるからです。論文では、「1日あたりの予算が高ければ高いほど、オーディエンスに占める男性の割合は少なくなる」と説明されています。
このような分離は、特定の種類のマーケティングの売り込みには適切かつ望ましいかもしれませんが、信用、雇用、住宅の広告に適用すると、問題が生じる可能性があります。
画像の力
入札戦略が同じで性別を問わないターゲティングが使用されている場合でも、広告コンテンツ（テキストと画像）は、男性と女性のどちらに広告が表示されるかに大きな影響を与えます。
特に、研究者たちは画像が広告配信に驚くほど大きな影響を与えることを発見しました。広告URLのリンク先もある程度影響しており、ボディビルディングサイトと化粧品サイトへのリンクを持つ広告は、ベースライン配信においてそれぞれ男性48%と男性40%でした。タイトルと見出しを追加しても、それほど大きな変化はありません。
しかし、研究者らが広告に画像を追加すると、配信パターンは変化し、ボディービルサイトの広告は75パーセントが男性の視聴者に届き、化粧品の広告は90パーセントが女性の視聴者に届いた。
研究者らによると、テストの結果は「Facebook には、ユーザー層の異なるサブセットに異なる広告を誘導するために使用されている、自動画像分類メカニズムが備わっている」ことを示唆しているという。
(Facebook のマーケティング API では、有効な性別の値として「男性」、「女性」、または「不明」が使用されていますが、研究者は今回の研究では「不明」カテゴリを無視することを選択しました。)
信用、雇用、住宅広告に関して言えば、このシステムの問題は、差別すべきでないところで差別を行っていることです。木材業界の求人広告5件は、男性が90%以上、白人が70%以上を占めるオーディエンスに配信されました。清掃作業の求人広告5件は、女性が65%以上、黒人が75%を占めるオーディエンスに配信されました。住宅広告にも人種的な偏りが見られました。
研究者が指摘するように、これらの広告は同じ入札戦略とニュートラルオーディエンスターゲティングパラメータ（広告主が設定）を使用し、すべて同時に配信されました。唯一の違いは、リンク先リンクと広告クリエイティブでした。
業界をリードする当社の素晴らしいAIは、ニュージーランドの虐殺ライブ映像を検知するにはあまりにも愚かだった、とFacebookは肩をすくめる
続きを読む
「私たちの研究結果は、政策立案者とプラットフォームが、デジタル広告における差別を防ぐために、広告主のターゲティング選択だけでなく、プラットフォーム自身によって実行される最適化の役割を慎重に考慮する必要があることを強調している」と研究者らは結論付けている。
フェイスブックの元最高セキュリティ責任者で、現在はスタンフォード大学講師を務めるアレックス・スタモス氏は、この調査結果についてツイッターでコメントし、「これは、（機械学習が）既存の偏見を拾い上げて増幅させるという、ほぼ完璧なケーススタディと言えるでしょう。アルゴリズムにユーザーの繊細な側面を隠させることはできますが、その代替となる要素は見つけてしまうでしょう。特定の広告クラスに対してアルゴリズムによる最適化を行わない以外に、この問題を解決できるかどうかは分かりません」と述べた。
Facebookは、広告システムの改善策を検討していると主張している。Facebookの広報担当者ジョー・オズボーン氏は、The Registerへのメールで「私たちはいかなる形態の差別にも反対します」と述べた。
広告ターゲティングツールへの重要な変更を発表しましたが、これはまだ第一歩に過ぎません。広告配信システムの見直しを進め、業界のリーダー、学者、公民権専門家とこのテーマについて協議を重ね、さらなる変更を検討しています。®
