Twitter：画像切り抜きAIが特定のユーザーを優遇しているようです。解決策：AIの使用を減らす

Twitterのエンジニアらは、問題のある自動画像切り取りツールを修正する試みとして、今後はソフトウェアがAIアルゴリズムにあまり依存しないようにすると述べた。

Twitterはソーシャルメディアプラットフォームで写真をプレビューする際、スマートフォンのディスプレイやPCモニターなどの画面サイズに合わせて画像を自動的にトリミングし、サイズを調整します。Twitterはコンピュータービジョンソフトウェアを使用して写真のどの部分にフォーカスするかを判断し、女性の胸や肌の色が薄い人に焦点を絞る傾向があります。肌の色が薄い人よりも肌の色が濃い人を選ぶ場合もありますが、一般的には女性の胸や肌の色が薄い人を好むようです。

Twitterは先月、明らかな偏見が指摘されたことを受け、再考することを約束した。同社は現在、最善の解決策は機械学習の利用を減らすことだと考えている。

「ツイートでの画像の見え方について、ユーザーがより明確にコントロールできるようにすることで、機械学習ベースの画像切り抜きへの依存を減らす取り組みを優先しています」とツイッターの最高技術責任者（CTO）パラグ・アグラワル氏と最高デザイン責任者（CDO）ダントレー・デイビス氏は先週語った。

「人々が毎日ツイートする多種多様な画像に対して、何が最も効果的かを探るため、様々な選択肢を検討し始めました。画像の切り抜き方法の選択肢を増やし、ツイート作成画面でどのように表示されるかをプレビューできるようにすることで、被害のリスクを軽減できることを願っています」と両氏は付け加えた。

Twitterの広報担当者はThe Registerに対し、この問題の解決方法についてはまだ最善策を決定していないと述べた。「現時点で具体的な方法をお伝えすることはできません。今後数週間でテストに関する技術的な詳細など、今後さらに情報を提供する予定です。」

Twitterのクロッピングアルゴリズムは、画像の「サリエンシーマップ」を計算します。これは、ピクセルごとにピクセル値が最も変化している部分、つまり詳細度の高い部分を特定します。この領域は人々が最初に注目する可能性が高いため、画像を切り抜くべき領域となります。例えば、公園で遊んでいる犬の写真の場合、ツールは大きな青空ではなく、犬に焦点を当てるべきです。

ソーシャルネットワークの技術者たちは、ソフトウェアが例えば白人を黒人よりも優先しないようテストを実施し、特定の性別や人種を優遇する明確な偏りは見られなかったと改めて主張した。「これまでの分析では人種や性別による偏りは確認されていませんが、写真を自動的にトリミングする方法には、悪影響が生じる可能性があることを認識しています。この製品を設計・構築した当初から、この可能性をより適切に予測しておくべきでした」と同社は認めた。

つまり、コード自体に偏りがない可能性は否定できないものの、少なくとも偏りがあるという認識は存在する。機械学習ソフトウェアの偏りに対するユーザーの意識が高まっており、Twitterのシステムも人々の顔を切り取る際に偏りが見られることがあるからだ。したがって、懸念を抱くネットユーザーからはTwitterの技術は常に偏りがあるとみなされており、Twitterは今、この懸念に対処しなければならない。おそらく、自動切り取り機能を完全に廃止することになるだろう。®