Tumblrは、機械学習アルゴリズムを使用して、ソーシャルメディアプラットフォームから露骨なポルノコンテンツ、性器、女性の乳首を自動的に削除することを望んでいる。
TumblrのCEO、ジェフ・ドノフリオ氏は、12月17日以降、サイトにアップロードされたコンテンツにフラグを付け、既存のわいせつコンテンツを削除するシステムを導入すると発表した。これは、TumblrのiOSアプリが児童ポルノを配布しているとして先月AppleのiOS App Storeから禁止されたことを受けた措置だ。
Tumblrはアダルトコンテンツを「実際の人間の性器や女性の乳首を映した写真、動画、GIF、および性行為を描写した写真、動画、GIF、イラストなどのコンテンツ」と定義しています。
ただし、例外もあります。授乳、出産、乳房切除や性別適合手術などの外科手術に関連する場合は、乳房の写真をサイトに掲載することが許可されています。
一見良いアイデアのように聞こえるかもしれませんが、欠点もあります。Tumblrにはポルノコンテンツがかなり多く、あるいは過去にはそうでした。そのため、今回の措置によりプラットフォームとその訪問者の大部分が一掃されることになりますが、ナチズムを称賛するページなどはそのまま残ります。児童性的虐待画像を掲載したためにiOSから排除されたことへの過剰反応かもしれません。
そして、そこにはテクノロジーが関わっています。米国ワシントン大学でジェンダーとアルゴリズムを研究している博士課程の学生、オス・キーズ氏は、The Register紙にこう語りました。「ポルノをカットする目的で、男性の乳首と女性の乳首を識別する二値分類器を使うのは、とんでもないことです。」
乳首に基づくポルノ分類器とは一体どのようなものなのでしょうか？そもそも、100%正確に乳首を検出できると仮定した場合、男性の乳首の特徴は何でしょうか？女性の乳首の特徴は何でしょうか？毛の有無？乳輪の大きさ？乳房の構造？どのヒューリスティックを選ぶにせよ、もしあなたが乳首に着目しているのであれば、あなたが計測していると思っているもの、つまり画像全体の性別は、実際にはそうではないものしか計測していないことになります。
Tumblrに、その分類アルゴリズムの仕組み、そしてその学習とテスト方法についてコメントを求めたが、回答は得られなかった。
TumblrがStumblrに転向、Humblrは去る：ブログビジネスがブロガーの個人情報をworld+dogに公開
続きを読む
声明によると、画像を削除する最終決定は、誤検知を防ぐため、人間のモデレーターに委ねられている。「この作業には、機械学習による分類と、Tumblrのモデレーションを支援するTrust & Safetyチームによる人間によるモデレーションの組み合わせが必要です。成人向けとしてマークされた投稿に対して異議を申し立てると、その投稿は生身の人間に送られ、生身の人間の目で確認されます」と声明は述べている。
キーズ氏は、頼れる人間チームがあるにもかかわらず、依然として懐疑的だ。「医療画像の許可に関して言えば、医療とポルノの区別は比較的主観的な問題です。ここでの『医療』の定義は誰のものなのでしょうか？そして、もし間違った判断をしたらどうなるのでしょうか？人類は多様です。求めるものが厳密に分類可能であることを要求するこの種の分類器は、そうはなり得ません。」
実際、Tumblrが誤ってフラグ付けした画像を、ユーザーがTwitterで#toosexyfortumblrというハッシュタグを使って共有しています。中には、犬や猫の無害な写真、ブーツを磨く装置の意匠特許、LEDライトが埋め込まれたジーンズ、さらには手の写真まで含まれています。また、Tumblrは異性愛規範に反するものを厳しく評価していると報じられており、LGBTQコミュニティを多少動揺させています。
よくやった、AI...®
ペット#ToosexyforTumblr pic.twitter.com/1NxM2NBRjx
— アンバー・ザ・ブレイブ ;) (@megalopsycha) 2018年12月3日
どうやら、ブーツを磨くデザインの特許は #TooSexyForTumblr のようです pic.twitter.com/6Ijz8bAIA7
— サラ・バースタイン（@design_law）2018年12月4日
ヒロコンポストデミブログqフエロン#TooSexyForTumblr pic.twitter.com/R5EfYGfEOw
— 𝓛olis (@g00d_skin) 2018年12月4日
