IBM は「汎用」顔認識・分析ソフトウェアの開発を中止した。
ビッグブルーが製品を廃棄したというニュースは、CEOのアルヴィンド・クリシュナ氏が2人の米国上院議員と3人の下院議員に書いた書簡の中で伝えられた。書簡では、包括的な職場環境を作るためのIBMの過去の行動に言及しつつも、「ジョージ・フロイド、アマード・アーベリー、ブレオナ・テイラー、その他多くの人々の恐ろしく悲劇的な死は、人種差別との闘いがこれまで同様に緊急であることを私たちに思い出させている」と嘆いている。
クリシュナ氏は、IBMが「正義と人種的平等の実現に向けて議会と協力する」と述べ、その推進策の一つとして「責任あるテクノロジー政策」を提案した。彼にとっての「責任ある」とは、テクノロジーが「差別や人種的不正義を助長してはならない」ということだ。
IBM は有言実行のために変化を起こしたようだ。
「IBMはもはや汎用IBM顔認識・分析ソフトウェアを提供していない」とクリシュナ氏は書いている。
IBMは、他社が提供する顔認識技術を含むあらゆる技術を、大規模監視、人種プロファイリング、基本的人権と自由の侵害、あるいは当社の価値観や信頼と透明性の原則に反する目的で使用することに断固反対し、容認しません。今こそ、国内の法執行機関が顔認識技術を採用すべきか否か、またどのように活用すべきかについて、全国的な議論を始めるべき時だと考えています。
「人工知能は、法執行機関が市民の安全を守る上で役立つ強力なツールです。しかし、AIシステムのベンダーとユーザーは、特に法執行機関で使用される場合、AIがバイアスについてテストされ、そのバイアステストが監査され、報告されることを保証するという共通の責任を負っています。」
ロンドンのトップ警察官は、おそらく皮肉を込めて、顔認識の批判を「非常に不正確または無知」だと一蹴した。
続きを読む
クリシャン氏はまた、警察改革と警察の不正行為を記録するデータベースの構築を求め、さらに議会に対し、有色人種コミュニティがテクノロジー分野の雇用につながる教育機会にアクセスできるよう支援するプログラムをより多く検討するよう求めた。彼はIBMの2つの取り組みを、そうしたプログラムの優れた例として挙げた。
IBM の反監視姿勢は、Clearview AI などの一部のライバル企業とは一線を画しています。
しかし、The Register紙は、IBMの顔認識技術が過去には色盲とは程遠いものであったことを指摘しないわけにはいかないだろう。このIT大手は、3つの顔認識ソフトウェアパッケージのテストで最悪の成績と評価された。2018年初頭に報じたように、「IBMは肌の色の濃い部分で最も苦戦した。結果によると、エラー率は白人男性で0.3%、白人女性で7.1%、黒人男性で12%、黒人女性で34.7%だった」。
ビッグブルーはまた、従来のコレクションよりも多様性に富んだものとして提供した顔認識トレーニングデータセットにクリエイティブ・コモンズライセンスの画像を使用したことで批判され、訴訟を起こされています。®
