グーグルは、スター研究者の一人を解雇した数か月後に倫理AIグループを統括する経営陣を再編した。この物議を醸す動きは国民の怒りと社内の反乱を引き起こした。
1982年にベル研究所でキャリアをスタートし、現在はチョコレートファクトリーのエンジニアリング担当副社長を務めるマリアン・クローク氏（66歳）が、このウェブ界の巨人、グーグルが新たに設立した「責任あるAI」部門を率いることになった。クローク氏は10のチームを率い、そのうちの1つに倫理的AIが含まれる。クローク氏はグーグルのAI責任者、ジェフ・ディーン氏に直属すると伝えられている。
「責任あるAIと倫理のこの分野は新しい」と、国際女性技術殿堂入りを果たしたクローク博士は本日のビデオインタビューで語った。
「ほとんどの機関は、過去5年間で原則を策定したばかりで、それも非常に高レベルで抽象的な原則だ」と彼女は、同じくグーグル社員であるインタビュアーのセピ・ヘジャジ・モガダム氏に語った。
これらの原則の規範的な定義を標準化しようとすると、多くの意見の相違や衝突が生じます。公平性や安全性の定義を誰のものにするのでしょうか？現在、この分野には多くの対立があり、時には意見が二極化することもあります。私が望むのは、人々が今よりも外交的な方法で議論し、この分野を真に前進させることです。
大きな仕事
クローク氏は激動の時期に指揮を執ることになる。パンデミックの間、Googleのスタッフはほぼ全員が在宅勤務をしており、バーチャルな環境で共同作業を行わなければならないだけでなく、倫理AIチームの共同リーダーであるティムニット・ゲブル氏の突然の退任による影響にも対処しなければならない。
倫理学と人工知能（AI）分野のトップクラスの学者であるゲブル氏は、昨年末、物議を醸す状況下でこのインターネット界の巨人から追放された。彼女は、女性や有色人種のエンジニアの採用が進んでいないことを批判する長文のメールを社内メーリングリスト「Google Brain Women and Allies」に送ったことが解雇の理由だと述べた。Googleは、この件には続きがあると主張している。
労働監視団体は、組合破壊の動きの中でGoogleが従業員を不法に解雇したと非難。AI倫理の第一人者ティムニット・ゲブル博士も追放された。
続きを読む
ゲブル氏と経営陣の間で緊張が高まっていた。ゲブル氏は、グーグルが翻訳サービスなどに利用しているような大規模な言語処理モデルの開発と運用の危険性とリスクに関する共同執筆論文から氏名を撤回するよう命じられたのだ。その後、ディーン氏はスタッフ宛てのメモの中で、論文は基準を満たしておらず、先行研究への参照が不十分であると主張した。
ゲブルは他のグーグル社員から匿名で論文に関するフィードバックを受け、社内レビューで誰がどのような意見を述べたのかを知りたがった。彼女は上司に対し、特定の条件が満たされた場合のみグーグルに残りたいと伝え、休職することにした。しかし、職場に戻ると、経営陣が提示された条件に同意しなかったため、彼女の要求は辞表として受理されていた。
多くの人が衝撃を受け、恐怖に陥った。彼女の元チームのメンバーや機械学習コミュニティの多くの研究者は、Googleが倫理的なAI研究者のスターを失ったことに公然と失望した。オンライン署名運動はゲブル氏への大きな支持を集めている。
倫理的AIチームのもう一人の共同リーダーであるマーガレット・ミッチェル氏は、この追放について調査しようとしたところ、会社の仕事用アカウントから締め出されていることに気づいた。
ゲブルさんはツイッターでクローク氏の新たな役割に対する不満をぶちまけた。
まるで、終わりのないガスライティング列車の悪夢の真っ只中にいるような気分です。今の気持ちを言葉で表すとしたら、これしかありません。本当に言葉が見つかりません。
— ティムニット・ゲブルー (@timnitGebru) 2021年2月18日
ゲブル氏の退任時に倫理AIチームを率いていたメーガン・カチョリア氏は、引き続きGoogle社内のAIチームの研究者を統括する。CEOのサンダー・ピチャイ氏は、ティムニット氏が退社した経緯を調査すると約束した。Googleは公式コメントを控えた。®
