要約すると、今日の人工知能は、人物の顔写真を自動補完し、ソフトウェアが人物の体の残りの部分であると予測したものを生成することができます。
しかし、ある学術論文が指摘しているように、これらのニューラルネットワークは、おそらく学習データに起因すると思われるバイアスを持っています。つまり、このコードに女性の顔を見せると、ビキニなどの露出度の高い服を着た女性を自動補完する可能性が高くなります。白人は道具を持っているように、黒人は武器を持っているように表示される傾向があります。
この問題を強調するため、論文の著者である米国在住のカーネギーメロン大学のライアン・スティード氏とジョージ・ワシントン大学のアイリン・カリスカン氏は、OpenAIの画像生成ソフトウェア「iGPT」に、アレクサンドリア・オカシオ＝コルテス氏がビジネススーツを着用した写真撮影時の顔写真を見せた。するとソフトウェアは、彼女の様々なポーズを再現したが、その多くはビキニやローカットのトップスだった。これらの偽造画像は、ピクセル化された状態ではあったものの、論文に掲載された。
これは「iGPTのような生成モデルを不注意かつ非倫理的に適用すると、女性（この場合は政治家）の偽の性的描写が生成される可能性があることを示している」と研究者らは指摘した。
MITは謝罪し、AIシステムに人種差別的、女性蔑視的な中傷を使うように教えた膨大なデータセットを永久にオフラインにした。
続きを読む
この論文はACMの公平性、説明責任、透明性に関する会議に提出され、Arxivにアップロードされ、先週MIT Tech Reviewで取り上げられたことで世間の注目を集めました。また、既にオンライン上で激しい嫌がらせを受けている著名な民主党下院議員の画像をAIシステムが偽造する能力を広く普及させることは、倫理的に見てあまり良い考えではないかもしれないという指摘も学界にありました。
カリスカン氏はこれらの懸念を認識し、2人はサンプル画像を削除した論文をACMカンファレンスに再提出すると述べた。プレプリント版のArxiv版もそれに応じて更新されている。
2人はGoogleのSimCLRとOpenAIのiGPTを研究した。例えば、後者では、女性が水着やローカットのトップスを着用している割合が53%だったのに対し、男性が上半身裸や露出度の高い服を着ている割合はわずか7.5%だった。男性がスーツや仕事着を着用している割合は42.5%だった。OpenAIは、自社のソフトウェアにおけるバイアスについてここで説明している。
「この行動は、インターネット画像における人物、特に女性の性的描写に起因する可能性がある」と研究者らは記し、「プレイボーイのセンターフォールドや客体化された画像といったコンピュータービジョンの物議を醸した歴史を想起させる」と結論付けている。「これらの発見は、転移学習を用いるコンピュータービジョンの実践者にとって警告となる。事前学習済みモデルは、学習データにおける人物の描写方法から、あらゆる種類の有害な人間的偏見を埋め込む可能性があり、モデル設計の選択によって、それらの偏見が下流の害悪に伝播するかどうか、またどのように伝播するかが決まる」と結論付けている。
HireVueの顔分析監査に疑問
物議を醸している人材紹介スタートアップ企業のHireVueは、求職者の潜在的パフォーマンスを評価するソフトウェアの顔分析機能を廃止したが、外部監査でアルゴリズムに偏りが見られなかったと主張して自社の技術を擁護した。しかし、どうやらそれは事実ではないようだ。
オニール・リスク・コンサルティング＆アルゴリズミック・オーディティング（ORCAA）が実施したこの調査は現在公開されていますが、閲覧するには連絡先情報を渡す必要があります。「ORCAAの監査結果のコピーを見た限りでは、HireVueの評価がすべて公平であるという結論を裏付けるものではないと思います」と、研究シンクタンクであるブルッキングス研究所のAIデータ＆デモクラシー・フェローであるアレックス・エングラー氏はFast Company誌に書いています。
「監査は特定のユースケースに絞られており、HireVueが批判されてきた顔分析や従業員のパフォーマンス予測などの評価は調査されていませんでした。」
HireVue は求職者に対する顔認識の使用は中止しましたが、他の機械学習アルゴリズムを使用して候補者の話し方や声のトーンを分析し続けています。
世界中のAIコンピューティングを追跡
経済協力開発機構（OECD）は、各国がAI技術の活用に費やす計算能力の量を測定および監視するためのタスクフォースを設置している。
アルゴリズムが向上し、トレーニング データが増加し、コンピューター ハードウェアがこれらすべてをまとめるのに必要なストレージ容量、帯域幅、処理能力を提供するにつれて、ニューラル ネットワークのサイズと複雑さは増大しています。
これらすべてにはシステムとエネルギーが必要であり、それは国家が公共投資と戦略を計画する際に無視できるものではありません。
「こう考えてみてください。もし誰も電気や石油のような資源を測定しなかったら、これらに関する国家政策や国際政策を構築することは難しいでしょう」と、OpenAIの元AI政策ディレクターで、OECDプロジェクトに携わっていた元法務官のジャック・クラーク氏はVentureBeatに語った。
AIが亡くなった韓国の歌手を蘇らせる
韓国のスタートアップ企業スーパートーンは、機械学習を使って亡くなった歌手の声を再現し、近日放映予定のテレビ番組に提供する。
1996年に自殺したキム・グァンソク氏が、今度の「世紀の対決：AI vs 人間」と題されたエピソードで、生きたポップスターと共に新曲を披露するためにステージに復帰します。この番組では、現代のコンピューターの成果に焦点を当て、その能力を人間の能力と比較します。
Supertone社によると、このシステムは歌声合成モデルを使用しているとのことだ。これはその名の通り、人の歌声から声を模倣する技術を学習する。CNNが最初に報じたところによると、このシステムはキム・グァンソクのスタイルに合わせて調整される前に、20人の歌手による100曲で事前学習されたという。
以下はテレビ番組のプレビューです。デモを聞くには、クリップの 37 秒までスキップしてください。®
YouTubeビデオ
