マイクロソフト社長のブラッド・スミス氏は、同社が人権上の懸念から、カリフォルニア州警察からの顔認識技術に関する注文を断ったことを明らかにした。
スミス氏は今週スタンフォード大学で講演し、警察の人工知能データセットに内在する偏見により、マイクロソフトの技術によって無実の女性や少数派が警察に拘束される可能性が高いとマイクロソフトは結論づけたと述べた。
言い換えれば、警察データベースの AI は主に白人男性の写真でトレーニングされているため、白人男性以外の人物に対しては誤検出を起こす可能性が高かったのです。
「警察は誰かを停車させるたびに、顔スキャンをしようとした」とスミス氏は「人間中心のAIの未来」カンファレンスの参加者に語り、そのスキャン結果を警察の容疑者データベースと照合すると説明した。スミス氏によると、マイクロソフトは一旦立ち去り、これが問題を引き起こす可能性が高いと判断した後、再び戻ってきて、匿名の組織に対し「この技術は解決策ではない」と告げたという。
スミス氏は、マイクロソフトが「ノーと言う勇気を持ち、当社の技術やAI製品が人間の生活のあらゆる部分に害を及ぼすために使われることが分かっている場合は、たとえ社内や社外で不評を買うことになっても、取引を断つ」という同社の原則を貫いてきた例を挙げていた。
ロイター通信によると、彼が挙げたもう一つの事例は、ある国の首都を囲むカメラに自社の顔認識ソフトウェアを搭載する契約を断ったことだ。この決定は、独立監視団体フリーダム・ハウスがその国を「自由ではない」と評価していたことと、マイクロソフトが自社の技術が集会の自由を抑圧するために利用されることを懸念したことが主な理由だった。
見てみましょう
スミス氏は国名を明かさなかったが、フリーダム・ハウスの地図によれば、その国は東南アジア、中東、またはアフリカのいずれかの国であった可能性が高い。
ソフトウェア会社の幹部は、元チリ大統領で国連人権高等弁務官のミシェル・バチェレ氏と同じ壇上に立ち、倫理規定だけでは不十分であり、企業は人権に基づいて事業を運営しなければならないと主張した。
しかしバチェレ氏はシリコンバレーの多様性の欠如についても批判し、「テクノロジー企業は、自社のツールが偏見や差別を悪化させないようにするために、女性やアフリカ系アメリカ人など世界を代表するスタッフを必要としている」と述べた。
スミス氏は、テクノロジー業界が毎年、ひどい多様性統計を発表するたびにそうするように、マイクロソフトが「多様性に富み効果的なチームを実現するには、まだ長い道のりがある」と認めた。しかし、偏ったAIを避けるための答えは、多様性のあるチームを構築することだという点には同意した。
スミス氏は、マイクロソフト社が、自己完結型の環境であり、安全性が向上する可能性が高いとの結論に達し、米国の刑務所に顔認識技術を提供することに同意したと述べた。
壊れた中国
しかし、マイクロソフトが中国軍が運営する大学とAI開発に取り組んでいるという報道に関する質問には答えを避けた。マイクロソフトの研究者と中国国防科技大学の研究者が共同執筆したAIに関する論文が3本発表されており、その中には、人間の顔を分析することで画像の撮影場所を特定する新たな手法を掘り下げた論文も含まれている。この手法は、中国当局の監視能力をさらに強化する可能性があると懸念する声もある。
現実を直視しよう。顔認識技術と対峙する必要があると米国上院議員らは主張：超党派のAIプライバシー法案が提案
続きを読む
スミス氏は、この論文が「機械学習の基本的な進歩」を扱っていると軽視し、出席者の一人が指摘したように、「研究をやめたり、中国の人々と協力したりすることをやめるべきだという意味ではない」と主張して、それ以上の議論を避けるために、架空の議論を持ち出した。
スミス氏はまた、顔認識やその他のAIに関する規制強化の必要性にも同意し、規制がなければデータがコモディティ化し、「企業はそのコモディティを金に変えるために市場に最初に参入しようと競い合い、底辺への競争を始めるだろう」と主張した。
しかし注目すべきは、スミス氏が将来的に警察に顔認識技術を販売する可能性を否定しなかったことだ。ただし、殺人ロボットなどの「自律型兵器」に使用することを意図する者への販売については、明確な線引きをしているようだ。®
