ウェブサイトのアルゴリズムに偏見や差別がないか、利用規約に反して調査していたネットユーザーは、少し安堵のため息をつくかもしれない。米国連邦裁判所は、消費者向けウェブサイトの細則を無視することは犯罪ではないとの判決を下した。
この疑問は、アメリカ自由人権協会（ACLU）の支援を受けた学者やジャーナリストらが2016年に米国司法長官を相手取り、国のコンピューター詐欺・濫用防止法（CFAA）は違憲であると主張して訴訟を起こしたことから生じた。[PDF]
原告らは、偽のプロフィールを作成し、求人広告サイトのアルゴリズムに潜む差別や偏見を検証することで、これらのサイトを調査したいと考えていました。しかし、こうした行為はサイトの利用規約に違反する可能性があり、研究者たちは、結果として、コンピュータシステムへの不正アクセスを禁じるCFAA（消費者行動分析法）の条項に基づき、ハッカーとして訴追される可能性を懸念していました。こうした訴追を未然に防ぐため、原告らは米国政府を相手取り、この法律に異議を唱える訴訟を起こしました。
金曜日、ワシントンD.C.のジョン・ベイツ地方判事は、判決文[PDF]においてこれ以上ないほど明確な見解を示しました。憲法上の論点を判断するのではなく、判事はウェブサイトの利用規約を無視することは連邦反ハッキング法の刑事違反には当たらないと簡潔に述べました。
つまり、細則に違反しても連邦刑事訴追には至らないということです。そのため、彼は訴訟を無意味なものとして却下しました。この判決は、オンラインの利用規約は人々が扱い、理解するにはあまりにも面倒すぎるという指摘を含め、鋭い指摘の宝庫です。
ミシガン大学デジタルメディア学科のクリスチャン・サンドヴィグ教授は、司法長官を訴えた学者の一人だ。彼はレジスター紙に対し、イリノイ大学アーバナ・シャンペーン校の同僚らと2014年に論文を発表したことがきっかけで、共同原告らと共に米国政府に異議を唱えることを決意したと語った。その論文[PDF]では、ウェブサイトのスクレイピング、APIの調査、偽アカウントの作成によるサービステストなど、ウェブサイトのアルゴリズムに潜む差別行為を監査する方法について論じられていた。
「そうすることで、研究者がプラットフォームの利用規約や米国コンピューター詐欺・濫用防止法に違反する可能性が非常に高い」と、サンドヴィグ氏らはシアトルで開催された第64回国際コミュニケーション協会年次会議のプレカンファレンス「データと差別」で発表した論文に記している。
刑事司法ソフトウェアのコードによって刑務所行きになる可能性があり、それについては何もできない
続きを読む
「CFAAは、ウェブサイト運営者が許可を定義できるコンピュータへの不正アクセスを犯罪とする、過度に広範な法律だと批判されています。アルゴリズム監査は本質的に対立的な性質を持つため、運営者がスクレイピングに同意するとは考えにくいのです。」
その後の訴訟において、原告らは、CFAAは憲法修正第一条の権利を抑圧し、また、あまりにも曖昧であるため、厳密に禁止されている行為がどれなのか判断が難しいと主張した。原告らは、この点において、人々は公正な裁判を受けることができないと考えていた。
これに対し、米国政府は信頼できる証拠の欠如を理由に、訴訟の棄却を申し立てました。そして今、ベイツ判事は双方の略式判決請求を棄却し、CFAAが利用規約違反を犯罪としていないことを理由に、訴訟全体が無意味であると宣言しました。
より多くの企業がソフトウェア、特にAIコードを用いてデータ分析を行い、ユーザーに代わって意思決定を行うようになるにつれ、研究者たちはこれらのシステムにおける差別的なアルゴリズムの発見に取り組んできました。例えば、エッグヘッズと呼ばれる研究者たちは、Facebookが広告主に対し、人種、性別、年齢に基づいて一部のユーザーへのクレジット、住宅、求人広告の表示をブロックする権限を与えていたことを発見しました。
「この事件が法廷で審理されている間、オンラインプラットフォームの行動に関する様々な衝撃的な事実が明らかになりました」とサンドヴィグ氏はThe Register紙に語った。「2020年の今日、AIの発展には公共の利益を配慮した監視が必要であることが、私たちにとって明らかになったことを願っています。それを提供するのは研究者やジャーナリストの役割であり、この役割は適切な法律と規制によって保護されるべきです。」
「この事件が起こる前は、アメリカ政府にとって都合が良ければ誰でもハッカーや重罪犯と定義できると生徒たちに説明しなければなりませんでした。今では、その発言をやめても安心です。」®
