ワシントンDCでは水曜日、学者や政策専門家らが米国議会の代表に対し、プライバシー、データ収集、ネット中立性に関する関連した懸念が絡み合った危険信号である不可解なアルゴリズムの危険性について警告した。
電子プライバシー情報センターが提出した書簡に述べられているように、民主主義は公平性と透明性に依存しているが、人々の生活に影響を与える決定はますます自動化され、不透明になっている。
EPICの書簡には「説明責任と透明性を確保するため、議会がAIを規制しなければならないことはますます明らかになっている」と書かれており、ここでのAIは単にコンピューターコードとして理解するのが最も適切である。
下院エネルギー・商業委員会の小委員会主催の「アルゴリズム：データとコンテンツに関する企業の決定が消費者に与える影響」と題する公聴会で、数人の議員がこの講演を求めた。
グレッグ・ウォルデン下院議員（オレゴン州共和党）が説明したように、懸念されるのは、企業がやり取りや取引を管理するために不可解なコードに頼ることで、プライバシー、セキュリティ、公正な扱いを犠牲にしている可能性があるということだ。
「消費者は、現実世界と同様、インターネット上のオンライン企業とそのアルゴリズムによる不公平で欺瞞的、悪意ある行為から安全に保護されるべきである」と、大統領は用意した発言の中で述べたが、テクノロジー分野の雇用創出エンジンに支障をきたすつもりはないことを明確にした。
パイの一片
ウォルデン氏はまた、FCC委員長アジット・パイ氏とその家族が、ネット中立性を損なう計画によって受けた嫌がらせを非難した。彼は、不透明で疑わしいコンテンツブロッキングポリシーを持つGoogleのようなプラットフォーム企業こそが、ネットにとって真の脅威であると考えていることを明確にした。
最近のEquifaxへのハッキング事件は特に注目され、代表者たちは、クレジット業界とその同類の企業がほとんど規制監督を受けずに運営されており、自分たちが何のために選ばれたのかを忘れているのではないかと懸念を表明した。
透明なアルゴリズム？それがなぜ悪い考えなのか、Googleが議員に説明
続きを読む
マイク・ドイル下院議員（ペンシルベニア州民主党）は、こうした企業は「個人やその信用へのアクセスと利用の能力について判断を下すために、ビッグデータと機械学習をますます活用している」と述べた。
しかし、人、コード、データの相互作用を規制する法律を制定するのは容易ではない。相互作用は意外と複雑であり、煩わしい法律を避けたい企業やそのロビイストからの反発もあるからだ。
MITスローン経営大学院の経営科学およびマーケティング教授、キャサリン・タッカー氏は、アルゴリズムによる偏見は、意図的な差別などの望ましくない要因ではなく、資本主義システムで非常に重視される市場の力によるものである可能性があると指摘した。
タッカー氏は声明の中で、ロンドン・ビジネス・スクールのアンジャ・ランブレヒト氏と共同で行った最近の調査で、フェイスブック、グーグル、ツイッター上で科学、技術、工学、数学（STEM）分野のキャリアを促進するオンライン広告が、女性よりも男性に20～40パーセント多く表示されていることを発見したと述べた。
原因は、男性が女性よりもこれらのインターネットサイトを多く利用しているからでも、女性が男性ほどこれらの広告をクリックしないからでもないことが判明しました。また、原因は文化的な偏見によるものでもありません。
広告主
むしろ、女性がこれらの広告を見る回数が男性より少ないのは、他のオンライン広告主が、異なる広告で女性にリーチするために広告入札プロセスでより多くのお金を支払う用意があり、その結果、STEM 広告が男性よりも女性にリーチするコストが高くなったためです。
「アルゴリズムはコストを最小限に抑えるように設計されているため、比較的安価な男性よりも高価な女性に広告が表示される回数が少なくなります」とタッカー氏は説明した。
しかし、メリーランド大学法学部のフランク・パスクアーレ教授が指摘したように、バイアスの主張は、その根底にあるコードやデータにアクセスできない限り、判断が非常に困難です。彼は発言の中で、昨年のホワイトハウスのビッグデータに関する報告書を引用し、分析技術は「住宅、信用、雇用、健康、教育、そして市場における個人情報の利用方法において、長年にわたる公民権保護を覆す可能性がある」と指摘しています。
パスクアーレ氏は、一例として、内部情報は公表されていないフェイスブックの広告システムが差別的な住宅広告の掲載を可能にしていたことを暴露したプロパブリカの記事を挙げた。フェイスブックは修正すると約束したが、いまだに修正されていない。
パスクアーレ氏は他の議員たちとともに、10年近くにわたってアルゴリズムの監視強化を求めてきた。
ジョージタウン大学ロースクールのプライバシー＆テクノロジーセンター副所長、ローラ・モイ氏の発言は、議員たちが既存の規則を撤回しようとしているように見えることから、効果的な規則が施行されるまでにはもう少し時間がかかる可能性を示唆している。彼女は、今年初めにFCCがブロードバンドのプライバシー保護を撤回したことを例に挙げた。
モイ氏は、消費者の91％が企業による個人情報の収集と使用方法を制御できていないと感じており、68％が現行法が不十分だと感じていることを指摘し、状況を改善するには悪化を止める必要があると政府関係者に語った。®
