米国上院議員らは水曜日、企業が偏見や差別、安全性に欠けるアルゴリズムを使用していないかを連邦取引委員会が検査できるようにする法案を提出した。
2019年アルゴリズム説明責任法案として知られるこの法案は、ロン・ワイデン上院議員（オレゴン州民主党）、コリー・ブッカー上院議員（ニュージャージー州民主党）、イヴェット・クラーク下院議員（ニューヨーク州民主党）らの支持を得た。
アルゴリズム説明責任法は、「自動化された意思決定システム」の規制に重点を置いています。議会はこれらのシステムを、企業が消費者に直接影響を与える意思決定を行うのを支援するために用いられる「計算プロセス」と捉えています。これらのシステムは、機械学習、統計、またはAIの技術に基づいて構築されています。
偏見や差別への対処は、AI分野における重要なテーマです。研究者らは既に、商用顔認識システムは女性や有色人種の識別に苦労する傾向があることを示しています。AIコミュニティの専門家は、政府に対し、テクノロジー企業への規制を強化するよう求めており、米国政府も徐々にこの動きに気づき始めているようです。
ワイデン氏は、これらのシステムがローンや仕事、再犯などの決定に関与した場合、人々の生活に大きな影響を与える可能性があると説明した。
「コンピューターは、アメリカ国民の生活に影響を与える最も重要な決定、つまり住宅購入の可否、就職の可否、さらには刑務所行きの可否といった決定にますます関与するようになっている」と彼は述べた。「しかし、これらのアルゴリズムは偏見を排除するどころか、女性や有色人種に対する差別を助長しかねない、偏った前提やデータに依存していることがあまりにも多いのだ。」
この法律に基づき、企業はFTC（連邦取引委員会）当局に影響評価書を提出することが義務付けられます。これらの報告書では、導入される自動意思決定システムの正確性、公平性、偏見、差別、プライバシー、セキュリティに関する問題に対処する必要があります。
企業は、システムがどのように構築・設計されたか、どのようなデータがトレーニングに使用されたか、そして何のために使用されているかを示す必要があります。また、システムが意思決定に使用している情報の機密性や、そのデータがどのように保管・使用されているかを考慮し、顧客にとって実際にどれほど有益であるかを評価する必要があります。これらのシステムが不正確、不公平、または偏向している場合に消費者が直面する可能性のある潜在的なリスクについても議論する必要があります。
AIドクター、ちょっと待ってください。FDAはあなたの医療能力が本当にどれくらい優れているかを確認したいのです。
続きを読む
「アルゴリズムは我々の差別禁止法の適用除外とされるべきではない」とクラーク氏は声明で述べた。
「この法案は、アルゴリズムには作者がおり、綿密な監視がなければ、キーボードを打つ者の偏見が反映される可能性があることを認識しています。大企業に対し、自動化システムの意図しない影響に目をつぶらないよう義務付けることで、アルゴリズム説明責任法は、21世紀のテクノロジーが疎外ではなくエンパワーメントのツールとなることを保証すると同時に、すべての消費者のセキュリティとプライバシーを強化します。」
この法案は、FacebookやGoogleのような巨大テクノロジーコングロマリットを明確に標的としています。年間総収入が5,000万ドルを超え、100万人以上の消費者を抱え、ユーザーの個人情報を収集するすべての企業は、FTC（連邦取引委員会）に詳細なリスク評価書を提出することが義務付けられます。企業が透明性の向上を希望する場合は、これらの報告書を公表することができますが、公開は義務ではありません。
報告書が不公平または虚偽であると判明した場合、FTCは企業が隠蔽した情報を明らかにするため、独自の調査を実施する権利を有します。連邦取引委員会法に基づき、FTCは調査に関係する人物から文書や証拠を収集するために召喚状を発行することができます。®
