英国政府は、人工知能によって下された決定に異議を申し立てる個人の権利を弱める可能性を示唆する協議を開始した。
デジタル・文化・メディア・スポーツ省（DCMS）は本日公開した文書の中で、「（AIによる決定に対する）人間によるレビューを提供する必要性は、将来的には実現不可能または不相応になる可能性がある」と述べた。
英国におけるEU一般データ保護指令（2018年データ保護法）の現行の運用では、人々は重大な影響を及ぼす完全に自動化された意思決定プロセスの対象とされない権利を有しています。しかし、DCMSが開始した協議[PDF]によると、これらの権利は見直されるべきです。
同省は、英国のデータ保護法とデータ戦略の包括的な見直しの中で、「今後数年間で多くの業界で自動化された意思決定の利用が大幅に増加する可能性があるという文脈で問題を検討する必要がある」と述べた。
AI、そこにいますか？私、オリバーです
DCMSはさらにこう続けた。「将来的には、人間によるレビューを提供する能力を維持する必要性が、実行不可能になったり、釣り合いが取れなくなったりする可能性があり、この安全策がいつ必要になるのか、そしてそれが実際にどのように機能するのかを評価することが重要だ。」
EUと中国が消費者をより良く保護するためにこの分野の規制を求めている中で、現在の規定を完全に削除することは奇妙に見える可能性がある。
「英国GDPRの自動化された意思決定とプロファイリングに関する規定が、組織と個人の両方にとって有効であることは極めて重要です。したがって、第22条とその規定が、データ駆動型経済と社会の今後の進化に追いついているかどうか、そして必要な保護を提供しているかどうかを検証することが重要です」と報告書は続けている。
さらに、この協議では、今年5月に発表され大いに嘲笑されたイノベーション、成長、規制改革に関するタスクフォース（TIGRR）の文書を取り上げ、2018年英国データ保護法（GDPRを英国法に導入した）第22条を削除するよう勧告している。
代わりに、完全に自動化されたAIシステムの使用は、「正当な利益または公共の利益」に基づいて許可されるべきである。政府の協議では、参加者に同意するかどうかを尋ねた。
法律事務所リンクレーターズのテクノロジー部門のパートナー兼グローバルヘッドであるリチャード・カンブリー氏は、「EUと中国が消費者をより良く保護するためにこの分野の規制を目指しているときに、現在の規定を完全に削除することは奇妙に見えるだろう」と述べた。
しかし、英国GDPRの規定を削除するのではなく、現行の規定を削除せずに、規制の適用範囲を実際に潜在的な危害をもたらす可能性のある領域に絞り込み、特にトレーニングセットの作成に関する懸念を払拭することは可能だ。そうすれば、重要な点を失ってしまう事態を避けることができるだろう。
英国の法律は現在、EUのGDPRに準拠しており、政治・貿易圏の裁定により、Brexit後も英国とEU間でのデータ共有が可能となる。
- 英国はビッグデータ法の改革を約束…もちろんEUの意向も尊重しつつ。一体何が問題になるというのだろうか？
- 欧州委員会が新たなIoTデバイスセキュリティ法案を発表 - 関係者は1週間の猶予期間を設けて意見を表明
- Facebook、AIシステムが黒人を霊長類と烙印を押したことで謝罪
- 韓国のデータ監視機関によると、フェイスブックは同意なしに顔認識を20万回使用したという。
- アラン・チューリング研究所、英国政府の助成金を航空管制と銀行業務向けAIに投入
カンブリー氏は、EUのデータ保護原則からのいかなる逸脱も、データの妥当性の喪失を含む深刻な結果を招く可能性があると指摘した。
「英国が十分なデータを取得できなければ、データの観点から見ると、EUから実質的に切り離されることになる。これは現実世界に即時かつ重大な影響を及ぼし、コストのかかる新たなコンプライアンス対策が必要となるだろう」と彼は述べた。
協議文書はまた、データは「特定の、明白な、正当な目的のために収集される」べきであり、「適切で、関連性があり、必要なものに限定される」べきであると規定する第5条を批判している。
英国政府は、「プライバシー管理プログラムに基づいた、より柔軟でリスクに基づいた説明責任の枠組み」を実施することを提案している。
「この枠組みの下では、組織は、自社の処理活動に合わせたプライバシー管理プログラムを実施し、データプライバシー管理が単なる『チェックボックスをチェックする』作業ではなく、総合的に受け入れられるようにすることが求められる」と彼は述べた。
しかし、法律事務所リンクレーターズのテクノロジー・メディア担当パートナー、ジョージナ・コン氏は今年初め、EUはEUの原則の根幹を成す第5条のいかなる改ざんに対しても厳しい見方を示し、その適切性に関する決定を覆す可能性が高いと指摘した。
ちなみに、第5条は、今年6月にイアン・ダンカン・スミス氏率いるEU離脱支持派議員グループが執筆したTIGRR報告書でも取り上げられていた。
オリバー・ダウデン国務長官は「EUを離脱した今、英国には大胆で新しいデータ体制を構築する自由がある。それは、高いデータ保護基準を維持しながら、英国国民と英国企業の利益のために、経済と社会全体でデータの力を解き放つ体制だ」と述べた。
この協議の開始は、英国のデータ監視機関である情報コミッショナー事務局の新しい統治モデルの計画と同時期に行われ、統治構造を反映した独立した理事会と最高経営責任者が含まれる。
「改革によりICOの権限が拡大し、医療（新型コロナウイルス感染症対策でのデータ活用を基盤とする）や金融サービスなどの分野で、人々の生活に役立つよう、個人データを革新的かつ責任ある方法で新しく活用している部門や企業を情報コミッショナーが支援できるようになる」とICOの発表には記されている。
この人事異動は、ジョン・エドワーズ氏が政府の推薦候補として新情報コミッショナーに選出されたことを受けてのものだ。エドワーズ氏はエリザベス・デナム氏の後任となる予定だ。
オープン・ライツ・グループの活動家代表ジム・キロック氏は、「政府の提案により、企業があなたの健康データを利用し悪用することが容易になり、政府がいわゆる『ミュータント・アルゴリズム』を実行してあなたの将来を決めることも容易になる」と述べた。
「彼らは、イノベーションの名の下に、何千人もの健康、保険、広告業界のロビイストを招き入れ、皆さんの権利を奪おうとしているのです。
「そして何よりも、彼らはICOのコミッショナーの任命方法を操作して、保守派寄りの業界幹部によるコントロールを維持したいと考えている」とキロック氏は述べた。®
