国会議員らは、意思決定におけるアルゴリズムの使用増加は、特定のグループに不均衡な影響を及ぼすリスクがあると述べ、政府に透明性を高め、偏見に対処するよう求めているが、公的データの価値を忘れてはならないと訴えている。
英国下院科学技術委員会は本日発表したアルゴリズムによる意思決定に関する報告書の中で、この技術は公共サービスを改善し、交通から医療まで幅広い分野で幅広いイノベーションを推進する可能性を秘めていると述べた。
同委員会は、公的機関が保有するデータは潜在的に利益を生む資産となる可能性があるとして、民間企業によるデータ利用について有利な条件を交渉するよう政府に強く求めている。
しかし、議員らは強い警告も発し、アルゴリズムは魔法の公式として見るべきではなく、むしろ偏見を持つ可能性があり、強力な規制と倫理の枠組みの中で運用する必要があると強調した。
報告書には次のように記されている。
これに対処するため、議員らは政府に対し、昨年の予算で約束されていた諮問機関であるデータ倫理・イノベーションセンターを活用してアルゴリズムの偏りを調査するよう求めた。
この法律では、個人データの使用は公正でなければならないと定められており、透明性と効果に関する要件も伴い、アルゴリズムの開発者には複雑な技術の仕組みを「説明」できるようにプレッシャーがかかっています...
たとえば、アルゴリズムの基盤となるデータをどのように改善するかを検討し、データとアルゴリズムを開発するチームの両方が多様で社会を代表するものとなるよう取り組む必要があります。
報告書のもう一つの柱はアルゴリズムの透明性について検討した。これは盛んに議論されているテーマであり、欧州連合の一般データ保護規則が金曜日に発効すれば、新たな精査に直面することになるだろう。
この法律は、個人データの使用が公正でなければならないことを義務付けており、これにより透明性と効果に関する要件がもたらされ、アルゴリズムの開発者には複雑な技術の仕組みを「説明」できるようにプレッシャーがかかることになる。
これらの規定が実際にどう機能するかについてはまだ議論があるものの、委員会は倫理センターが原則や規範、アルゴリズムの監査、アルゴリズム開発者の認証など、利用可能なさまざまな説明責任ツールを評価することを勧告した。
報告書はさらに、「民間で開発された公共サービスアルゴリズムの内部構造の開示により、開発者に商業上または個人データの機密性に関する問題が生じる場合」、政府は「適切に機密性を低下させた形式」でデータを共有する方法を確立すべきだとしている。
提案された方法の1つは「データトラスト」の利用だ。これは、昨年政府から委託されたAIに関する調査の中で、コンピューター科学者のウェンディ・ホール氏とベネボレントテックCEOのジェローム・ペセンティ氏が提唱したアイデアだ。
この信託により、データを保有する組織は、データを使用したい人々と、管理された標準化された方法でデータを共有できるようになるという考えです。
しかし議員らは、理解できる説明を出すのは実際上難しいかもしれないが（この考えは調査中に大手テクノロジー企業が何度も強調した）、問題のアルゴリズムが個人の権利と自由に影響を与える場合には、アルゴリズムの仕組みについての説明を公開するのが政府のデフォルトの立場であるべきだと強調した。
お金の匂いがする
同時に、委員会は明らかにデータが資産であるという考えに気づき、政府が保有するデータを自らの利益のために使うよう促している。これは、首相も今週初めに言及したNHSのデータの価値を指摘している。
議員らによると、これを行う一つの方法は、政府が「データアクセスと引き換えに開発業者が提示するものを単純に受け入れるのではなく、協定から求める公共サービスの提供の改善と透明性について交渉する」ことだという。
ビッグビズ：アルゴリズムは複雑すぎるが、ブラックボックスを開けるにはあまりにも簡単すぎる
続きを読む
彼らはまた、民間パートナーと共同で開発されるアルゴリズムのための特別な調達モデルを求めており、これは CCS が委託したレビューによって策定されるべきであり、すでに契約が締結されているため緊急に行われるべきだと述べている。
「政府は、NHSなどの公共サービスに役立てるために、民間部門が公共データを責任を持ってどのように使用できるかを示すモデルを早急に作成する必要がある」と委員会のノーマン・ラム委員長は述べた。
「そうして初めて、私たちは健康データの莫大な価値から恩恵を受けることができるのです。必要なパートナーシップモデルが確立されていないまま、既に取引が成立しつつあります。」
調査中に委員会に証言した王立統計協会の最高経営責任者ヘタン・シャー氏は、特にこの条項を歓迎し、公的機関はディープマインドとロイヤル・フリーとの取引の過ちを繰り返さないようにする必要があると述べた。
公共部門が調達関係において自分たちがより大きな力を持っていることに気づけば、契約を利用してアルゴリズムプロバイダーに高い基準を課すことができます。例えば、差別を防ぐためにアルゴリズムの結果の外部監査を許可するなどです。
— ヘタン・シャー (@HetanShah) 2018年5月23日
同委員会はまた、民間部門の関与を促し透明性を高める方法として、政府に対し、中央政府で「重大な影響」のあるアルゴリズムが使用されているか計画されている場所の公開リストを作成するよう求めた。
さらに、公共部門が使用するアルゴリズムの監視を担当する大臣がおり、民間部門との連携とともに、各部門によるアルゴリズムの使用アプローチを調整する必要がある。
その他、報告書では、国際協力の重要性、情報コミッショナー事務局への継続的な資金提供についても言及し、GDPR で義務付けられているデータ保護影響評価の公表を支持しています。®
