アルゴリズムの使用について質問を受けた大手テクノロジー企業の代表者は、ユーザーに対して透明性を保ちたいと述べているが、透明性が高すぎるのは好ましくないという。
データの収集と処理にビジネスモデルを依存している企業の代表者4人が本日、アルゴリズムによる意思決定に関する調査の一環として、下院科学技術委員会に証言した。
議論の本質は、議員らの専門知識不足により時折挫折したものの、「それは場合による」という考えに集中していた。
委員会が調査している領域の複雑さを考えれば、これは妥当な判断かもしれないが、企業が時として矛盾する主張や自動化された意思決定に対する人々の真の懸念を認めなければ、支持は得られないだろう。
たとえば、ビッグビジネスセッションでは、データがどのように使用されるかをユーザーに公開することの重要性について多くの驚きの声が上がったが、企業は最終的に、複雑すぎる、または操作が簡単すぎるという2つの理由で、完全な透明性に反対した。
透明なアルゴリズム？それがなぜ悪い考えなのか、Googleが議員に説明
続きを読む
「アルゴリズムの透明性を考えるのではなく、アルゴリズムの半透明性を考えるべきだ」と、Google AIチームのシニアスタッフリサーチサイエンティスト、マーティン・ワッテンバーグ氏は述べた。「浴室の窓の曇りガラスのようなもので、光は入るものの、特定の細部は見えない」
ワッテンバーグ氏は、主な問題はユーザーが「説明に関して本当に何を望んでいるか」であると主張し、どの程度の詳細を提供すればいいのかを知るのは難しいと述べた。
自分の主張を証明するために、もし誰かが彼にコップ一杯の水を手に取った理由を尋ねたとしたら、その完全な答えには脳内で起こっている化学反応の詳細が含まれるだろうが、それはおそらくあなたが求めている答えではないだろうし、そのような情報はあまり役に立たないだろうと彼は言った。
マイクロソフトの技術政策担当ディレクターのキャロリン・グエン氏もこの点に同意した。
「透明性の第一の目的は理解を可能にすることですが、コードやデータを共有するだけではそれは実現しません」と彼女は述べた。「そこで何が起こっているのかを理解するには多くのデータサイエンティストが必要ですが、それでも不可能なのです。」
代わりに、Microsoft は、アルゴリズムがどのようにトレーニングされるか、そしてそれをテスト、監視、保守するために何が使用されるかという点で、「説明可能性の原則」に重点を置いています。
一方、ツイッターの英国とイスラエルの公共政策責任者ニック・ピクルス氏は、情報を公開するとシステムが不正操作に対して脆弱になると述べた。
「我々にとって大きな懸念は、ユーザーを守るためにアルゴリズムを防御的にどのように活用するかということです」と彼は述べた。「悪意のある人物がアルゴリズムを悪用するのをどうやって防ぐのでしょうか？」
エクスペリアン社のチャールズ・バターワース氏もこれに同意し、同社がその基礎となるアルゴリズムを公開すれば「信用業界に損害を与える」だろうと述べた。
しかし、労働党議員マーティン・ホイットフィールド氏は、この明らかな二分法に疑問を呈した。委員会は、アルゴリズムの情報を引き渡すということは誰かがそれを操作できることを意味するが、同時にシステムが非常に複雑であるため誰も理解できないということを示す多くの証拠を持っている、というのだ。
証人は、最初の言い訳が最も効果的である場合もあるが、時には最初の言い訳が主な問題である場合もあり、時には2番目の言い訳が主な問題である場合もあるからだと反論した。
ハンナ・フライ博士：密室でのアルゴリズムには注意が必要
続きを読む
「アルゴリズムが異なれば特性も異なる」とワッテンバーグ氏は言う。動作方法が非常に明確なアルゴリズムは、アルゴリズムを攻略するのに役立つだろう。
Googleのページランクを例に挙げましょう、と彼は言いました。創設者たちがアルゴリズムに関する論文を発表したところ、スパマーが合成サイトのネットワークを構築できるようになったのです。「それ以来、私たちは対処法を学んできましたが、それを秘密にしています。これは、この問題がいかに文脈に依存するかを示す良い例です。」
委員会が監査について質問された際にも同様の状況が生じた。グエン氏は、自己監査から第三者による調査まで「幅広い範囲」があると述べ、検証とテストの基準が十分に理解されていないため、監査が認められるかどうかは不明だと付け加えた。
ワッテンバーグ氏もこれに同意し、第三者による監査を許可することについては、その情報にアクセスする組織外の人々のプライバシーとセキュリティに影響が出るため、「非常に慎重に検討する必要がある」と述べた。
委員会の調査は継続中です。®
