フィンランドのヘルシンキ市とオランダのアムステルダム市は、市政運営に使われるアルゴリズムや機械学習システムの仕組みを垣間見ることができるオンライン AI レジストリを導入しました。
次世代インターネットサミットに合わせて行われたこの共同発表は、アルゴリズムの透明性を促進する取り組みを表すものであり、これは、コンピュータコードが人々の生活に影響を与える決定をどのように行うかを人々が理解できるようにするために、コンピュータ科学者と擁護団体が近年優先して取り組んできた願望である。
ヘルシンキ人工知能登録簿とアムステルダムアルゴリズム登録簿は、フィンランドのAI透明性企業Saidotが実装したウェブサイトで、両都市の特定の技術システムがどのように機能するかについての詳細を提供している。
たとえば、アムステルダム アルゴリズム レジスターには駐車管理に関するセクションがあり、画像認識アルゴリズムを使用してナンバープレートを読み取るナンバープレート スキャナーを搭載したパトカーを市がどのように使用しているかが説明されています。
「ナンバープレートの番号は全国駐車登録局に送信され、その車が駐車する権利を持っているかどうかが確認されます」とアルゴリズム登録局は説明しています。「駐車料金を支払っていないことが判明した場合、検査官は周囲の状況の写真に基づいて、特別な状況（荷物の積み下ろし、信号機の前での停車など）があるかどうかを評価します。」
このページでは、システムが自動的に判断できない場合、駐車監視員が現場で判断し、酌量すべき事情がない場合は違反切符を発行する方法について説明している。
このサイトでは、関連するデータ、データの処理方法、アルゴリズムによる差別の回避方法、人間による監視の実施方法、リスクと安全対策について概説しています。
ハリケーンの強さを予測できるAIが登場。心配しないでください。NASAが開発したので、おそらく実際に機能するでしょう。
続きを読む
これらの概要には、National Parkeer Register（National Parking Register）のInterface Description 7.6 [PDF] など、特定の技術リソースへの参照が含まれる場合があります。このファイルでは、ナンバープレートスキャンシステムのアーキテクチャ、システムユーザーとバックエンドデータベース間でやり取りされるメッセージに使用されるXMLコード、そしてアプリケーションロジックの概要について詳しく説明しています。これは基本的に設計文書です。ソースコードは含まれていませんが、少しの労力でシステムがどのように動作するかを理解できるはずです。
「アルゴリズムは私たちの生活においてますます重要な役割を果たしています」と、アムステルダム市の副市長であるトゥリア・メリアーニ氏は声明で述べた。「ヘルシンキ市と共に、私たちはアルゴリズムに関する理解を可能な限り深め、都市としてアルゴリズムをどのように活用しているかについて透明性を確保するという使命を担っています。」
AIの使用が都市サービスの要素として一般的になりつつある中、ヘルシンキ市データ、AI、ロボット化プロジェクト組織のプロジェクトマネージャーであるパシ・ラウティオ氏は、こうしたAIレジストリのような取り組みは政府システムへの信頼を築くために必要だと主張している。
2017年に無党派のピュー・インターネット・リサーチ・センターが発表した報告書「コード依存：アルゴリズム時代の長所と短所」[PDF]では、アルゴリズムの透明性が重要であるだけでなく、アルゴリズムのリテラシーと監視も伴うべきだと主張している。
「私たちの社会におけるアルゴリズムの影響は拡大しており、新たな形態と監視モデルが必要になるだろう」と、MIT教育システム研究所のジャスティン・ライヒ所長はピュー研究所の報告書に提出されたコメントの中で述べた。「その一部には、コンピュータサイエンスの研修プログラムにおける倫理教育の拡充も含まれるだろう。多様で多元的な社会における新人プログラマーが自らの意思決定の結果を深く理解できるよう支援するためだ」
「また、企業の企業秘密を尊重しつつも、企業が秘密を理由にあらゆる形の公的監視を回避することを許さないような、新たな形のコードレビューと監視も必要だ」
コンピューター科学者のスティーブン・ウルフラム氏が昨年書いたように、AIの透明性が保証できない場合、リテラシーと監視の要素はさらに重要になる。
「もし私たちがコンピューター、そしてAIの力を真剣に活用したいのであれば、内部で何が起こっているかについて『人間が説明できる』説明は必然的に存在しなくなるだろう」と彼は語った。®
