グーグルは、完全子会社のディープマインド・ヘルス部門をチョコレートファクトリーに吸収合併することで、英国国民保健サービスの中核に位置づけた。データもろともだちだ。また、同部門の「独立審査委員会」も廃止した。
Googleは2014年、元ゲーム開発者のデミス・ハサビス氏が創業した英国の注目のソフトウェア企業DeepMindを買収した。子会社がNHSの臨床医向けに「Streams」という（AI非搭載*）モバイルアプリをリリースした後、GoogleはStreamsが取得した個人データはGoogleでは使用しないと繰り返し約束していた。
批評家たちは、DeepMind Health が Google Health と呼ばれる米国を拠点とする新たな取り組みに参加したため、その約束は破られたと主張している。
「ディープマインドはStreamsをGoogleと連携させることはないと言っていました」と、学術研究者でプライバシー研究者のジュリア・パウルズ博士はTwitterに投稿した。「Streamsアプリ全体がGoogle製品になってしまったのです！！ 既に苦境に立たされている製品にとって、これは甚だしい信頼の裏切りです」と彼女は綴った。
「今回の動きは、DeepMindの独立性という主張が、これまでずっと偽りだったことを露呈した」と、MedConfidentialのフィル・ブース氏は語った。「Googleの関心はStreamsにあるのではなく――評価者が『特に革新的ではない』と評するアプリだ――何百万人ものNHS患者の医療記録へのアクセスにある。最初の160万件を入手するために違法行為を行った――その後、誰がDeepMindの主張や行動を信じるだろうか？」
ディープマインド・ヘルスは、英国のNHS傘下の10の病院と5年間の契約を結び、160万人の英国患者の健康データを処理しています。昨年、英国のデータ保護監督機関であるICOは、Streamsが十分な同意を得ずに病院の患者データを入手したと結論付けました。患者は、自分の個人データがスマートフォンアプリのベータテストに使用されることを「合理的に予想」していなかっただろうとICOは結論付けました。保健・社会福祉担当の国家データ保護官であるフィオナ・カルディコット氏も同様の結論に達しました。
（ロイヤル・フリーNHSトラストはその後、独自の監査を委託し、驚くべきことに、実際にはすべてが順調だったことが判明した[pdf]。）
Google DeepMindの試験運用はデータ保護基準を遵守できなかった – ICO
続きを読む
サイレント・トリステロ
そもそも「独立審査委員会」はどれほどの価値があったのだろうか？ Googleは、独立審査委員会を発表したものの、実際には一度も設置されず、その後も一切の音沙汰がないという歴史がある。まるで、吠えることもない沈黙の番犬のように。ガーディアン紙は調査したが、GoogleがDeepMindを買収した際に設立されるはずだった審査委員会は見つからなかった。DeepMindは最終的に、ロイヤル・フリー・スキャンダルのちょうどそのタイミングで審査委員会を設立した。しかし、その委員会はどれほど独立していたのだろうか？
メンバーには、宇宙は現実ではなく巨大なゲームシミュレーションであると信じるトランスヒューマニストのAI伝道師ニック・ボストロム教授や、昨年議会の人工知能特別委員会で次のように語ったショーディッチのネットワーキングの女王アイリーン・バービッジMBEなどがいた。
それがどのように機能するかはあなたが決めます。
「審査委員会が必要だという見せかけさえ消え去った」とメドコンフィデンシャルのブース氏は指摘した。®
*ブートノート
* 基本的には、IM通知が組み込まれた意思決定ツリーです。Streamsは「人工知能」を使用していません。DeepMindは明確にそうしていないと述べています。しかし、この移行を発表したブログ記事では、創設者たちは次のように説明しています。
「私たちのビジョンは、Streams が世界中の看護師や医師のための AI 搭載アシスタントになることです。」
