グーグル社員がAIベースのスーパードローンをめぐって暴動を起こした後、科学者らはグーグルに軍事契約の撤回を要請

世界中の何百人もの学者が、Googleに対し、プロジェクト・メイブンのAI技術を使ってドローン映像を分析する米国国防総省との協力をやめるよう求める公開書簡に署名した。

本稿執筆時点で300人近くの署名を集めているこの公開書簡は、自律型兵器を懸念する研究者らが共同設立した非政府組織、国際ロボット軍備管理委員会（ICRAC）が開始したもので、メンバーにはロボット工学、人工知能、国際関係、安全保障、倫理、法律の専門家が含まれている。

Googleの軍事協力に反対する人々が結束したのは今回が初めてではない。先月、数千人の従業員がGoogleに反旗を翻し、CEOのサンダー・ピチャイ氏に「プロジェクトを即時中止」するよう求める書簡を送った。そして、ピチャイ氏に対し、「Googleとその請負業者が軍事技術を開発することは決してないという明確な方針を策定、公表、そして施行する」よう求めた。

この公開書簡は、チョコレートファクトリーに反抗するGoogle社員を支援するために本日執筆されました。書簡は、アルファベットCEOのラリー・ペイジ氏、サンダー・ピチャイ氏、Google Cloud CEOのダイアン・グリーン氏、そしてGoogle CloudのAI・機械学習担当チーフサイエンティスト兼副社長であるフェイフェイ・リー氏に宛てられています。

「我々は、Googleが国防総省との契約を解除し、Googleとその親会社であるAlphabetが軍事技術の開発を行わず、収集した個人データを軍事目的で利用しないことを約束するという彼らの要求を心から支持します。軍事資金が歴史的にコンピューティング分野の研究開発をどの程度牽引してきたかが、この分野の今後の方向性を決定づけるべきではありません」と声明には記されている。

Googleは、国防総省との政府契約における自社技術の悪意ある利用を繰り返し否定している。広報担当者は以前、ドローン映像における「非機密データにおける物体認識を支援できるオープンソースのTensorFlow API」を軍の支援に活用していると語っていた。

しかし、ICRACはこれを自律型兵器開発のほんの一歩に過ぎないと見ている。書簡には、「プロジェクト・メイヴンに関する報告書では現在、人間のアナリストの役割が強調されているが、これらの技術は自動標的認識や自律型兵器システムの基盤となる可能性がある。軍司令官が物体認識アルゴリズムの信頼性を認めるようになれば、これらのシステムに対する人間による検証や監視を弱めたり、場合によっては完全に排除したりする誘惑に駆られるだろう」と記されている。

専門家たちは武器だけを懸念しているわけではない。Googleが監視目的でユーザーデータを軍と共有する可能性についても懸念している。

Googleのようなグローバル企業の責任は、そのユーザーの国際的な構成に見合ったものでなければなりません。Googleが検討中の国防総省との契約、そしてMicrosoftとAmazonが既に締結している同様の契約は、現在世界中の人々から収集された膨大な量の機密性の高い個人データを保有している民間テクノロジー業界と、ある国の軍隊との危険な同盟関係を示唆しています。

「私たちは今、極めて重要な局面を迎えています。ケンブリッジ・アナリティカのスキャンダルは、テクノロジー業界がこれほどの権力を握ることを許すことに対する国民の懸念の高まりを如実に示しています。このスキャンダルは、情報技術インフラの重要性がますます高まっていること、そして国民の信頼を守るための現行の国内および国際的なガバナンス枠組みが不十分であることを浮き彫りにしました」と、書簡は締めくくっています。

Googleは譲歩せず、一部の従業員が辞職したと報じられている。この紛争をめぐってこれまでに何人の従業員が辞職したかは不明である。

The RegisterはICRACとGoogleにコメントを求めている。®