唯一の道は倫理：英国貴族院、AIの「道徳パニック」を懸念

貴族院は、AIシステムが使用するデータが独占されず、技術が倫理ガイドラインに基づいて開発されることを確実にしたいと考えている。

それは不可能ではない、と貴族院の人工知能特別委員会委員長、ティム・クレメント・ジョーンズ卿は語った。

「私たちは、どこでうまくいっていて、どこでうまくいっていないのかを調べました。GM食品はうまくいっていないところで、ヒト胚研究はうまくいっているところです。」

クレメント・ジョーンズ氏は、この報告書は「道徳的パニックを避ける」ために作成されたと語った。

委員会は昨年、「キ​​ャプテン・サイボーグ」ことケビン・ワーウィック教授やThe Register紙の証人を含む200人以上の証人から口頭証言を集めました。報告書は、AIに関するメディアの過熱報道にありがちな誇張表現を避け、自動化が雇用市場に与える影響について大まかな予測をすることは賢明に避けました。実際、そのような主張には異論があると報告書は指摘しています。

「大衆文化における人工知能の描写は、しばしばより複雑で平凡な現実からかけ離れている」と報告書は述べている。研究者や学者たちはこの状況に少々うんざりしていると特別委員会に語り、報告書はまた、メディアのおかげで一般大衆が「『超知能』を持つ汎用人工知能の可能性といった、まだ実現の遠い脅威に注目し、より差し迫ったリスクや問題から目を逸らしている」と指摘している。

イーロン・マスク、故スティーブン・ホーキング教授、そして「シミュレーション仮説」のニック・ボストロム教授は、終末論的な恐怖を頻繁に煽ってきた。貴族院は、人々が代わりに決定を下すという、彼らが避けたい近未来のシナリオを描いた。

フィッシングやレコメンデーションといったこうした行為の多くが、既に「AI」を介さずに統計的手法を用いていることは注目に値します。報告書は、自律システムの責任に関しては、弁護士の間で意見の一致が見られないことを指摘しています。AIに法的人格を与えるべきだと考える弁護士もいれば、そうでない弁護士もいます。委員会は、法務委員会に対し、「明確な説明」を行うよう勧告しました。

貴族院はまた、競争・市場庁が、データが5つの大企業に独占されないよう確保する役割を担うことも望んでいる。

「我々は政府に対し、競争・市場庁と連携し、英国で事業を展開する大手テクノロジー企業によるデータの利用と潜在的な独占について積極的に検討するよう求める。」

5社が「覇権を維持する」というリスクがある。貴族院はまた、ブレグジット後に情報コミッショナーが積極的な役割を果たすことも想定している。「データの利用が不公平であったり、偏っていたりする状況に人々が気付くのは望んでいません」と委員会の委員長は述べた。

未来学者が予測する雇用の抜本的な再編である「第四次産業革命」に関して、貴族院は「英国におけるAIの経済的影響は甚大なものになる可能性がある」と指摘した。

英国は、主にサービス中心の経済への移行により、生産性が低迷しており、2008年以降、生産性の伸びが見られません。この調査では、重要なセクター、特に多くの中小企業とNHS（国民保健サービス）が、AIどころかITの恩恵を十分に享受できていないことが明らかになりました。NHSは世界最大のファックス機購入者です。そのため、貴族院はブロードバンドの改善も同様に重要だと述べました。

「NHSはデータ、その使用方法、ライセンス付与や共有に関して統一したアプローチを取っていない」とクレメント・ジョーンズ氏は語った。

報告書は、AIは「好不況の分野」であり、政府がエキスパートシステム時代にAIに資金を投入した前回は芳しい結果にならなかったと指摘している。ルールベースのAIは、「高コスト、頻繁で時間のかかるアップデートの必要性、そしてルールが追加されるにつれて有用性と精度が低下する傾向」を特徴としていた。1980年代には10億ポンド相当がAIに投資され、納税者は2億ポンド相当を拠出した。私たちはまだその段階には達していない。

貴族院の調査は、AIをめぐる熱狂が高まっていた昨年秋に開始されましたが、その後、熱狂は幾分冷めています。ジェフリー・ヒントン教授は、技術が限界に達していることへの懸念を表明しています。また、神経科学者、作家、起業家のゲイリー・マーカス氏は、今年初めに論文「ディープラーニング：批判的評価」の中で、鋭い批判を展開しました。

12月、モンサントは50件のディープラーニング実験を試みたが、「95%の失敗率」を経験したと報じられた。つまり、少なくとも49件は完全に失敗し、半分は成功したということになる。

レポートはこちら（PDF）からご覧いただけます。®

ブートノート

昨年10月、私は委員会でメディアとAIに関するセッションに出席し、口頭で証言しました。主なメッセージは、機械学習がロボット工学の発展にほとんど貢献しておらず、マイクロワールドやゲームにおける優れた成果が必ずしも現実世界の進歩につながるわけではないことから、産業オートメーションの抜本的な改善への期待は見当違いかもしれないというものでした。これは専門家が「モラベックのパラドックス」と認識しているものです。メディアは自動運転車とAIを混同することで、AI技術が実現できる範囲をはるかに超える期待を煽ってしまった可能性があります。その際、予期せぬ余談が飛び出しました。

これは、ドナルド・トランプ氏の脳内に何らかの新しい知識（彼の脳が奇跡的に保持するであろう）を植え付けるのに 20 分しかかからないとしたら、その知識が機械学習技術ではなく、たとえば何らかの歴史であれば、世界はより安全になるだろうという考えから生まれたものです。