エル・レグはAI終末論のバブルを破るために貴族院に招待された

コメント英国ウェストミンスターでは、貴族院が人工知能に関する広範囲にわたる調査を行っています。

私はAIについて、そしてなぜ人々がAIを信じるのかについて本を執筆中で、いくつかのメモに基づいて、BBCのロリー・セラン・ジョーンズ氏とフィナンシャル・タイムズのサラ・オコナー氏とともに3人で構成されるパネルで口頭証言を行うよう依頼された。

AIが今、話題沸騰中！国会テレビが生中継で放送することになりました。その模様をお伝えします。

ニック・ボストロムがAI懐疑論者として最も注目を集めているとき

調査委員会の最初のパネルは私のパネルに先立ち、オックスフォード大学哲学教授のニック・ボストロム氏、コンピュータサイエンス学科長のマイク・ウールドリッジ氏、そしてウェンディ・ホール女史（DBE、FRS、FREng）が出席しました。ボストロム氏は、AIによる雇用終末論の推進に尽力したポストヒューマン思想家ですが、現実はコンピュータゲームのシミュレーションであるという考え方を提唱したことで最もよく知られています。その後の45分間、私は何度か彼の言うことに一理あるのではないかと考えました。

しかし驚いたことに、ボストロム氏はAIの将来について最も現実的で現実的な見解を示していた。「いや、汎用知能はまだ実現に程遠く、議論する価値すらない」と彼は言った。自動化の飛躍的な進歩に賭けるのは慎重になるべきだ。対照的に、ウッドリッジ氏とホール氏は、亜酸化窒素を吸ったティーンエイジャーのように熱狂していた。「AIは素晴らしい！もっと資金を！」

研究者がより多くのリソースを求める場合、それはコード化されます。「より多くのキャパシティが必要です」とウッドリッジ氏は言います。

ウールドリッジ教授のようなAIのベテランには、少し同情します。AIの冬はあまりにも長く寒く、夏はあまりにも短いので、秋の日にリスのように走り回って、できるだけ多くの木の実を集めている彼を責めることはできません。彼が機械学習に関する児童書を2冊執筆中だと知りました。少なくとも木の実が2冊あるということですね。

しかし、ウールドリッジ氏が機械学習（ML）の画期的な可能性について疑念を抱いていたとしても――今年になって表面化した疑念――彼はそれを胸に秘めていた。当初、私の仕事は難しいと思っていた。MLには便利な新しいツールやアプリケーションがいくつかある一方で、非現実的な期待もたくさんあるからだ。一流紙やシンクタンクで交わされるAIに関する議論は、現実とは全くかけ離れている。彼らはただ、驚異的なデモが素晴らしいロボットを生み出すと決めつけているだけだ。

しかし、現場ではロボット工学者も機械学習の実践者もかなり冷静だ。上層部に行けば行くほど、より壮大で根拠のない主張が出てくる。ギデンズ卿はウィトゲンシュタインと記号AIの過去の失敗に触れ、委員会は簡単には屈服しないだろうと警告した。

ホールとボストロムは、難しい仕事をさらに難しくしてしまった。

モラベックのパラドックスは依然として障害となっている

ロリー・セラン＝ジョーンズ氏は、自分の受信箱にはAI関連の資料が溢れていると言い、いくつかサンプルを読み上げた。「我々はハイプサイクルの頂点にいるに違いない」と彼は言った。オコナー氏も同意見だった。

ではどうやって始めればいいのでしょうか?

私が学んだ最も有益なことは、モラベックのパラドックスがまだ消えていないということだ。

主流メディアにおけるAIの典型的な説明はこうだ。「素晴らしい画像認識のデモンストレーション。自動運転車も何とか。さあ、終末だ！第四次産業革命だ！」ディープラーニングのデモンストレーションで使用されたのと同じ手法が、ロボット工学において漸進的な変化ではなく、飛躍的な進歩をもたらす可能性があるという考えは、もはや当然のことだ。

ロボット工学と機械学習のコミュニティの仲の良さ――あるいは明らかに仲が悪い――は、そうではないことを示唆している。機械学習やディープラーニングにおける「ブレークスルー」が、必ずしもより賢いロボットにつながるわけではない。そうなるかもしれないし、そうでないかもしれない。例えば、道路を横断中の老婦人に車が衝突するのを防ぐのに、手間のかかるラベル付けやトレーニングは全く役に立たない。

つまり、ゲームやクリーンルームのような快適な環境以外では、機械の能力が社会を一変させるほどの急激な進歩を遂げるという懸念を正当化する証拠を見つけるのは難しいのです。世界は混沌としており、混沌としたデータを生み出しています。一体どう説明すればいいのでしょうか？

そこで私は、このパラドックスを何とか説明しようと努めました。大人レベルのゲームで良い成績を収めただけでは意味がない、と私は言いました。ロボット工学の進歩も同様に幻想的なのかもしれません。駐車できる「自動運転トラック」はまだ実現していないと私は思います。「自動運転」車は真の意味での自動運転ではないので（天候に恵まれ、明確に区画線が定められた道路であれば、何マイルも快適に走行できます）、より正確には「半自動運転」と呼ぶべきでしょう。しかし、レーンアシストのおかげで、現代の自動車もある程度は「半自動運転」になっていることはご承知おきください。

ゲームの話になると、少し不安を感じた。委員会はすでにGoogleのデミス・ハサビス氏と面会し、映画『AlphaGo』も鑑賞している。ハサビス氏は絶好調で、既に「国宝」の地位をはるかに超え、世俗的な聖人へと急速に近づきつつある。ハサビス氏が何か突飛なことを言っても――例えば、Atariで遊ぶAIが汎用的な知能を発揮するなど――誰もそれを指摘しない。DeepMindの医療用アプリケーション「Streams」がAIとは全く関係ないことに誰も気づいていないようだ――しかし、DeepMindはGoogleに機密性の高い個人の健康データを提供することに成功した。

おそらく正面からの全面攻撃は賢明ではなかっただろう。

ロバート・ランシー大司教

審議の約3分の2が過ぎたところで、委員会はAIに関連するリスクは何かと質問した。

これは金魚の瞬間でした。私は少し前に、前の質問に答えずにその質問に答えていました。

その時、自分が「トゥー・ロニーズ」の最高のスケッチに出演していることに気づきました。これです。

YouTubeビデオ

ソフトウェアは優秀だがハードウェアは遅い？

一瞬、セラン＝ジョーンズと私は、子供たちにプログラミングを教えることについての有名な口論を再開するのではないかと考えました。委員会は、子供たちが来たるべきAI革命について認識し、準備ができているかどうか疑問視していました。私は、アルゴリズムの授業に多くの時間が割かれ（うちの子の小学校では毎週授業がある）、歴史と美術の授業が削減され、時間割に散発的にしか登場しないことに失望していると伝えました。文化と歴史抜きで、世界、例えば中国と韓国の関係など、どうやって理解できるというのでしょうか？この発言は好評でした。

しかし、二人とも話題を逸らしました。ちょうどいいタイミングで。するとロリーが面白いことを言いました。彼は、今日の問題はソフトウェアが優れているのにハードウェアが遅いことだと考えていたのです。

あまりにも理解に苦しみ、自分がどこにいたのかすっかり忘れてしまいました。もちろん、今日のAIの問題はそれとは全く逆です。

ノーム・チョムスキーが指摘するように、私たちは「前衛的な」基礎研究をやめ、今やコンピューターパワーという鈍い力に頼って生き延びている。チョムスキーの記述を引用しよう。彼は天気予報を例に挙げている。

貴族院議員たちは、権威ある人々から「すべては正しい方向に進んでいる」と告げられているのに、どうしてこの考えを導入できるのでしょうか？ うまくいったかどうか分かりません。

レーニンの歴史のゴミ箱に捨てられる

証人たちは何度かデータの重要性を指摘しました。個人が自分のデータを所有することは、デイム・ホール氏が支持する点です。私も同じ意見です。個人が主権者であるべきです。

第5代リドリー子爵マット・リドリーは、これはまるで、家の上空を飛ぶ最新式の飛行機に反対し、私有空域の所有権を主張する家主のようなものではないか、と私に尋ねました。興味深い例えですね。

「そんなことは望んでいない」と私は言った。なぜなら、その論理を突き詰めれば、公共の利益のためにデータの所有権を放棄しなければならないという結論に至ると、一種の全体主義につながるからだ。仕事帰りにビールを一杯開ければ、どこかのアルゴリズムがあなたを保険リスクが高いと判定するだろう（この悪い飲みっぷり）。これはデイブ・エガースの『サークル』で巧みに風刺されている。「共有は思いやり」。ビッグ・ブラザーをオフにすれば、烙印を押される。

自分の宿題を採点する

次に貴族院は、メディアが人工知能の発展をどの程度報道しているかを尋ねた。BBCとFTはともに、全体としてかなり報道していると考えている。

人生には、頭にフォークを突き刺したくなる瞬間がよくある。でも、生放送中だってことに気づく。今回もまさにそんな瞬間だった。手元にフォークがなかった。

ジャーナリストが自分の宿題に点数を付けて、自分はうまくやっていると結論づける光景は、世間一般ではあまり受け入れられないと思います。もちろん、私はそうは言えませんでした。その代わりに、メディアが現実を真に反映していないのであれば、問題があるのではないかと提案したのです。

AI専門家からの懐疑的な意見はほぼ完全に消え、プロデューサーや編集者はロボットによる終末論を議論している。ディープラーニングの父、ジェフリー・ヒントン氏が最近、自身の見解を撤回し、MLコミュニティに衝撃を与えた今、別のアプローチについて議論してもよいのではないか。この一芸に秀でたAIには、もう二度と出演依頼はできないのではないかという懸念が根強くある。ヒントン氏によれば、それはあり得ないという。

これは真剣な懸念です。数年後、犬が吠え、カーニバルが去った後でも、混沌とした世界を理解する機械の開発には、もはや近づかないかもしれません。

AIの次なる展望は？

これを念頭に、一つだけ提案を求められたとき、私は「レッドチーム」を提案しました。アプローチの欠陥を見つける人を見つけ、一般的でも流行でもない、興味深い新しいアプローチを持つ研究者を支援しましょう。知的多様性を促進しましょう。

AIは確かにそれを必要としています。研究の現状は悲惨で、定量的な改善はわずかしか得られないからです。ヒントン氏自身が、自らが執筆した比喩的な教科書を破り捨てることを正当化した今、おそらく他の人もそうするでしょう。®

ブートノート

ボストロムは、オズボーン氏とフレイ氏による2013年の雇用に関する有名（あるいは悪名高い）研究を委託しました。オズボーン氏とフレイ氏は「コンピュータ化」の影響を受けやすい職種を列挙し、メディアはそれを予測として扱いました。これが、メディアにおける「ロボットが中流階級の仕事を奪う」というパニックの火付け役となりました。

私はこれを「小切手詐欺」の一種と表現しました。コンピュータが認知タスクに優れているという主張を裏付けるため、オズボーン氏とフレイ氏は、ブリニョルフソン氏とマカフィー氏の著書『第二の機械時代』（2011年）を10回も引用しています。そして今、ブリニョルフソン氏とマカフィー氏は、オズボーン氏とフレイ氏の主張を確固たるものとして扱っています。これを「カルーセル詐欺」、あるいはもっと正確に言えば「カルーセル・プロパガンダ」に例えた方が適切だったでしょう。

セラン＝ジョーンズ氏は、OECDがオズボーン氏とフレイ氏の研究に疑問を呈したと述べ、ギデンズ氏は、その研究は単なる記述的なものであり、予測的なものではないと指摘したのは評価に値します。何と呼ぶにせよ、小切手を決済するには口座の資金が不足しているのです。