コメントここ数年、メディアは人工知能（AI）と機械学習技術に関する誇張した報道で溢れています。コンピュータサイエンスの分野において、これほど多くの、しかも専門知識の乏しい人々によって、これほどまでに馬鹿げた発言が相次いだことはかつてなかったと言えるでしょう。1980年代に最先端のハードウェアに携わっていた人にとっては、これは不可解なことです。
今月号のアトランティック誌では、 『サピエンス全史』『ホモ・デウス』のベストセラー著者であり、著名な知識人でもあるユヴァル・ハラリ氏が、AIが民主主義に与える影響について論じています。この記事で最も興味深いのは、ハラリ氏が現在のAI技術の能力に並々ならぬ信頼を寄せている点です。彼は、Google傘下のDeepMindのチェスソフトウェアを「創造的」、「想像力豊か」、そして「天才的な直感」さえ備えていると評しています。
一方、BBCのドキュメンタリー『AIの喜び』では、ジム・アル・ハリーリ教授とディープマインド創業者のデミス・ハサビス氏が、一見人工知能システムがいかにして「真の発見をしたのか」、「実際に新しいアイデアを思いつくことができるのか」、「自ら直感した戦略」を開発したのかを語っている。
本質的には愚かで機械的なシステムを説明するために、このような誇張や擬人化が大量に使用されている今こそ、ハードウェアの現実を基本に立ち返って確認する良い機会かもしれません。
コンピュータ技術に関する議論は、神話やメタファー、そしてコンピュータ画面に映し出されたものに対する人間の解釈を通して行われる傾向があります。「直感」「創造性」「斬新な「戦略」といったメタファーは、新たな神話の一部です。AIの専門家はゲームの動きのパターンを特定し、「戦略」と呼びますが、ニューラルネットワークは「戦略」が何であるかを全く理解していません。もしここに本当に「創造性」があるとすれば、それはシステムを訓練するプロセスを考案し、管理するDeepMindの研究者たちの創造性です。
今日の AI システムは、膨大な量の自動化された試行錯誤を通じてトレーニングされています。各段階でバックプロパゲーションと呼ばれる手法を使用してエラーをフィードバックし、システムを微調整して将来のエラーを削減することで、チェスなどの特定のタスクにおける AI のパフォーマンスを徐々に向上させています。
AI、機械学習、そしていわゆる「ディープラーニング」システムの近年の有効性の急激な向上は、主にこのバックプロパゲーション技術の応用に基づいています。この技術は1960年代に初めて発明され、1980年代半ばにジェフリー・ヒントンによってニューラルネットワークに応用されました。言い換えれば、AIの概念には30年以上も大きな進歩が見られないということです。現在、AI研究やメディアで目にする成果のほとんどは、非常に高価なコンピューティングハードウェアと、洗練されたPRキャンペーンを、かなり古いアイデアに投入した結果に過ぎません。
これは、DeepMindの研究に価値がないと言っているのではない。新しい戦略やアイデアの創出を支援する機械は非常に興味深い。特に、その機械の動作があまりにも複雑で、人間には理解しがたいものである場合はなおさらだ。私たちの社会の大部分が世俗的な文化において、テクノロジーの魔法や神秘性は魅力的であり、概して無味乾燥で合理的なエンジニアリングの分野に謎が現れるというのは非常に歓迎される。しかし、Googleのような企業の機械には幽霊は存在しない。
ハードウェア vs. ソフトウェア、アナログ vs. デジタル、トンプソン vs. ハサビス
DeepMind マシンをめぐる騒ぎは、20 年前にまったく異なる、そしておそらくより深遠な「機械学習」システムが生み出した興奮を思い出させます。
1997 年 11 月、サセックス大学の計算神経科学およびロボティクスセンターの研究員であるエイドリアン・トンプソン氏の研究 (PDF) が、ニューサイエンティスト誌の表紙を飾り、次のような見出しの記事が掲載されました。「原始シリコンからの生物 ― ダーウィニズムを電子工学研究室に解き放ち、何が生み出されるか見てみよう。誰にも理解できない、無駄のない、強力なマシン。」
トンプソン氏の研究は、従来のソフトウェアアプローチではなく、従来の常識を覆し、電子ハードウェアを用いて機械学習システムを進化させたことで、ちょっとしたセンセーションを巻き起こしました。彼がこの手法を選んだのは、あらゆるデジタルコンピュータソフトウェアの能力が、その処理脳を構成するスイッチのオン/オフという二進法によって制約されていることを認識していたからです。
対照的に、人間の脳のニューロンは、あらゆる種類の微妙で、ほとんど計り知れないほど複雑な物理的・生化学的プロセスを利用するように進化してきました。トンプソンは、自然淘汰という自動化されたプロセスを通じてコンピューターハードウェアが進化することで、コンピューターのシンプルなデジタルスイッチを構成するシリコン媒体のアナログ（つまり無限に変化する）現実世界の物理的特性をすべて活用できるのではないかと仮説を立てました。その結果、人間の脳構成要素の効率的なアナログ動作を彷彿とさせる何かが生まれるかもしれません。そして彼の考えは正しかったのです。
トンプソン氏が研究室で行ったのは、FPGA（デジタルスイッチ間の接続を常に再構成できるタイプのデジタルシリコンチップ）の構成を進化させ、2つの異なる音声トーンを識別できるようにすることでした。その後、トンプソン氏はFPGAチップ内部を調べ、進化のプロセスによってスイッチ間の接続がどのように構成されたかを確認しました。その結果、わずか37個の部品で構成された、驚くほど効率的な回路設計が実現していることに気付きました。
それだけでなく、進化した回路はもはやデジタルエンジニアにとって意味をなさなくなっていました。37個の部品の中には互いに電気的に接続されていないものもあり、それらを設計から取り除くと、システム全体が動作を停止しました。この奇妙な状況に対する唯一の説明は、システムが、本来デジタルであるはずの部品間に、何らかの謎の電磁気的接続を利用しているというものでした。言い換えれば、進化のプロセスは、システムの部品や材料の現実世界のアナログ特性を「計算」を実行するために取り入れていたのです。
これは衝撃的でした。1990年代に若き研究者として、電子ハードウェア研究とAIの両方のバックグラウンドを持つ私にとって、トンプソンの研究は畏敬の念を抱かせるものでした。コンピューターは全く新しい種類の電子回路を発明し、人間の電子工学者の能力を凌駕しただけでなく、さらに重要なのは、はるかに強力なコンピューターシステムとAIの開発への道筋を示しているように思えたのです。
ハサビス氏は、今は亡きライオンヘッドスタジオの神ゲー「ブラック＆ホワイト」のリードAIプログラマーとしてキャリアをスタートした。
では何が起こったのか？ハサビス氏がGoogleの親会社アルファベットに多額の資金を投じ、BBCが追悼ドキュメンタリーを制作している一方で、トンプソン氏は比較的無名なのはなぜなのか？その答えの多くはタイミングに帰着する。1990年代当時、AIはジョン・メージャーのパンツと同じくらい流行っていた。今日、AIは「第四次産業革命」の到来を告げる重荷を背負っている。資本は次なる大物を追い求めている。DeepMindのデジタルAIシステムは、天気や人間の脳といった複雑な現実世界のアナログシステムのモデル化にはあまり役立たないが、リンク、クリック、いいね、シェア、プレイリスト、ピクセルといった単純なオンラインのバイナリ世界から流れ出るデジタルデータの処理には間違いなく適している。
DeepMindは、ショーマンシップの力を理解していることからも恩恵を受けています。DeepMindは、技術的な神秘性を巧みに利用することで自社の技術と幹部社員を売り込んできましたが、そのデモはすべて、単純な計算ルールのゲームをプレイするものでした。ゲームには、メディアや一般の人々にとって非常に共感しやすく、視覚的にも興味深いという利点もあります。実際には、この技術の商用利用は、Googleがコンピューターを保管しているデータセンターの電力効率を最適化するといった、ごくありふれたバックルーム業務に留まるでしょう。
Ceci n'est pas une paddle
トンプソン氏とハサビス氏に共通するのは、英国人であること以外に、システムを効果的に訓練し進化させるために必要なスキルと創造性です。しかし、人間のスキルと創造性への依存は、あらゆる「人工知能」や機械学習システムにとって明らかに弱点です。また、それぞれの技術は非常に脆弱です。例えば、トンプソン氏のシステムは、進化させた温度とは異なる温度で動作を停止することがよくありました。一方、ディープマインドでは、あるビデオゲームシステムにおいて、パドルのサイズを変えるだけでAIのパフォーマンスが完全に低下します。この脆弱性は、ディープマインドのAIソフトウェアがパドル、さらにはビデオゲームそのものが何であるかを実際には認識していないことに起因しています。スイッチは2進数しか扱えないのです。
機械学習システムは近年確かに大きな進歩を遂げていますが、その進歩は主に、従来のコンピューティングハードウェアを大量に投入することで達成されたものであり、根本的なイノベーションによるものではありません。近い将来、シリコンチップにこれ以上小さなシリコンスイッチを詰め込むことはもはや不可能になるでしょう。そうなれば、設計効率（つまり、より少ないハードウェアでより多くの処理を実行すること）が商業的に重要になり、進化型ハードウェアがついに主流となる時が来るかもしれません。
トンプソンとハサビスの両アプローチを組み合わせたハイブリッドシステムも登場するかもしれない。しかし、いずれにせよ、ハラリ博士が次のベストセラー本を書くために「創造的な」AIシステムを購入することを考えるまでには、しばらく時間がかかるだろう。®
アンドリュー・フェンテムは、30年以上にわたりヒューマンコンピュータインタラクションの研究とハードウェア開発に携わってきました。Appleがこの分野に参入する以前から、マルチタッチサーフェス技術のパイオニアとして活躍してきました。
あとがき
2016年、Appleは謎のFPGA（トンプソンが進化型ハードウェアの実験で使用したチップに似たチップ）を搭載していると報じられたiPhoneのバージョンをリリースしました。この奇妙なチップの用途は誰も知らなかったようです。一瞬、Appleが何らかの珍しい進化型AIハードウェアを開発したのではないかと考えました。しかし残念ながら、Appleはまだ開発していませんでした。あるいは、まだ開発していないのかもしれません。
