ディープラーニングとニューラルネットワークは膨大な量のデータと計算能力の恩恵を受けているかもしれないが、最近の学術的評価によると、それだけでは汎用人工知能の実現には至らないという。
ウーバーのAI研究所の元所長でニューヨーク大学の心理学教授でもあるゲイリー・マーカス氏は、ディープラーニングシステムには数多くの課題があり、それらは大きく分けていくつかのカテゴリーに分類できると主張している。
一つ目はデータです。あらゆるディープラーニングシステムにとって、データは間違いなく最も重要な要素ですが、現在のモデルはデータを必要としすぎています。機械が特定のタスクをうまく実行する方法を学ぶには、膨大な量のラベル付きデータが必要です。
DeepMindのAlphaZeroのようなプログラムがチェスや囲碁であらゆる強豪を圧倒できると聞くと、がっかりするかもしれません。しかし、これは合計6800万回も自分自身と対戦した後に達成されたものです。これは、人間のプロが一生かけて行う対戦回数をはるかに上回ります。
本質的に、ディープラーニングはコンピューターに入力を正しい出力にマッピングする方法を教えます。入力データと出力データの関係は、ニューラルネットワークのノード間の接続を調整することで表現され、学習されます。
2つの隠れ層を持つ単純なニューラルネットワークの画像
訓練プロセス中に与えられたデータから得られる知識が限られているため、AlphaZeroは限られた環境でしか動作できません。AlphaZeroはモンテカルロ木探索と強化学習の手法である自己対戦を組み合わせた単一のアルゴリズムですが、チェスと囲碁をプレイするには2つの異なるシステムが必要でした。
あるゲームで学んだスキルを別のゲームに応用することはできません。人間とは異なり、機械は重要な概念を実際には理解していないからです、とマーカス氏は言います。機械はポーン、ナイト、クイーンを盤上で動かすことは選択するかもしれませんが、囲碁に役立つ論理的かつ戦略的な思考を学習するわけではありません。実際、機械はそれぞれの駒が実際に何を表しているのかさえ理解しておらず、ゲームを一連のルールとパターンとしてしか捉えていないのです。
この脆弱性は、現在のAIシステムが「オープンエンド推論」に苦労していることを意味します。「『ジョンはメアリーと別れると約束した』と『ジョンはメアリーと別れると約束した』の違いのようなニュアンスを表現できなければ、誰が誰と別れるのか、あるいは次に何が起こる可能性があるのかを推論することはできません」とマーカス氏は書いています。
Facebook は、テキストに対する機械推論をテストするために必要な人気の bAbI データセットを開発しましたが、現在のモデルは、答えがテキストに明示的に記載されている場合にのみ質問に答えることができます。
「人間は文章を読むとき、例えば間接的な会話だけに基づいて登場人物の意図を推測するなど、斬新でありながら暗黙的にのみ認められた幅広い推論を頻繁に行う」と論文は述べている。
もう一つの良い例は、AIがいかに簡単に騙されるかということです。あちこちのピクセルを変えるだけで、コンピューターが車を犬だと勘違いしたり、猫をワカモレだと勘違いしたりするケースは数多くあります。
ディープラーニングの限界により、成功はKaggleコンペティションにおける既知のデータセットのベンチマークスコアの向上といった「自己完結型」の問題を解決することによって測られるようになりました。マーカスはさらに踏み込み、常識的な推論に依存するより難しい課題は、実際にはディープラーニングの能力を超えていると考えています。
「大まかに言えば、ディープラーニングは入力と出力の特徴間の複雑な相関関係を学習しますが、因果関係を本質的に表現するものではありません。」機械が推論を学習するには、因果関係を理解することが不可欠です。
さらに悪いことに、研究者たちはこれらのニューラルネットワークの実際の動作を解明できていません。ニューラルネットワークは一連の行列乗算を実行しますが、これらの「ブラックボックス」がどのようにして答えを導き出すのかを解明することは、依然として未解決の問題です。研究者たちは、金融や医療の分野でより広く活用できるよう、ニューラルネットワークの透明性を高める方法を模索しています。
実存的な不安に襲われているなら、心配しないでください。ロボットがすぐに支配権を握る可能性は低いでしょう。汎用人工知能の可能性は確かにいつか到来するかもしれませんが、そこに到達するにはディープラーニング以上のものが必要です。®
