分析論理的に考え、推論する能力は知性の鍵です。これが機械で再現できるようになれば、AIは間違いなくより賢くなるでしょう。
しかし、これは難しい問題であり、現在のディープラーニングで使用されている手法は十分に進歩していません。ディープラーニングは情報処理には優れていますが、推論には苦労することがあります。
ゲームに別のプレイヤー、つまりリレーショナル ネットワーク (RN) を登場させます。
Alphabet の英国 AI 部門 DeepMind の最新論文では、従来コンピューター ビジョンや自然言語処理に使用されてきた畳み込みニューラル ネットワークと再帰型ニューラル ネットワークに RN を追加することで、機械が推論できるようにすることが試みられています。
「ディープラーニングが推論タスクに不向きというわけではありません。むしろ、一般的な関係推論を可能にするための適切なディープラーニングアーキテクチャ、あるいはモジュールが存在しなかったのです。例えば、畳み込みニューラルネットワークは局所的な空間構造を推論する能力において比類のない性能を誇ります。だからこそ画像認識モデルではよく使われているのです。しかし、他の推論タスクでは苦戦する可能性があります」と、ディープマインドの広報担当者はThe Register紙に語った。
RNは「プラグアンドプレイ」モジュールと表現されます。RNは、ネットワークがオブジェクトペア間の関係性に焦点を絞ることができるようにアーキテクチャ設計されています。これはグラフネットワークに似たものと考えることができます。グラフネットワークでは、ノードがオブジェクトであり、ノード間を結ぶエッジがオブジェクト間の関係性を表します。
CLEVR データセットでは、ネットワークにさまざまな形状、サイズ、テクスチャを持つ複数のオブジェクトが提示され、視覚的推論能力をテストする一連の質問が行われます。
単一のタスクを解決するために、異なるニューラルネットワークコンポーネントが使用される（画像提供：Santoro他）
上記の関係性に関する質問に答えるには、RNはすべての物体の大きさを「茶色の金属の物体」と比較し、円筒形のみを考慮する必要があります。まず、畳み込みニューラルネットワークがシーン内の物体を識別し、次に長短期記憶ネットワークを用いてRNに質問が送られます。
質問に単語を埋め込むことで、RN（Research Relation：検索応答）は関連するオブジェクトのペアに焦点を絞り、その関係性を計算して答えを導き出すことができます。これは、単一の関数でそれぞれの関係性を計算できる巧妙な仕組みです。研究者は、形状を調べる関数とサイズを調べる関数をそれぞれ個別にコーディングする必要がなくなります。つまり、RNはデータをより効率的に活用できるということです。
「標準的な視覚的な質問応答アーキテクチャを用いたCLEVRの最先端の結果は68.5%で、人間の場合は92.5%です。しかし、私たちのRN拡張ネットワークを用いることで、人間を超える95.5%のパフォーマンスを示すことができました」とDeepMindはブログ投稿で述べています。
「RNは柔軟な関係性推論のためのより強力なメカニズムを提供し、CNNが局所的な空間構造の処理に専念できるようにしたと推測しています。処理と推論のこの区別は重要です」とDeepMindの論文は述べています。
私に話して
RNは言語による推論能力についても有望な兆候を示しています。FacebookのAI研究チームによって普及されたbAbIデータセットは、演繹、帰納、そして計算能力を評価する20の質問応答タスクで構成されています。
まず「サンドラはフットボールを拾った」「サンドラはオフィスに行った」といったいくつかの事実が与えられ、その後「フットボールはどこ？」といった質問が投げかけられます。RNは20の課題のうち18をクリアし、FacebookやDeepMindの微分可能ニューラルコンピュータが用いた記憶ネットワークを用いた過去の試みを上回りました。
RNが失敗した2つのbAbIタスクはより複雑で、RNは「2つの裏付けとなる事実」と「3つの裏付けとなる事実」に対処する必要がありました。これは、機械の知能を推論機能まで高めるための研究がいかに未熟であるかを示しています。
まだ初期段階ですが、DeepMind はソーシャル ネットワークのモデリングやより抽象的な問題解決など、さまざまな問題に RN を適用したいと考えています。
より強力なものにするために、チームは計算効率も向上させたいと考えています。100個のオブジェクトがテストされましたが、より並列計算を可能にする高性能ハードウェアがあれば、より多くのオブジェクトを対象にすることも可能です。
この研究は、知識は事実と規則として明示的に表現されるべきだと考え、1980 年代後半まで主流だった研究分野であるシンボリック AI のアイデアに大きく影響を受けています。
ディープマインドの上級研究科学者であり、英国インペリアル・カレッジ・ロンドンの認知ロボット工学教授であるマレー・シャナハン氏は、シンボリックAIが復活する可能性があると考えている。
「機械学習コミュニティには、シンボリックAIのアイデアの一部をニューラルネットワークアーキテクチャに組み込む必要があるという潜在的な感情があり、一部の研究者は長年このアイデアを追求してきました。しかし最近になって、このアイデアは少しずつ注目を集めるようになりました。まだ始まったばかりですが、非常に有望なものです」とシャナハン氏はThe Register紙に語った。
推論は、機械が汎用知能という難問を解くために習得しなければならない多くの要素の一つです。そして、記憶、注意、自律性など、関連する未解決の問題がまだいくつか残っています。®
