２人のコンピューター科学者が自己複製できるニューラルネットワークを作成した。
「自己複製は生物の生命にとって重要な側面だが、人工知能システムではほとんど見過ごされてきた」と彼らは今月arXivに掲載された論文で主張している。
これは生物の生殖における重要なプロセスであり、自然淘汰による進化の重要なステップです。論文の筆頭著者であり、コロンビア大学の博士課程学生であるオスカー・チャン氏は、The Register紙に対し、この論文の目的は、生物の自己複製プロセスを模倣することで、AIが継続的に自己改善できるかどうかを検証することだと説明しました。
「ここでの主な動機は、AIエージェントがディープラーニングによって駆動されており、自己複製メカニズムによってダーウィンの自然淘汰が起こるため、ニューラルネットワークに自己複製メカニズムがあれば、AIエージェントの集団は自然界と同じように、自然淘汰を通じて単純に自己改善できるということです。」
研究者たちは、この研究をクイン（ソースコードのコピーを生成するように学習するコンピュータプログラムの一種）に例えています。しかし、ニューラルネットワークでは、ソースコードではなく、異なるニューロン間の接続を決定する重みが複製されます。
研究者たちは「バニラ・クイン」ネットワークを構築した。これは、出力として自身の重みを生成するフィードフォワードシステムである。バニラ・クイン・ネットワークは、重みを自己複製してタスクを解決するためにも使用できる。彼らは、このネットワークをMNISTデータセットの画像分類に用いることにした。MNISTデータセットでは、コンピューターが0から9までの手書き数字の集合から正しい数字を識別する必要がある。
これらのネットワークは、標準的な画像認識モデルの数百万個と比較すると小さく、最大 21,100 個のパラメータを持ちます。
正確さ？
テストネットワークは、トレーニングに6万枚のMNIST画像、テストにさらに1万枚必要でした。30回の実行後、Quineネットワークの精度は90.41%でした。悪くないスタートですが、そのパフォーマンスは、より大規模で洗練された既存の画像認識モデルと比べると、実際には劣っています。
論文では、「自己複製はニューラルネットワークの能力のかなりの部分を占める」と述べられています。言い換えれば、ニューラルネットワークは自己複製もしなければならない場合、画像認識タスクに集中することができません。
「これは興味深い発見です。特定のタスクへの特化が進んだネットワークは、自己複製がより困難になります。これは、2つの目的が相反することを示唆しています」と論文は述べている。
チャン氏は、なぜこのようなことが起こるのかは分からないが、自然界でも同じようなことが起こると説明した。
DeepMindのAlphaGo Zeroがいかにして自己学習し、世界チャンピオンのAI AlphaGoを打ち破ったか
続きを読む
「なぜそうなるのかは完全には解明されていません。しかし、これは自然界における生殖と他の機能との間のトレードオフに似ていることに気づいています。例えば、私たちのホルモンは環境に適応するのに役立ちますが、食糧不足の時期には、生殖よりも生存を優先するために性欲が抑制されます」と彼は述べた。
したがって、現時点ではニューラル ネットワークにおける自己複製はそれほど有用ではないようですが、それでも興味深い実験です。
「私たちの知る限り、ニューラルネットワークにおける自己複製メカニズムの構築という課題に取り組んだのは私たちが初めてです。そのため、私たちの研究は概念実証として捉えるのが最も適切でしょう」と彼は付け加えた。
しかし研究者たちは、いつかそれがコンピューターのセキュリティや損傷したシステムの自己修復に役立つかもしれないと期待している。
AIプログラムの自己複製能力を強化または低下させる方法を学ぶことは、コンピューターセキュリティにとって有用です。例えば、AIが自身の意志で、あるいは敵対者とのやり取りによって、ソースコードを読み取ったりリバースエンジニアリングしたりすることなく、ソースコードを実行できるようにしたい場合があります。
自己複製は、損傷した物理システムの自己修復に利用されるとチャン氏は指摘した。「AIにも同じことが当てはまるかもしれません。自己複製メカニズムは、損傷を検出したり、損傷した、あるいは制御不能になったAIシステムを正常な状態に戻したりするための最後の手段として機能する可能性があります」とチャン氏は付け加えた。®
