ロンドン大学ゴールドスミス校の認知コンピューティング教授で、タングステン・センター・フォー・インテリジェント・データ分析（TCIDA）の研究員であるマーク・ビショップ氏は、月曜日の「 Minds Mastering Machines」カンファレンスでの講演でディープラーニングの成功を称賛したが、現代のAIの限界についても強調した。
イーロン・マスク、スティーブン・ホーキング、ニック・ボストロムは、AI技術がより普及するにつれてAIの危険性について繰り返し警告してきた。
ニューラルネットワークと人間の脳を比較するアナロジーは既に使い尽くされており、機械が「考える」「想像する」「夢を見る」といった印象を与えます。しかし、AIを作ることは悪魔を召喚することと同じだという考えは行き過ぎです。なぜなら、機械は実際には世界を理解していないからです。
ビショップ氏は、アルゴリズムの失敗によりアマゾンで23,698,655.93ドルという驚異的な価格に達した本を例に挙げた。
2011年、Amazonの再販業者であるProfmathとBordeebookは、ハエの生物学に関する書籍をめぐって競合するため、価格を自動的に再設定しました。Profmathは価格を微調整し、常に最安値よりわずかに安く設定していましたが、Bordeebookは価格を引き上げ、常にProfmathよりわずかに高く設定していました。
これらのアルゴリズムが互いに競い合ううちに、価格は途方もない数字まで急騰した。人間なら、その本がそんな価格で売れるはずがないと分かるだろうが、機械はただプログラムされた通りに動いているだけなので、そのことに気づかなかった。
「このロボットたちは、自分たちが何をしているのか全く理解していない。リンゴやバナナ、本を操作しているのかもしれないが、何も理解していない」とビショップ氏は語った。
AIの第一人者ン氏：殺人ロボットの台頭を恐れるのは火星の人口過密を心配するようなものだ
続きを読む
AIが人工知能というよりはむしろ人工白痴であるのは、現実世界に対する理解の欠如によるものだ。コンピューターが知識を真に理解するのは非常に難しいため、汎用人工知能を構築できる可能性は非常に低いと、ビショップ氏はThe Register紙に語った。
ディープラーニングは、入力トレーニング データから抽出した特徴を、画像、言語、テキストの認識など何らかの出力にマッピングすることによって開発される数学関数の構築に依存しています。
しかし、ビショップ氏は、すべてが計算で表現できるわけではないと主張する。ペンローズ・タイリングを例に挙げよう。これは、六角形、正三角形、正方形など、空間平面を隙間なく無限に埋め尽くすように繰り返し組み合わせることができる形状の集合である。
五角形やひし形といった異なる形状を組み合わせることで、複雑なタイル模様を作ることができます。機械はどのようにしてこのような組み合わせが無限に続くかどうかを知るのでしょうか？ビショップ氏によると、パターン認識を使うそうです。コンピューターはタイルを規則的に繰り返す形状がタイルに見られることを検知し、タイルがそれらの形状を継続的に作り出せる限り、構造は継続できると判断するのです。
しかし、例外もあります。いくつかの図形は空間を埋めるために組み合わさってはいるものの、規則的な繰り返しパターンを形成しているようには見えません。このような場合、コンピューターは正しく証明するための数学的洞察力を欠いており、コンピューターは正しく証明できません。
機械知能と人間の知能を分ける3つ目の点は感覚です。ビショップ氏は、計算から身体的な感覚や感情が自然に生じることは不可能だと述べています。
コンピューターには意識的な基盤がないのに、なぜ特定のタスクを他のタスクよりも優先するのでしょうか？「コンピューターにとって、世界征服など何の意味もありません。なぜそんなことを望むのでしょうか？」
機械は脳を計算的にモデル化するように作られるかもしれませんが、それが必ずしも心を持つことを意味するわけではありません。®
