コロラド大学の研究者だが、AI ブロガーとしてよく知られているジャネル・シェーン氏によると、日常的な AI はミミズ程度の知能しかないそうです。
AI は複雑で、大々的に宣伝されているため、誤解されている部分も多いため、彼女の新しい本は誤解を正すのに役立つ。
『You Look Like a Thing and I love You』は、面白くもあり、同時にイライラさせられる作品です。これは著者のブログ「AI Weirdness」の内容に一部基づいており、著者はそこで人工知能を通常とは異なる用途に使うと何が起こるかを詳しく述べています。例えば、口説き文句を作る（その結果の一つが本書のタイトルです）、レシピを書く、ジョークを言う、美味しいサンドイッチとまずいサンドイッチを選別する、群衆整理用のロボットを作る、といったことが挙げられます。
これらの例からわかるのは、AIは自分が何をしているのかを実際には理解していないということです。例えば、シェーンは何千もの実際のレシピで学習させたモデルを使って、AIにかなり説得力のあるレシピを考え出させることはできました。しかし、よく見ると、それらのレシピはすべて意味不明であることがわかります。なぜなら、AIは何が美味しい料理を作るのか、あるいはどのように調理するのかさえ理解していないからです。AIは学習したパターンからテキストを生成しているだけなのです。
シェーンは、これらの例やAIの歴史から得た他の例を用いて、AIがどのように学習し、予測や模倣を行うかについての基本を説明します。AIは例から学習するという点で、アルゴリズムプログラミングとは異なります。画像認識をお考えですか？AIに認識させたいものに応じて分類された大規模な画像データベースを提供し、モデルをトレーニングすれば、AIは新しい画像を分類するための独自のルールを導き出します。
AI画像認識システムは、ランダムなオブジェクトをコピー＆ペーストすることで騙される可能性がある
続きを読む
このアプローチは適切な状況下では魔法のような力を発揮しますが、同時に問題も抱えています。結果の品質はデータセットの品質に左右されます。AIは誤ったルールを生成してしまう可能性があります。例えば、羊が草地にいる場合にのみ認識してしまう可能性があります。そのため、人間はリビングルームで羊を簡単に見つけられるのに、AIはそうではないかもしれません。
一般的に、AIは異常な事象を察知するのが苦手です。これは多くのユースケースに影響を及ぼします。例えば、自動運転車はほとんどの場合正常に動作しますが、予期せぬ事態が発生すると壊滅的なエラーを引き起こす可能性があります。「AIがトレーニングで見たことのないような事態が発生することは避けられません」とシェーン氏は言います。この時点でAIは人間に制御を引き継ぐほど賢くなるかもしれませんが、「人間は、何時間も道路をぼんやりと見ていた後では、注意力を維持するのが非常に苦手です」と彼女は書いています。
AIにおけるバイアスもまた問題です。例えば、「責任あるAI」は、今週ロンドンで開催されたGoogle Nextイベントの記者会見のタイトルでした。バイアスを避けることの重要性については誰もが同意します。しかし、シェーンの著書を読めば、それはほぼ不可能だという結論に至ります。
AIは与えられたデータのバイアスを引き継ぎます。そして、それが人間から提供されたものであれば、中立的ではありません。Amazonは、性別によるバイアスを根絶できなかったことなどから、有望な求人応募者の特定にAIを活用することを断念したと言われています。性別情報を単に削除するだけでは不十分で、AIは他の手がかりを用いて男性の応募者を優遇しました。AIが訓練に使用したデータにおいて、男性は優遇されていたからです。このような問題を回避するために多大な労力が費やされていますが、それは困難です。AIプロセスがどのようにして結論に至ったのかを正確に解明すること自体が困難であるという事実によって、事態はさらに悪化しています。
シェーンが本書の冒頭で指摘している点の一つは、AIは専門化されて初めて機能するという点です。AIにチェスを教えたり画像を認識したりすることはできますが、C-3POのようなSFロボットのような汎用知能は、今日のAIをはるかに超えています。AIはどれほど賢いのでしょうか？シェーンによると、日常的な例で言えばミミズ程度、最も強力なニューラルネットワークではミツバチ程度でしょう。人間のような汎用知能の実現には、まだ遠い道のりがあるということです。
これは技術書ではありませんが、ニューラルネットワーク、学習モデル、マルコフ連鎖、一般敵対ネットワークといったトピックの本質を解説しています。AIがあらゆる問題を解決してくれると考える人に贈るにはうってつけのタイトルです。シェーンがAIに悲観的だというわけではありません。彼女がAIの働きを心から愛していることは明らかです。しかし、現実の危険性も存在します。「私たちの日常生活がアルゴリズムに支配されるようになるにつれ、AIの奇妙な動作は、単に不便なだけにとどまらない影響を及ぼし始めています」と彼女は書いています。
結論は？「AIには楽観的な理由もあれば、慎重になる理由もある」と彼女は述べている。しかし、問題はAIが賢すぎることではなく、十分に賢くないことにある。AIを過度に信頼すると…まあ、警告はしたはずだ。
『You Look Like a Thing and I Love You』はWildfire社より出版され、ISBNは9781472268990です。®
