インタビューニューヨーク大学名誉教授であり連続起業家でもあるゲイリー・マーカス氏は、数冊の本の著者であり、その最新作では、テクノロジー業界が生成型AIを無責任に開発し、民主主義を危険にさらしていると非難している。
レジスター紙は最近マーカス氏と連絡を取り、彼の仕事や関心事について詳しく知った。
The Register：あなたの新著のタイトルは『シリコンバレーを飼いならす：AIが私たちのために機能することを確実にする方法』です。なぜシリコンバレーを飼いならす必要があるのでしょうか？
マーカス:なぜなら、(a) 彼らは筋道を失い、「邪悪になるな」という姿勢からは程遠いところまで来てしまったし、(b) 彼らはほとんど何の制約もなく、ますます強力になっているからだ。
The Register：シリコンバレーは制御できるのでしょうか？それとも、ベンチャーキャピタルを枯渇させることで疲弊していくしかないのでしょうか？ソーシャルメディアと公衆衛生、暗号通貨/AI、環境など、明白かつ持続的な悪影響の証拠があるにもかかわらず、国民の懸念や規制圧力はほとんど変化をもたらさないようです。
ゲイリー・マーカス
マーカス：だからこそ、私はこの本を書いたのです。もっと世論の圧力が必要なのです。それが最終的に喫煙と喫煙による死亡を大幅に減らしたのです。世論の圧力がもっと高まらなければ、ますます侵略的で問題の多いAIから国民を守るためにアメリカでできることはほとんどないでしょう。
ザ・レジスター：あなたの著書には、いわゆる人工知能に関する懸念が数多く挙げられています。あなたにとって最も懸念される問題は何ですか？
マーカス:自動的に生成された誤情報とディープフェイクによる民主主義への脅威。
シリコンバレーを制覇する：AIが私たちのために機能することを確実にする方法 – クリックして拡大
The Register： AIに関する懸念の多くは、なりすまし、誤情報、詐欺、偏見など、説明責任や透明性のないまま情報が容易に拡散されるという点で深刻です。1993年にニューヨーカー誌に掲載された有名な漫画「インターネットでは、あなたが犬だなんて誰も知らない」は、あなたが金で雇われたサクラなのか、サイバー犯罪者なのか、それとも政治的な意図を押し付けるために設計されたAIボットなのか、誰にもわからないという意味に変わってきました。無料、グローバル、瞬時のコンテンツ配信には、悪質な行為者をより容易に責任追及できる、より強力な安全策が必要でしょうか？個々のアカウントのアクセスをX人以下に制限するなど、配信に焦点を当てた他の選択肢はあるのでしょうか？
マーカス：難しい質問ですね。あなたの鋭い分析に付け加えたいのは、大量生産された偽情報と個人の発言は別物だということです。隣人が私と意見の合わない意見を持っていることと、外国政府や株式詐欺師が世論を動かしたり株価を吊り上げたりするために毎日何十億もの嘘を捏造することは全く別問題です。
The Register：あらゆるテクノロジープラットフォーム製品に生成型AIを搭載しようという動きについて、どうお考えですか？MicrosoftはCopilot製品を展開しています。AppleはApple Intelligenceをまもなくリリースする予定です。Googleは検索にAI Overview機能を提供しています。これほど詳細な要約や提案機能を求める市場はあるのでしょうか？
マーカス:要約には確かに用途がありますが、(a) 生成 AI はそれほど信頼できるものではなく、重要なことが抜け落ちたり、ときには事実を捏造したりすることがあり、(b) 多くの企業の多くのモデルで実行できるコモディティ化が進んだため、価格競争が起き、それほど大きな利益は得られません。
もっと広い視点で見ると、GenAIは巨額の投資を回収しようと皆で奮闘していますが、状況は芳しくありません。2023年には期待外れの展開でしたが、2024年には多くの失望が訪れると予想しています。
The Register: Google が AI を使って検索結果を提供することについてどう思いますか?
マーカス： GenAIのことでしょうか。彼らは創業当初からAIを活用してきました。しかし、検索におけるGenAIの利用はこれまで問題を抱えてきました。おそらく、LLMの信頼性に固有の限界があるからでしょう。
The Register: AI が本当に役立つのはどこでしょうか?
マーカス：従来のウェブ検索、GPSナビゲーションシステム、レコメンデーションエンジン、タンパク質フォールディング。しかし、これらはどれもGenAIではありません（GenAIと従来のAIのハイブリッドであるタンパク質フォールディングは除きます）。GenAI自体はコーディングには多少役立ちますが、技術的負債などを抱えており、ブレインストーミングやコンセプトアートなどには役立ちます。しかし、過大評価されすぎています。
- テスラFSD、視界不良での致命的な事故後、新たな調査に直面
- デスティニー・ロボティクス、AI搭載の人間型ロボットのベイパーウェアをめぐるSEC訴訟を和解
- FTC、「クリックしてキャンセル」ルールで不要な定期購読を厳しく取り締まる
- デジタルリバーが資金枯渇、7月以来開発者に売上金を支払っていない
The Register:ジョセフ・ブラウニングという名義の人物が最近Facebookに投稿し、「AIの根本的な目的は、富がスキルにアクセスできるようにしながら、スキルから富へのアクセスを奪うことにある」と指摘しました。これは妥当な表現でしょうか？もしそうなら、他人のデジタル労働力を捕捉し、その労働力を商品化しながら、その提供者に報酬を支払うことなく継続的に販売できるという課題に、どのように対処すべきでしょうか？
マーカス：それはAIの1つの分野にのみ当てはまるもので、すべてに当てはまるわけではありません。GPSナビゲーションシステムは人間に取って代わるものではありませんが、AIです。
しかし、創造的な仕事が本質的に大規模に盗まれていることについては、私は深く懸念しており、もし私たちが GenAI 企業がそれを許せば、彼らは最終的にあらゆる職業に対して同じことをしようとするでしょう。
The Register: AIに関して最も誤解されている点は何でしょうか？予測と知能の混同でしょうか？
マーカス：チャットボットは人間のように聞こえるから、人間のように考えると多くの人が考えていますが、実際には、チャットボットは訓練された内容を（かなり高度な方法で）模倣しているだけです。ご指摘の通り、次の単語を予測することは確かに知能の一要素ですが、推論や計画といった他の多くの知能の側面が、現在のシステムには欠けています。
The Register： AIをAPIとして提供している企業は、現在、LLMエージェントに重点を置いています。しかし、マクロやスクリプトなどのソフトウェア自動化は長年存在しています。宣言型のLLMベースの自動化とタスクの連鎖は、従来の命令型のプログラムによる自動化よりも広く利用できるようになると考える根拠はありますか？
マーカス：皆さんはがっかりすると思います。自然言語によるリクエストに基づいてエージェントに希望通りの仕事を依頼できたら素晴らしいのですが、現在の技術ではそれをうまく機能させるにはあまりにも不安定です。
The Register:公衆に影響を与える AI モデルには、トレーニング データを開示することが義務付けられるべきでしょうか?
マーカス：はい。『シリコンバレーを操る』の中で透明性について詳しく論じていますが、そこにはトレーニングデータに関する透明性も含まれています。なぜなら、モデルに関するあらゆること（例えばバイアス）はトレーニングデータに依存しており、その中身を理解しなければ科学界は被害を軽減できないからです。
The Register:書籍著者、ミュージシャン、ビジュアルアーティスト、ソフトウェア開発者などによる、生成AIをめぐる様々な訴訟が進行中ですが、どのような結果を期待していますか？また、どのような結果が望ましいとお考えですか？
マーカス: GenAI 企業は、ストリーミング サービスと同じように、原材料のライセンス取得を強いられるようになると思います。それは良い結果だと思います。
The Register：ロビー活動によって骨抜きにされることのない、実効性のあるAI規制、そしてその規制が実効的に施行されることを期待する根拠はあるのでしょうか？オンラインプライバシーに対する懸念は数十年にわたって高まっているにもかかわらず、米国ではほとんど変化がありません。いまだに国家レベルのプライバシー法は存在しません。大手テクノロジー企業がプライバシーに関する失態で罰金を科せられたとしても、その額は微々たるものです。
マーカス：私はアメリカについてあまり楽観的ではありません。アメリカ国民のプライバシー保護は、ヨーロッパ諸国に比べてはるかに少なく、AI保護もヨーロッパ諸国よりもはるかに不十分です。国民がこれまで以上に声を上げない限り、アメリカはこのままの状態が続き、私たちは非常に脆弱な立場に置かれるでしょう。まさにだからこそ、私はこの本を執筆しました。国民に行動を起こし、GenAIが健全な状態になるまでボイコットするなど、行動を起こすよう促すためです。®
