Microsoft の NPU への執着は、Nvidia の AI PC への野望をどこに置くのでしょうか?

コメントNVIDIAは、少なくともデータセンターにおいては、AIインフラの分野では無敵のチャンピオンです。しかし、新興のAI PC分野では、状況はそれほど単純ではありません。

2024年初頭、良くも悪くもWindowsの未来はAIを活用した機能とエクスペリエンスで満たされることが明らかになりました。目玉機能としては、ライブキャプションと翻訳、MSペイントでの画像生成、そして最終的には、定期的にスクリーンショットを撮影して過去のアクティビティを追跡する、やや懐疑的なRecall機能などが挙げられます。

現時点では、これらの新機能はいわゆる Copilot+ PC 専用ですが、この指定を受けるには、コンピューターが Microsoft の最小パフォーマンス目標を満たす必要があります。

Windowsの巨人である同社のドキュメントによると、Copilot+ PCには、40TOPS以上（1秒あたり40兆回以上のINT8 AI演算）の演算能力を持つニューラル・プロセッシング・ユニット（NPU）に加え、少なくとも16GBのRAMと256GBのストレージが必要です。この製品が発売された当時、レドモンドのNPU要件を満たすプロセッサを保有していたのはQualcommのみだったため、同社のチップを搭載したPCのみがCopilot+ PCとして、前述のAI拡張機能を実行することができました。

それ以来、Qualcomm の認定 Arm 互換 X チップに、Intel の Lunar Lake、AMD の Strix Point および Halo プロセッサ ファミリが Copilot+ PC 準拠として加わりました。

しかし、今月開催されたCES 2025で発表された、3.3ペタFLOPS以上のAIコンピューティング能力（ちなみにFP4）を備えた2,000ドルのNVIDIA RTX 5090は、どういうわけかレドモンドにとってはまだ物足りないようだ。GPUがどれだけのFLOPSやTOPSを発揮できるかは関係なく、Microsoftにとって重要なのは、少なくとも今のところは、 NPUがそれらを処理できるかどうかだけだ。

NvidiaはAI PCに手を抜いていない

AI搭載PCをめぐるマーケティングの盛り上がりの多くは、MicrosoftのCopilot+仕様を中心に展開されており、それも当然と言えるでしょう。現在販売されているPCのほぼすべてがWindowsを搭載しています。PCソフトウェアエコシステムにおけるMicrosoftの圧倒的な存在感は、NPUへの執着を無視できない理由となっています。しかし、だからといってNVIDIAが現状に甘んじ、データセンター、ワークステーショングラフィックス、そしてゲーミング向けディスクリートGPUの覇権を握っているわけではありません。

実際、Nvidia は何年も前から PC に AI 機能を導入する取り組みを行ってきたと、Nvidia で Windows AI の製品マーケティングを率いる Jesse Clayton 氏はThe Registerに語った。

「PCにおけるAIのムーブメントは、2018年にAI専用ハードウェアであるTensorコアを搭載した最初のGeForce GPUとNvidia GPUをリリースした時から始まりました」とクレイトン氏は述べた。「それと同時に、広く普及したPC AIであるDLSSを発表しました。DLSSは、AIを用いてピクセルを生成し、今ではゲームのフレームを生成することで、ゲームでフレームレートを高速化するために使用されています。」

それ以来、この GPU の巨人は、Windows PC 上で genAI モデルを最適化および展開するためのツールとソフトウェアのスイートである RTX AI Toolkit を展開し、PC に Nvidia Inference Microservices (NIM) を導入し、最先端の画像生成や PDF からポッドキャストへの変換などのブループリントを多数展開してきました。

「我々の戦略は、ゲーマーにとってはゲームプレイを強化することで、クリエイターにとっては時間を節約し、反復的で退屈な作業を減らすことで、興味深く差別化された体験を提供することです」とクレイトン氏は説明した。

また、これらのエクスペリエンスの一部は、たとえば ChatRTX や RTX Voice のようにエンド ユーザーを直接対象としていますが、Nvidia の最近のソフトウェア リリースの多くは開発者コミュニティを対象としています。

競争か機会か

Copilot+ の実際の価値について何を言おうとも、Microsoft はチップセット設計者に、Windows の巨人を満足させる何らかの形の NPU を提供するよう強制し、同時に機械学習のパフォーマンスの新しい最低基準も設定することに成功した。

Windows の市場シェアと、Microsoft がソフトウェアの隅々にまで AI を組み込もうとする継続的な取り組みを考慮すると、最も低予算のビルドにまで NPU が浸透するのは時間の問題です。

さらに、Microsoft の DirectML や ONNX Runtime などのフレームワークを採用することで、アプリケーション開発が簡素化され、最小限の変更でさまざまなハードウェア セットにわたってコードを実行できるようになりました。

これはNVIDIAにとって潜在的な問題となる。シリコンバレーの巨人であるNVIDIAは、CUDAという強力な防御壁に囲まれ、ディスクリートGPU市場を席巻しているかもしれないが、同社のGPUは販売されているPCの約18%にしか搭載されておらず、システムの大多数はIntel、AMD、あるいは他社製の統合型GPUを採用している。

AIアプリを開発する開発者にとって、NPUは近い将来、より大きなターゲットとなるだろう。NVIDIAのアクセラレータは多くの人気ソフトウェアフレームワークをサポートしているため、必ずしもこの議論から除外されるわけではないが、同社の競争優位性の少なくとも一部は、開発者に同社のライブラリやマイクロサービスの利用を促し、より容易な統合と高いパフォーマンスと効率性を実現することにある。

最終的に、開発者は、NIM のようなものを活用してアプリを迅速に市場に投入したいのか、それとも可能な限り大規模なインストール ベースをサポートしたいのかを決定する必要がある、と Clayton 氏は言います。

しかし、NVIDIAはいずれNPUとの競争に直面する可能性があるものの（AI搭載PCは依然としてニッチな市場であるため）、必ずしも悪いニュースばかりではない。たとえモデルがNVIDIAのPCハードウェアで動作しなくても、NVIDIAのGPUで学習された可能性は高い。

それでも、クレイトン氏はNPUがあらゆるワークロードに適しているわけではないと主張しています。40TOPSは十分な計算能力ですが、前述の通り、ハイエンドのグラフィックスチップの性能と比べると見劣りします。

「NPUは軽量なAIワークロードを実行できる場所となり、非常に電力効率に優れています」と彼は述べた。「GPUは、より要求の厳しいAIユースケースを実行する場所であり、私たちはそこに注力してきました。」

「PC に収まらないものについては、クラウド内の GPU で実行します。クラウドでは実質的に無制限のパフォーマンスが得られます」と Clayton 氏は付け加えた。

• 追加のマイクロプロセッサを解読：AMDがAI PC、ゲーマー、ビジネス向けに次に何を投入するかのクイックガイド
• インテル、マイクロソフトの「Copilot+ PC」バッジの要件を満たさないラップトップ用シリコンを発表
• Nvidia、Grace-Blackwellスーパーチップを小型化し、3,000ドルのミニPCに搭載
• 陪審はクアルコムのAI PC構想を容認、しかしアームは再審を視野

GPUは結局Copilot+の恩恵を受けるかもしれない

将来的には、Microsoft が Copilot+ の機能の一部を GPU に拡張し、より計算的に難しいワークロードをサポートする可能性があることを示唆する証拠がすでにいくつかあります。

MicrosoftはGPU活用計画に関する私たちの質問には回答しませんでした。しかし、6月の発表で、NVIDIAはMicrosoftと協力して、Windows Copilot Runtimeを介して小規模言語モデル（SLM）向けのGPUアクセラレーション機能を追加する取り組みを進めていると述べました。

この技術は2024年末までに実現する予定だったが、マイクロソフト自身の文書（12月5日に最終更新）ではGPUについては触れられておらず、SLM向けのまだ利用できないPhi Silicaプロジェクトの要件としてNPUが具体的に挙げられている。 

クレイトン氏は、この提携に関する最新情報の提供を拒否し、「最終的には、どのワークロードをどこで実行するかはマイクロソフトが決定する」と述べた。

MicrosoftがローカルAIにGPUを採用するかどうかは、最終的にはハードウェアの入手可能性に左右されるでしょう。執筆時点では、専用グラフィックスカードを備えたNPU搭載のCopilot+ PCの数はごくわずかです。

デスクトップでは状況はさらに複雑です。NPUを搭載したデスクトップチップは存在しますが、少なくとも私たちの知る限り、Microsoftの40 TOPSという性能要件を満たすものはありません。より強力なNPUがデスクトップチップに搭載されるようになるまで、そう時間はかからないでしょう。IntelかAMDが、モバイルチップからNPUをデスクトップのフォームファクターに詰め込む方法を見つければ、状況はさらに複雑になるでしょう。®