Armは今週、エッジデバイスやその他の機器でワークロードを実行するためのEthos-U65 AIアクセラレータをリリースした。
この設計は「マイクロNPU」と表現されています。NPUはニューラル・プロセッシング・ユニット（Neural Processing Unit）の略で、Cortex-M、Cortex-A、NeoverseシリーズのCPUコアと併用されることが想定されています。これらのCPUコアは主にマイクロコントローラー、スマートフォンやノートパソコン、サーバー向けに設計されています。CPUコアはAI演算をマイクロNPUにオフロードし、これらはすべてシステムオンチップ（SoC）に統合されています。
Ethos-U65の仕様[PDF]をざっと見てみると、畳み込みニューラルネットワーク、リカレントニューラルネットワーク、そして長短期記憶ネットワークの実行に最適化されていることがわかります。これらは主にコンピュータービジョンや自然言語処理アプリケーションで使用されます。
そのため、この技術は、例えばリアルタイムの顔認識、物体認識、音声認識などに活用できます。ArmはEthos-U65を、最新のITトレンドであるネットワークエッジにAI技術を導入するものとして売り出しました。つまり、U65はスマートホームデバイスやカメラ、パーソナルデジタルアシスタント、機器やセンサーを管理するコントローラーなどに利用される可能性が高いということです。
Armは自動運転車の頭脳開発を諦めたわけではない。まずは同社の新型Cortex-A78AEがNvidiaのOrinチップに搭載される。
続きを読む
Ethos-U65 は、たとえば 16nm 製造ノードを使用した場合、約 0.6mm 2のダイ スペースを占有し、適度な AI 推論に必要なほぼすべてである INT8 および INT16 精度をサポートし、1 秒あたり 1 兆演算 (16nm で 1 TOPS) の最大パフォーマンスを実現します。
55KBから104KBの内部SRAMを搭載し、クロックサイクルあたり256回または512回の積和演算を処理できます。後者は、今日のニューラルネットワークアルゴリズムの基盤となるベクトル演算を実行するために不可欠です。Ethos-U65は、GoogleのTensorFlow Lite Microフレームワークを使用して利用でき、物体認識用のGoogle Inception V3や音声認識用のFacebook Wav2Letterなど、一般的な市販モデルを実行できます。
ライセンス供与可能なEthos-U65は、昨年のU55の後継機であり、予想通り前世代機を上回る性能を発揮するとされています。つまり、U65を搭載したチップを搭載した製品は、最終的には前世代機よりも優れた性能を発揮するはずです。
ArmのTanuj Arora氏は、「Ethos-U55の成功に加え、電力効率に重点を置きながら、Ethos-U65はArm Cortex-AおよびNeoverseベースのシステムへの適用範囲を拡大しています」と述べています。
「これにより、高解像度のスマートカメラ、スマートホームソリューション、さらには帯域幅や電源管理サブシステムなどのインフラストラクチャアプリケーションなどのデバイスに新しい機能が可能になります。」®
