Raspberry Pi は、Hailo-8L AI アクセラレータを搭載したシングルボードコンピュータ用の機械学習追加機能を作成しました。
このAIキットは、Hailo-8Lアクセラレータを搭載したM.2スティックがプリインストールされたM.2 Hatボードです。Raspberry PiがAI用のファーストパーティアクセサリを販売するのはこれが初めてです。Hailo-8Lは、今年初めに発表されたHailo-8チップの縮小版で、フルファット版の26 TOPSではなく、INT8で13 TOPSの性能を提供します。
比較すると、Qualcomm、AMD、Intel は最近、それぞれ 45、50、48 TOPS の NPU を搭載した SoC を発表しました。
したがって、Hailo-8Lは地球上で最も強力なアクセラレータではありませんが、他のRaspberry Pi製品と同様に、70ドル（Raspberry Pi 5ホストは約80ドル）というお手頃価格となっています。Arm対応のRaspberry Piとアクセラレータの組み合わせは、NPU搭載SoC単体のコストをはるかに下回ります。
AIキット：M.2 HatボードとHailo-8L M.2スティック…正直言って、これはお買い得です – クリックして拡大
さらに、HailoのCTOであるアヴィ・バウム氏はThe Registerに対し、Hailo-8Lの消費電力は驚くほど低いと語った。このチップは3TOPSあたり約1ワットの電力を消費し、最大でも約5ワットで、60FPSのビデオをリアルタイムで処理するといった「典型的な」ワークロードでは通常1～2ワットしか消費しない。
Raspberry PiのCEO、エベン・アプトン氏はThe Registerに対し、統合型NPUではなく独立したアクセラレータを採用したのは意図的な設計上の選択だと語った。同社は既にRaspberry Pi 5で分散型アーキテクチャの採用に着手しており、CPUとGPUコアは16nmチップ上に搭載され、I/O機能はより安価な40nmチップに移行されている。16nmシリコンスラブにNPUを統合すると、コストがかさんでしまうだろう。
アプトン氏は、Raspberry Pi 5のメインボードにHailo-8Lなどのアクセラレータを搭載することは、価格が上昇するため理想的ではないと指摘しました。AIキットを提供することで、ユーザーはRaspberry Pi 5を低価格で購入でき、機械学習に興味があればHailo-8Lを追加することができます。モジュール式のアプローチは迅速な開発も可能にしました。アプトン氏によると、AIアドオンは構想から最終製品までわずか6ヶ月で完成しました。
クラウドから
AI キットは Raspberry Pi 5 のパフォーマンスの大きな飛躍を表していますが、シングルボード マシンはすでにこの分野で実績があります。
アプトン氏は、AIが次世代の大きなトレンドになるずっと前から、Raspberry Piのユーザーは既に物体検出などにこの技術を活用していたと指摘した。CEOは、日本のキュウリ農家がRaspberry Pi 3を使ってトゲのあるキュウリを選別し、約70%の精度で評価した事例を挙げた。
しかし、このキュウリ選別機はクラウド上のAI処理に依存していました。このキットの登場により、一部のAIワークロードをPi上で実行できるようになり、接続への依存度が軽減されます。
「小規模なモデルには適したホストであり、より最適化され量子化された大規模言語モデル（LLM）はRaspberry Pi 5上で毎秒数トークンの速度で実行されています」とアプトン氏はThe Registerに語った後、一部の作業は依然としてクラウドで実行する必要があると指摘した。LLaMa 3 70Bは、よほどの高性能な環境がない限り、PC上でローカルに実行するのは困難だ。
現時点では使用事例はそれほど多くありませんが、Upton 氏は、Raspberry Pi 5 AI のエントリー価格の低さにより、AI アプリケーションとソリューションが「飛躍的に増加」すると予想しています。
このキットがRaspberry PiとHailoの長期的なパートナーシップを表すものなのか、また他に何かAIハードウェアが開発中なのかと尋ねられたアプトン氏は、「これがRaspberry PiとHailoの最後のコラボレーションだとしたら残念だ」と答えた。®
追記： Raspberry Pi は今月株式市場に上場される際に 1 株当たり 260 ～ 280 ペンスを目標としており、その価値は最大 5 億 4,000 万ポンド (6 億 9,000 万ドル) となる予定です。
