インテルの最新の約束：最初のAI ASICチップは2019年に登場します

AI Dev Conインテルは水曜日、さまざまな機械学習ソフトウェアツールを発表し、2019年に発売予定の同社初の商用 AI ASIC である NNP-L1000 を含む新しいチップについて示唆した。

インテルのAI部門責任者であるナビーン・ラオ氏は、サンフランシスコでChipzilla初のAI開発者カンファレンス「AIDevCon」をキックオフしました。ラオ氏は、2016年にインテルに買収されたディープラーニングのスタートアップ企業NervanaのCEO兼共同創業者です。

AIのハイプサイクルは、幾度となくブームと崩壊を招いてきたとラオ氏は説明した。現在、AIの人気は急速に高まり、利用可能なデータとコンピューティング能力を貪欲に飲み込んでいる。AI革命は、まさにコンピューティング革命と言える。そして、どうやらCPUを大量に用意するだけで、誰もがAIの楽しさに加わることができるらしい。

「実際、現在 Xeon をお持ちであれば、始めるのに他に何も必要ありません」と彼は語った。

インテルの主張は、AIに必要なツールは「万能な解決策」ではなく、ディープラーニングと、ランダムフォレストや回帰分析といったより古典的な計算手法を組み合わせることで解決策が生まれるというものだ。そして、これらはすべてソフトウェアとハ​​ードウェアのスムーズな融合によって実現できる。

それでは、ソフトウェアから始めて、今日議論された内容の一部を簡単にまとめてみましょう。

• MKL-DNNは、ディープニューラルネットワーク用数学カーネルライブラリの略です。行列乗算器、バッチノルム、正規化、畳み込みなど、ニューラルネットワークの一般的な構成要素を扱う数学プログラムのリストです。このライブラリは、IntelのCPUにモデルを展開できるように最適化されています。
• nGraph開発者は様々なAIフレームワークを選択しますが、それぞれに長所と短所があります。チップの柔軟性を高めるには、バックエンドコンパイラがそれら全てに効果的に対応できる必要があります。

  nGraphは、Intelのチップ間でこれを実行するコンパイラです。開発者は、Intel Xeonでモデルをトレーニングし、その後の推論にはIntelのニューラルネットワークプロセッサ（NNP）を使用したいと考えるかもしれません。

• BigDL Apache Spark用のもう一つのライブラリで、分散学習を用いたディープラーニングにおける大規模なワークロード処理を目的としています。アプリケーションはScalaまたはPythonで記述し、Sparkクラスター上で実行できます。
• OpenVINOは、カメラやスマートフォンなどのIoTデバイス、いわゆる「エッジ」デバイス上で動画を扱うモデルをデプロイするためのソフトウェアツールキットです。開発者は、顔認識の画像分類といったリアルタイム処理が可能になります。今年後半にオープンソース化される予定ですが、現在ダウンロード可能です。

これからは大変だ

さて、ハードウェア部分についてですが、Intelはこの方面については沈黙しており、いつものマーケティング用語以上の詳細は明かしませんでした。

「Xeonは数年前まではAIには適していませんでしたが、今では状況は大きく変わりました」とラオ氏は強調した。メモリと演算能力の向上により、Haswellチップと比べてパフォーマンスは100倍、推論性能は200倍近く向上している。

「GPUはCPUの100倍速いと聞いたことがあるかもしれません。しかし、それは間違いです」と彼は付け加えた。「現在、推論のほとんどはXeonで実行されています。」

ラオ氏はNVIDIAについては一切触れず、GPUはディープラーニング分野で素晴らしいスタートを切ったものの、厳しいメモリ制約に悩まされていると説明した。Xeonはメモリが大きく、大規模なバッチサイズにも対応できるため、推論にはより適しているとラオ氏は述べた。

同氏は加速のためのFPGAについて簡単に話し、Intelが「推論用の個別アクセラレータ」に取り組んでいると述べたが、詳細は明らかにしなかった。

一方で、Intel Movidius Neural Compute Stick もまだあります。これはTensorFlowとCaffeで記述されたモデルを実行するUSB​​スティックで、消費電力は約1ワットです。これは昨年、Intelがスマートウォッチやフィットネスバンドといったウェアラブル機器の生産終了を決定した際に発表されました。

本日、@IntelAI 主催の #AIDC2018 カンファレンスで開催される @intel 副社長 Gadi Singer 氏の #AI 講演に先駆け、先行公開いたします。@TheNextPlatform は独占的に早期アクセスし、彼のエキサイティングな新資料について語り合う機会を得ました: https://t.co/qIkqGQEgnb

— ジェームズ・カフ（@jamesdotcuff）2018年5月23日

ニューラルネットワークプロセッサこのASICチップも昨年発表されました。ベンチマークは公開されておらず、Intelは一部の顧客向けに提供を開始するとだけ発表しました。本日も多くの情報は公開されていません。分かっているのは、「Lake Crest」アーキテクチャに基づく12個のコアを搭載していることです。メモリ容量は合計32GB、性能は40TFLOPS（精度は非公開）、理論帯域幅は800ナノ秒未満で、低レイテンシのインターコネクトを実現する2.4テラビット/秒の高帯域幅を実現します。

最後に、NNP L1000。ここでもまだあまり語られていませんが、これはNNP初の商用モデルとなり、2019年に発売予定です。新しいSpring Crestアーキテクチャをベースとし、従来のLake Crestモデルと比べて3～4倍の速度向上が期待されています。®