あらゆる種類のソフトウェアが軽量アプリケーション コンテナに移行しており、この事実は Nvidia も認識しています。GPU の第一人者である Nvidia は、Kubernetes をベースにしたネットワーク エッジでの機械学習用プラットフォームを立ち上げました。
EGX は、プロトタイピングに使用される小型の Jetson Nano ボード (6 月に出荷) から、クラウド データ センターでよく見られる T4 GPU のフル ラックまで、Nvidia 製のすべての主流デバイスと互換性があります。
これは、データを企業のビットバーンに持ち帰ることなく、センサーから情報を収集し、それを機械学習アルゴリズムに通してリアルタイムで応答を得るという作業を簡素化することを目的としています。
このプラットフォームはRed Hatと共同で開発され、同社のコンテナオーケストレーションソフトウェアOpenShiftを採用しています。台北で開催された世界最大のコンピューターショー、COMPUTEXで発表されました。
EGX は、OpenShift と Nvidia の Edge Stack を結合します。これには、ドライバー、CUDA コンテナー ランタイム、CUDA Kubernetes プラグイン、CUDA-X ライブラリ、TensorFlow 推論用の TensorRT、コンピューター ビジョン用の DeepStream などのコンテナー化された AI フレームワークとアプリケーションのセレクションが含まれます。
Nvidia EGXアーキテクチャ
すべての「クラウド ネイティブ」アプリケーション (アプリ コンテナーにパッケージ化されたアプリケーション) は EGX 上で実行でき、EGX 用に開発されたアプリケーションはすべて主要なパブリック クラウドで実行できます。
プラットフォームは、AWS IoT Greengrass および Microsoft Azure IoT Edge サービスを使用してリモートで管理できます。
また、オンプレミスで EGX を実行したい顧客向けに、Mellanox および Cisco のネットワーク キットとの互換性もテストされています。
このプラットフォームは、通信、ヘルスケア、製造、小売、運輸などの業界におけるアプリケーション向けに位置付けられています。EGXの早期導入企業には、PC製造ラインにおける工場欠陥の検出に機械学習を活用しているFoxconn、MRI検査の高速化にアルゴリズムを活用しているGE Healthcare、ハードディスクの読み書きヘッドの品質検査に機械学習を導入しているSeagateなどが挙げられます。
「NVIDIA EGXプラットフォームはエッジでの推論を劇的に加速させ、これまで人間のオペレーターが見ることができなかった微細な欠陥を発見することを可能にします」と、シーゲイトのシニアプリンシパルデータサイエンティスト、ブルース・キング氏は主張する。「製造スループットは最大10%向上し、効率と品質の向上によりROIは最大300%向上すると期待しています。」®
