欧州のスタートアップ企業 Quobyte の Linux 愛好者のハイパースケール担当者は、HPC スタイルのワークロードで使用されるデータ センター ファイル システム用のプラグインをリリースしました。これにより、TensorFlow アプリは Linux カーネルを経由せずにファイルに直接アクセスできるようになります。
BBC、Linuxカーネルをバイパスしてストリーミング動画を流す
続きを読む
TensorFlow による機械学習処理は、多数のサーバーコアと GPU が保存されたファイルデータにアクセスする必要があるため、読み取り負荷が高くなります。Linux カーネルのストレージスタックを経由せずに各アクセス時間を短縮することで、モデルのトレーニングと推論に必要な時間を短縮できます。
カーネルバイパスは、ファイルシステムやネットワークIOにバインドされたアプリケーションでよく使用されます。例えば、
- WekaIOは、ファイルシステムの高速化にLinuxカーネルバイパス技術を採用しています。独自のRTOS（リアルタイムオペレーティングシステム）をカーネル空間ではなくLinuxユーザー空間で動作させ、独自のスケジューリングおよびネットワークスタックを実行します。後者はPCIe仮想化を介してホストサーバーのネットワークインターフェースカード（NIC）と直接通信します。WekaIOは独自のメモリ管理機能も備え、サーバーのSSDと直接通信します。
- BBCは、ビデオストリーミングのパフォーマンス向上のため、カーネルバイパスを使用しています。これにより、ビデオデータがアプリケーションのバッファからソケットバッファへ、そしてソケットバッファからネットワークデバイスドライバのバッファへコピーされるという事態を回避できます。
- Solarflareは、NVMe-over-TCPストレージネットワークファブリックのカーネルバイパス技術に取り組んでいます。同社のXtremeScale NICは、NFVおよびストレージサーバーのトラフィックを高速化するユニバーサルカーネルバイパススイートをサポートしています。同社によると、NVMe-over-TCPカーネル拡張により、同社のネットワークアダプターは、RDMAを必要とせずに、従来のPOSIX準拠のEthernet TCPネットワーク上でNVMeローカルフラッシュストレージのレイテンシに近づくことができます。
Quobyte社は、この技術によりGPUの利用率が向上し、ファイルIOの完了を待つ無駄な時間が短縮されると主張している。オンプレミスでもGoogleクラウドでも利用できる。
他のHPC並列およびスケールアウトファイルシステムベンダーも、近々TensorFlowのサポートを追加する可能性があります。Regストレージデスクは、Elastifile、Isilon、Lustre、Panasas、Qumulo、Spectrum Scale、WekaIOなどが有力な候補であると考えています。®
