Nvidia の 700W H100 が熱くて電力を大量に消費するマシンだと思っていたら、GPU スリンガーの B100 が今年後半に登場するまで待ってください。
Dell TechnologiesのCOO、ジェフ・クラーク氏によると、NVIDIAの最新AIアクセラレーターの消費電力は1,000ワットで、前世代機より42%増加します。しかし、心配は無用です。クラーク氏は、この猛獣を制御するために水冷は必要ないだろうと確信しています。
「H200の進歩とそのパフォーマンス向上に興奮しています」とクラーク氏は先週のデルの決算説明会[PDF]で投資家に語り、その後、NVIDIAの近々登場するB100アクセラレータと、同氏がB200と呼ぶもう1つのアクセラレータについても同様の感動を覚えていると付け加えた。
同氏は、1 個あたり 1,000 ワットを消費する GPU を扱うには直接的な液体冷却は必要ないだろうと述べ、そのレベルは「来年の B200 で実現する」と述べた。
クラーク氏が「B200」で言及しているカードが何なのかは完全には明らかではありません。NVIDIAが昨年秋に投資家に公開したロードマップには、この名称のチップは記載されていないからです。しかし、クラーク氏が言及しているのは、GH200と同様にNVIDIAのGrace CPUとB100 GPUを組み合わせたGB200スーパーチップではないかと考えられます。
今月公開された投資家向けプレゼンテーションによると、Nvidiaは1年ごとのリリースサイクルに移行する予定だ。クリックして拡大
GH200 の Grace CPU に関する知識に基づき、消費電力に大きな変化がないと仮定すると、GB200 の熱設計電力 (TDP) は 1,300 ワット前後となり、前世代機より 30 パーセント高くなります。
Nvidiaが、まだ我々が知らない別のカードを準備している可能性もある。GPU大手の次世代Blackwellアーキテクチャに関する詳細は、まだほとんど明らかにされていない。
命名法はさておき、クラーク氏は、この次世代チップが、デルが他の形態の液体冷却技術における専門知識を大規模に披露する機会になると示唆した。彼は、「流体の化学と性能、インターコネクト技術、テレメトリ技術、電力管理技術」といった技術を、超高密度チップであっても直接液体冷却に代わる技術へのステップとして挙げた。
NVIDIAはコメントを控えた。同社の年次カンファレンスGTCが数週間後に迫っていることを考えると、当然のことだ。The Registerはイベント会場で詳細をお伝えする予定だ。
- HPEはGPU不足が予想外の売上減少の一因だと非難
- 百度は、最先端のGPUを二度と入手できないかもしれないと認めた
- Nvidia、RTX 500、1000 AdaモバイルGPUでローカルAIを強化
- Nvidiaはカスタムシリコン市場の一部を獲得したいと考えており、IP販売のためのユニットを設立すると報じられている。
B100 は、Nvidia の帯域幅を強化した H200 GPU が今年前半にデビューした後、2024 年後半まで発売されないと予想されています。
2023年後半に発表されたH200は、最大141GBのHBM3eメモリを搭載し、驚異的な4.8TB/秒の帯域幅を実現するH100のリフレッシュ版です。NVIDIAは、このチップのHBM3eメモリスタックにより、Llama 70Bを含む大規模言語モデルのパフォーマンスが2倍に向上すると主張しています。
今年2つの新しいアクセラレータが市場に投入される予定であるにもかかわらず、アナリストはNVIDIAのGPU供給が依然として逼迫していると警告している。これは、NVIDIAが2024年にGPU出荷量を3倍以上に増やす可能性があると予測する報道があるにもかかわらずである。
Nvidia のロードマップでは、新しいアクセラレータ以外にも、年内にポートあたり 800Gb/秒の帯域幅が可能な、より高速で高性能な InfiniBand および Ethernet NIC とスイッチも発表される予定です。®
