少なくとも一部の投資家がAIインフラやサービスの投資収益率に疑問を呈し始めているにもかかわらず、ベンチャーキャピタリストたちはその投資をさらに強化しているようだ。月曜日、AIチップのスタートアップ企業Groq（xAIのチャットボットGrokとは別物）は、推論クラウドの強化に向けてシリーズDラウンドで6億4000万ドルを調達したと発表した。
カリフォルニア州マウンテンビューを拠点とするこのスタートアップ企業は、2016年に設立され、学習ではなく高スループットかつ低コストの推論をターゲットとしたAIチップスリンガーとして事業を開始しました。その後、AIインフラサービスプロバイダーへと転換し、ハードウェアの販売から撤退しました。
Groqはこれまでに総額10億ドル以上を調達し、評価額は現在28億ドルに達している。最新の資金調達ラウンドでは、ブラックロック、ニューバーガー・バーマン、タイプ・ワン・ベンチャーズ、シスコ・インベストメンツ、グローバル・ブレイン、サムスン・カタリストなどが主導した。
同社の最大の強みは、GPUベースの機器よりも少ない消費電力で、より高速に多くのトークンを生成できるという点です。その核となるのは、Groqの言語処理ユニット（LPU）です。LPUは、LLMの実行という問題に、少し異なるアプローチで取り組んでいます。
AIはまだ成果を上げていない、あるいはビジネスを変革しつつある
続きを読む
私たちの姉妹サイトであるThe Next Platformが以前調査したように、Groq の LPU は、大量の高価な高帯域幅メモリや有利なパッケージを必要としません。どちらも AI インフラストラクチャの供給におけるボトルネックの一因となっていた要因です。
その代わりに、Groqの戦略は、それぞれがオンダイSRAMを搭載した数百個のLPUを光ファイバーインターコネクトで繋ぎ合わせることです。Groqは、576個のLPUからなるクラスターを使用することで、MetaのLlama 2 70Bモデルで毎秒300トークン以上の生成速度を達成したと主張しています。これは、8基のGPUを搭載したHGX H100システムの10倍に相当し、消費電力は10分の1です。
Groqは現在、数百万ドルの資金を人員増と推論クラウドの強化に充て、より多くの顧客をサポートする予定です。現在、Groqは36万人以上の開発者がGroqCloud上でオープンに利用可能なモデルを用いたアプリケーションを開発しているとしています。
AIモデルのトレーニングは解決しました。次は、これらのモデルを世界に展開して利用できるようにする時です。
「今回の資金調達により、GroqCloudに10万台以上のLPUを追加導入することが可能になります」とCEOのジョナサン・ロス氏は月曜日に語った。
AIモデルのトレーニングは完了しました。次は、これらのモデルを世界に展開し、活用できるようにする時です。目標額の2倍の資金を確保した今、私たちは人材密度を大幅に高める計画を立てています。
ただし、これらはGroqの次世代LPUではありません。GlobalFoundriesの14nmプロセスノードを使用して製造され、2025年第1四半期末までに出荷される予定です。Nvidiaの次世代Blackwell GPUは、遅延の程度にもよりますが、今後12か月ほどで登場すると予想されています。
Groq は 2 つの新世代 LPU に取り組んでいると言われており、最後に聞いたところによると、これらは Samsung の 4nm プロセス技術を活用し、15 倍から 20 倍の電力効率を実現するとのことです。
Groq の LPU 戦略とパフォーマンスに関する主張の詳細については、The Next Platformをご覧ください。
VC資本はAIスタートアップに流入し続けている
AIブームの波に乗って利益を上げたインフラベンダーはGroqだけではありません。実際、6,400億ドルという金額は、近年のスタートアップ企業が手にした金額としては、決して大きな額ではありません。
ご記憶にあるかと思いますが、5月にGPUビットベンダーのCoreWeaveは、Blackstone、BlackrockなどからGPUを担保に75億ドルの融資を受ける数週間前に、シリーズCの資金調達で11億ドルを獲得しました。
一方、別のGPUクラウド事業者であるLambda Labsは、保有するGPUのキャッシュを活用して、2月以降、新規資金調達と負債による資金調達を合わせて8億2000万ドルを確保しましたが、まだ満足していないようです。先月、Lambda LabsがNVIDIA製GPUのさらなる導入を支援するために、ベンチャーキャピタルと8億ドルの資金調達について協議中であると報じられました。
- 株式取引アプリはパニックに陥った投資家の足元に落ちた
- 第2四半期に世界経済が800億ドルを投じ、企業のクラウド支出が急増
- Nvidiaはパッケージの問題によりBlackwell GPUの発売を2025年まで延期すると報じられている
- インテルは少なくとも15%の人員削減を実施し、TSMCへのアウトソーシングを拡大し、100億ドルのコストを削減する。
AIスタートアップ企業へのVC資金の流入が続く一方で、ウォール街の一部では、AIインフラへの数十億ドル規模の投資が本当に利益を生むのかについて、ますます不安を募らせているようだ。
それでも、セレブラスのような機械学習の新興企業が新規株式公開（IPO）を目指すのを止めることはできなかった。モデルの学習を目的とした、ディナープレートサイズのアクセラレータで最もよく知られている同社は先週、非公開で上場申請を行ったことを明らかにした。
AIは利益を生むのか？ウォール街はテクノロジー業界に利益の証明を求めている
聞いてください
IPOの規模と価格帯はまだ未定です。セレブラスはAIトレーニングという課題に対して、かなり独特なアプローチをとっており、G42などの企業から9億ドルを超える資金調達に成功しました。
一方、従業員の少なくとも15%を解雇する計画の中、第2四半期の利益が前年同期比で16億ドルも減少したIntelという注目すべき例外を除けば、チップベンダーとアクセラレーターへのアクセスを再販するクラウドプロバイダーは、AIブームの最大の恩恵を受けている。先週、AMDはMI300X GPUがデータセンター売上高の10億ドル以上を占めたことを明らかにした。
しかし、AI の誇大宣伝が脱線するかどうかの本当の試金石は、市場リーダーである Nvidia が今月下旬に収益と見通しを発表するまで出ないようだ。®
