AI算力の次の戦いは「每瓦詞元產出」！輝達のVera Rubinで最大10倍の効率向上、推論コストは1／10に低下

AI算力競賽の次の鍵は、GPUの速度だけでなく、1ワットの電力でどれだけの詞元を生成できるかに移っている。輝達（NVIDIA、NASDAQ：NVDA）は本日（22日）、次世代のVera Rubin NVL72が量産フェーズに入り、CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructureがすでに導入を開始したと発表した。

CoreWeaveがDeepSeek-R1モデルで実施した初の実機テストによると、Vera Rubin NVL72は、100万ワットあたり1秒間に生成される詞元数が、Grace Blackwell NVL72に比べて10倍に向上した。Google Cloudも、Vera Rubinを搭載した次世代A5Xインスタンスにより、1詞元あたりの推論コストを前世代の10分の1まで削減できると宣言している。

AIがチャットボットから、推論・計画・ツール使用・タスク実行が可能な「代理型AI」へ進化する中、詞元の消費量は従来の15倍に達する可能性がある。データセンターの電力供給が限られる状況下で、同じ電力でより多くの詞元を生成し、100万詞元あたりのコストを削減することが、クラウドサービス事業者やAI開発企業の商業化の鍵となっている。

CoreWeaveは数か月にわたる共同開発を経て、Vera Rubin NVL72を最初に導入・検証したAIクラウドプロバイダーであり、実ハードウェアによる初のパフォーマンスデータを公開した。DeepSeek-R1は混合専門家（MoE）アーキテクチャを採用しており、各詞元が分散した専門家サブネット間でルーティングされるため、GPU間の通信能力が処理効率に直結する。Vera Rubin NVL72は、最大260TB／秒の帯域を持つNVLink 6の全相互接続アーキテクチャにより、1ラック全体を1つの巨大なアクセラレータのように動作させ、データ転送のボトルネックを回避している。

AIクラウド事業者にとって、100万ワットあたりの詞元生成量の増加は、同じ電力容量でより多くのワークロードを処理できることを意味する。負荷が変わらなければ、電力需要やサービスコストの削減が可能になる。Jane Streetなどの企業やAIラボは、CoreWeaveのクラウドを通じてVera Rubinプラットフォームを利用している。

Vera Rubinの性能向上は、Rubin GPU単体によるものではない。輝達は、チップ、ラックトレイ、ネットワーク、冷却システムまでを一貫設計しており、このプラットフォームにはVera Rubin NVL72、Vera CPUラック、Groq 3 LPX、Spectrum-6 SPX、Vera BlueField-4 STXを含む7種類のチップと5種類のラックトレイが含まれる。これらのコンポーネントは、市販の個別部品を組み合わせて最適化するのではなく、初めから1つのAIシステムとして設計されている。この戦略は、輝達がGPUサプライヤーから、CPU、GPU、ネットワーク、DPU、ソフトウェア、冷却システムを含むAIインフラプラットフォーム企業へと進化していることを示している。

Vera CPUは、代理型ワークロード専用に設計されたプロセッサである。輝達が提供するデータによると、カスタムOlympusコアは、競合のチップレット設計と比較して、シングルスレッド性能が2倍、コア間帯域が3倍、メモリ遅延が40％低下している。AIクラウドプラットフォームDeepInfraの追加テストでは、同じサービス品質を維持しながら、Vera CPUは他のCPUの1.6倍の並列AIエージェントをサポートでき、協調速度は最大2.2倍高速であることが判明した。DeepInfraは現在、毎週約5兆語の詞元を処理しており、そのうち約30％が代理型システムから来ている。この結果は、モデル呼び出し、データ移動、ツール使用などのプロセスにおいてCPUの重要性を浮き彫りにしている。

Vera RubinはGoogle Cloudにも導入されている。Googleの親会社Alphabet（NASDAQ：GOOGL）が提供するA5Xベアメタルインスタンスは、Vera Rubin NVL72ラックスケールシステムを基盤とし、ConnectX-9 SuperNICとGoogleの次世代Virgoネットワークを組み合わせている。Google Cloudの計画によると、A5Xクラスターは単一サイトで数万個のRubin GPUにスケーリング可能で、マルチサイト構成では最大100万個のGPUに近づく。これは、最先端モデル、オープンモデル、代理型AI、物理AIモデルのトレーニング、チューニング、展開に使用される予定だ。

ロンドンのスタートアップIneffable Intelligenceは、すでにA5Xを導入し、「スーパーラーナー」と呼ばれる、環境との相互作用と経験から継続的に学習するシステムを開発している。静的データセットに依存する大規模言語モデルとは異なり、このシステムは強化学習を通じて、多数の並列シミュレーション環境で経験を生成し、その結果を戦略の更新と評価に変換するため、高い計算能力、メモリ帯域、低遅延の相互接続を必要とする。

Ineffable Intelligenceの共同創業者Lasse Espeholt氏は、「次の世代の研究には、次の世代のハードウェアが必要です」と述べており、同社はVera Rubinシステムの導入をほぼ即座に完了し、スーパーラーナー向けのインフラテストを開始していると語った。

Microsoft（NASDAQ：MSFT）とフランスのAIスタートアップMistralも、Vera Rubinを基盤として欧州でのAIインフラ協力を拡大する。両社の数十億ドル規模の新契約により、Mistralは数千個のVera Rubin GPUを採用し、モデルのトレーニング、推論、大規模展開に必要な計算リソースを拡張する。

Mistral Medium 3.5とOCR 4はすでにMicrosoft Foundryに導入されており、MistralのモデルはMicrosoft Copilot Studioにも統合されている。Azure LocalとFoundry Localを通じて、政府機関や規制対象企業は、パブリッククラウド、クラウド接続のプライベート環境、完全オフライン環境で同じモデルを実行できる。

この展開は、欧州AI市場の特殊なニーズを反映している。金融、医療、政府機関は、計算性能に加えて、データ制御、ローカル展開、規制遵守、インフラのレジリエンスを重視している。そのため、Vera RubinはMicrosoftとMistralが欧州の主権AI市場に参入するための基盤となっている。

AIシステムの消費電力と冷却需要の増加に対応するため、Vera Rubin NVL72は液冷の給水温度を摂氏45度まで引き上げており、冷却機なしでドライクーリングと密閉型液冷システムを組み合わせて運用できる。輝達の試算では、新設のAI工場で100万kW規模を導入する場合、年間で数百万ガロンの水使用を節約できる。

3世代にわたるラックスケールの協同設計により、Vera Rubinのコンピュートトレイには、ケーブル、ファン、ホースが一切設置されていない。これにより、トレイの組み立て時間が数時間から約1分に短縮された。

CoreWeaveの実機テスト、Google Cloudの100万GPU規模のマルチサイト計画、MicrosoftとMistralの欧州展開を通じて、Vera Rubinの競争の焦点が単一GPUの性能から完全に移行していることがわかる。AI産業が電力、冷却、推論コストに制約される中、より少ないエネルギーでより多くの詞元を生成できる企業が、次世代AIインフラの経済性を支配するだろう。