価格が抑えきれない！ 輝達、Vera Rubin NVL72のCPUメモリを半減

海外メディアの最新報道によると、LPDDR5Xの供給が逼迫し、価格が高騰を続けている。長期間契約を持つ輝達でさえ、この流れには対応しきれない状況となっている。

中国『快科技』の報道によれば、輝達の次世代Vera Rubin NVL72ラック型AIシステムは、CPU側のシステムメモリを大幅に削減する。SOCAMMモジュールは192GBから96GBに半減され、Vera CPUの搭載総量は54～55TBから28TBに削減。CPUラックはすべて96GB SOCAMMに統一される。一方、GPU側のHBM4グラフィックメモリは、1ラックあたり20.7TBで据え置きとなる。

伯恩斯坦（Bernstein）の試算によると、LPDDR5XとHBM4の価格上昇の影響で、1ラックの製造コストは、モルガン・スタンレーが当初予想した780万ドルから910万ドルに引き上げられている。HBM4の単価は2027年には1GBあたり53ドルに達する可能性があるとされる。仕様変更を行わなければ、Vera Rubin 200のメモリコストは全体の物料表（BOM）の約29％、約210万ドルを占めることになり、20％の許容ラインを大きく上回る。

一方、容量を半減すれば、LPDDR5Xのコストは120万ドルから58.6万ドルに下がり、さらに4分の1にすれば29.3万ドルまで削減できる。これにより、1ラックあたりのBOM負担が大きく軽減される。

輝達は今年1月にVera Rubin NVL72を発表した。CoreWeaveの実測では、MoEワークロード処理時の1MWあたりのスループットが80万token/sに達し、Blackwellラックの8万token/sから10倍に跳ね上がった。

報道はまた、計算能力の旗艦機がグラフィックメモリを減らさず、CPUメモリだけを削減したことは、記憶体価格高騰の圧力が、最強のAIラックの仕様表にまで影響していることを示していると指摘している。