AI伺服器正推升HBM與高容量DRAM的需求,儘管國際記憶體大廠加速擴產,但產能仍落後於需求。南亞科因DRAM報價大幅上升而受惠;華邦電則憑藉利基型產品成功承接市場商機。

文/呂泰德

大型語言模型正從集中式訓練轉向大規模推論,資料中心的擴充不再僅限於GPU或其他AI加速器,而是涵蓋HBM、伺服器DDR5、低功耗記憶體與企業級SSD的完整記憶體及儲存架構。緊鄰運算核心的HBM負責高速傳輸模型資料,DDR5與SOCAMM等低功耗記憶體支撐CPU端的系統運作與資料前處理,企業級SSD則承接模型權重、資料集、向量資料庫與持久化KV Cache等大容量儲存需求。

美光近期指出,過去三年間,單台伺服器的記憶體容量已增加一倍。隨著AI推論複雜度提升,系統效能愈來愈受記憶體頻寬與容量影響,不再僅由運算晶片效能決定。

HBM4量產加速,AI需求持續拉大供給缺口

三星電子於2026年2月宣布HBM4進入量產並展開商業出貨,採用第六代10奈米級1c DRAM及4奈米邏輯基礎裸晶。同年5月,再向主要客戶提供12層HBM4E樣品;美光則推進針對NVIDIA Vera Rubin平台設計的36GB、12層HBM4,單一堆疊頻寬超過每秒2.8TB,並同步布局SOCAMM2及PCIe Gen6資料中心SSD。

三星、SK海力士與美光在HBM4世代的競爭,已從過去著重單顆DRAM成本,升級為先進製程、堆疊技術、邏輯基礎裸晶、封裝、功耗、散熱與客戶認證能力的全面競賽。

更重要的是,HBM、高容量伺服器DDR5及低功耗伺服器記憶體,均會競逐先進DRAM晶圓、EUV設備、研發人力、測試與後段封裝資源。當記憶體大廠優先將先進DRAM產能配置於HBM及高容量伺服器產品時,不僅高階記憶體供應維持緊張,也可能限制部分標準型或成熟規格DRAM的供給增幅。

企業級SSD雖然主要使用NAND Flash,並不直接占用相同的DRAM晶圓,但同樣會競逐資本支出、先進控制器、研發及資料中心客戶資源。美光2026年第三季營收達414.6億美元,高於前一季的238.6億美元,並預估下一季非GAAP毛利率約86%,反映AI需求、供給受限與高附加價值產品組合正大幅提高記憶體的獲利能力。

高容量DDR5與企業級SSD推動AI資料中心全面升級

AI伺服器除了加速器,仍須仰賴CPU負責作業系統、資料前處理、網路與儲存管理、服務調度及部分推論流程,因此系統DRAM容量也隨之提高。美光已向伺服器生態系提供256GB DDR5 RDIMM樣品,最高速度可達9200MT/s,採用3DS堆疊與TSV技術整合多顆DRAM晶粒;單一256GB模組相較2條128GB模組,可降低超過40%的運行功耗。這顯示即使伺服器出貨台數未成倍成長,每台設備搭載的記憶體容量、頻寬與單位價值仍可持續提高,記憶體位元需求因而不再只由終端設備台數決定。

另一方面,大型模型在訓練階段需要讀取龐大資料集,進入推論後仍須存放模型權重、向量資料庫、檢索資料及持久化KV Cache,資料中心不可能將所有資料長期放在成本較高的HBM或DRAM中,因此必須依靠企業級SSD承接大容量儲存。美光9650為商用PCIe Gen6資料中心SSD,循序讀取效能最高可達PCIe Gen5產品的近2倍;另一款6600 ION則將SSD容量提高至245TB。兩項產品分別強化效能與容量,顯示AI資料管線的升級已從GPU與記憶體,進一步延伸至企業級儲存設備。

DRAM報價大幅上漲,南亞科獲利明顯跳升

記憶體產業具有固定成本高、價格循環明顯的特性。當產能利用率已處高檔、位元出貨量變化有限時,平均銷售價格上升,會增加毛利與獲利。南亞科2026年第二季營收達825.49億元,較第一季增加68.2%;DRAM平均銷售價格季增超過60%,位元出貨量則與前一季大致持平。在價格上漲與產品組合改善帶動下,毛利率由第一季的67.9%提高至79.5%。換言之,南亞科第二季獲利跳升的主要動能是供給受限、報價上漲與高附加價值產品比重提高,創造出更高營收與利潤。

文章授權自《先探投資週刊2414期》

FACT BOX · 重點整理

  • 來源:PR Times
  • 分類:新品
  • 相關組織:三星電子 / 美光 / SK海力士
  • 原文日期2026年2月 / 2026年5月
  • 產品、服務:HBM4 / HBM4E