AI的下一場競爭,不再只是誰的GPU最快,而是誰能用新的晶片架構,降低資料搬運成本,提供更高效率、更低功耗的算力,把戰線從「晶片有多快」推向「晶片有多大」。
隨著OpenAI與新創公司Cerebras(CBRS-US)簽下一紙金額上看200億美元的算力採購合約,加上特斯拉(TSLA-US)、台積電(2330-TW)與多家中國研究機構相繼公佈進展,曾經被視為工程奇想的「晶圓級晶片」,如今正快速轉為一門可交付、可量產的產業生意。
今年稍早,OpenAI與美國晶片新創Cerebras簽署了一份為期三年的算力採購協議,涵蓋規模最高達750MW的運算容量,交付期程排到2028年,市場估算合約總值可能超過200億美元。
這筆訂單的意義不只在於金額龐大,更在於它把「晶圓級晶片」從一項製造技術,正式推上算力產業版圖的檯面。
Cerebras的核心產品,是一種顛覆傳統封裝邏輯的「整片晶圓」晶片:不同於一般晶片製造流程中把晶圓切割成上百顆獨立裸片,Cerebras選擇讓整片晶圓維持完整、彼此互連,形成單一巨型邏輯系統。
今年稍早公司在美股掛牌後,首季財報顯示營收達1.93億美元,年增94%,其中雲端服務營收更是年增178%。
值得注意的是,押注晶圓尺度的不只Cerebras一家。特斯拉重啟了自家的Dojo 3訓練晶片計畫;在中國多所高校、科研院所與企業也陸續發表12吋晶圓級驗證樣機、多芯粒原型與產品路線圖。
晶圓級運算,正從少數玩家的豪賭,演變為整個產業認真評估的選項。
瓶頸不在算力,而在「搬運」
要理解晶圓級晶片為何興起,得先回到當前AI系統真正的痛點。它已經不單純是運算能力不足的問題,而是資料搬運的成本失控。
大型模型運作時,龐大的權重與中間運算結果必須不斷在運算單元與儲存單元之間往返,一旦系統涉及多顆晶片協同工作,這些資料還得跨晶片交換、同步。
而只要資料離開晶片本體,就得經過封裝的輸入輸出介面、電路板、網路卡、交換晶片,乃至光模組層層轉手。
叢集規模愈大,花費在通訊上的電力與成本占比就愈高,新增的運算單元也愈難轉化為等比例的實際算力產出。
面對這個問題,產業目前分成兩條路線因應。
第一條路是把「機架」做得更像一台電腦。輝達(NVDA-US)的GB200 NVL72透過NVLink把72顆GPU整合為單一液冷機架系統;華為的CloudMatrix 384則以384顆昇騰910C晶片搭配高速互連,組成所謂的超節點。
這條路線靠的是更強大的交換晶片、銅纜或光纖連接與系統軟體,讓大量獨立晶片協同運作時盡量減少延遲。
第二條路,則是晶圓級運算選擇的方向。直接縮短資料傳輸的物理距離。把原本發生在電路板之間、機櫃之間的資料交換,直接壓縮進封裝內部甚至同一片晶圓內部,用毫米級的互連取代原本動輒公分甚至公尺級的網路傳輸。
這條路線的核心價值,不是塞進更多運算單元,而是從根本上減少資料搬運的距離與代價。
分析指出,兩條路線各有取捨。超節點的軟體生態成熟、擴容與更換硬體相對容易,但必須承擔較高的網路成本;晶圓級系統則用高度客製化的製造、供電、散熱與軟體投入,換取更高頻寬、更低延遲與更佳能效表現。
值得一提的是,今年7月,超微半導體(AMD-US)與Cerebras公佈了一項「分離式推理」合作方案。由超微半導體的Helios系統負責運算密集的預填充階段,Cerebras的晶圓級引擎則專注處理對延遲敏感的解碼階段。
雙方測算,這種混合搭配相較單獨使用晶圓級引擎,每瓦產出的token數最高可提升五倍,代表晶圓級晶片未必要取代GPU,更可能的走向,是成為異質化資料中心裡專門承接通訊密集、延遲敏感任務的一層架構。
一整片晶圓,還是重新拼裝的晶粒?
嚴格來說,產業裡通稱的「晶圓級晶片」其實包含兩種截然不同的技術路徑。
傳統大型晶片的第一道天花板,來自先進微影技術單次曝光所能覆蓋的面積上限,業界稱之為「掩模尺寸極限」,大約落在800多平方毫米。以輝達H100為例,其裸片面積約814平方毫米,已經逼近這個物理邊界。
過去產業靠製程微縮持續塞入更多電晶體,但隨著先進製程的研發與製造成本不斷攀升,業界開始改用Chiplet拆分複雜晶片、再透過先進封裝重新組裝。而晶圓級運算,則是把整個系統的邊界,從一個封裝直接擴展到接近整片晶圓的規模。
### 第一類:整片晶圓,單一邏輯系統
這正是Cerebras晶圓級引擎所採用的方式,也是目前唯一真正形成商業交付規模的產品類型。
晶圓製造完成後不再切割成獨立裸片,而是透過跨曝光區域的互連技術,把整片晶圓組織成一個連續運作的邏輯系統。
Cerebras的邏輯是,先把良率問題解決,再去掌控整套系統。最新一代的WSE-3採用5奈米製程,面積達46,225平方毫米,整合4兆顆電晶體、90萬個AI運算核心,峰值算力達125 PFLOPS。換算下來,其面積相當於數十個標準光罩區域的總和。
這種高度一體化的做法,也代表Cerebras必須親自掌控更多產業環節。晶圓級引擎沒辦法像一般PCIe加速卡那樣直接插進伺服器裡使用,公司得同時包辦晶圓級封裝、供電系統、液冷方案、整機設計、編譯器與叢集軟體的開發。
換句話說,Cerebras賣的其實不是一顆標準晶片,而是一整套從矽晶圓延伸到雲端服務的完整運算系統。
### 第二類:先拆後拼的多晶粒晶圓級系統
這類方案採取相反的邏輯,先各自製造、切割並測試獨立晶粒,再挑選其中的良品,重新整合到晶圓尺度的互連平台上。
特斯拉的Dojo計畫是最具代表性的案例。特斯拉負責D1晶片本體、訓練架構與軟體,台積電則透過InFO_SoW晶圓級扇出封裝技術,把25顆D1晶片組裝成一片「訓練磚」。
相較於Cerebras的做法,這條路線不需要讓帶有缺陷的整片邏輯晶圓繼續運作,晶片製造完成後可以個別測試、只挑選良品進行整合,大幅降低前段製造的良率風險,也更容易混搭不同製程、不同功能的晶粒。
在Dojo之後,台積電已經著手把晶圓級整合技術,從單一客戶的專案,擴展為對外開放的通用代工平台。
根據台積電公布的技術路線圖,下一代SoW-X平台計畫進一步整合邏輯晶粒、HBM高頻寬記憶體與輸入輸出模組,目標在2027年進入量產階段。
台積電強調,SoW-X並非Dojo的直接後繼產品,而是面向更廣泛高效能運算與ASIC客戶群的下一代晶圓級平台。
此外,還有一組容易與晶圓級運算混淆的技術,包括晶圓級封裝、混合鍵合與3D堆疊。這些製程雖然都在晶圓階段完成重佈線、封裝或垂直連接工序,但最終產出的產品仍可能只是一顆尺寸正常的封裝晶片。
它們是支撐晶圓級運算的重要技術基礎,卻不能與真正的晶圓級運算系統畫上等號。
中國隊伍:從論文走向樣機
過去兩年,中國在晶圓級運算領域的進展相當顯著,雖然目前還沒有出現成熟度足以比肩Cerebras的商業化系統,但已經明顯跳脫純概念研究的階段。
在學術端,清華大學尹首一、胡
FACT BOX · 重點整理
- 來源:PR Times
- 分類:合作
- 相關組織:OpenAI / Cerebras / 特斯拉
- 原文日期:2028年 / 2027年
- 產品、服務:晶圓級晶片 / WSE-3