(中央社記者 張欣瑜 舊金山16日專電)AI基礎設施峰會在矽谷舉行,科技巨頭聚焦產業瓶頸。任職Google的圖靈獎得主派特森指出第一大瓶頸是記憶體,「我們確實可能進入以記憶體為中心的時代」。英特爾執行長陳立武則表示,明年情況會更加嚴峻。

AI基礎設施峰會(AI Infra Summit)15至17日在矽谷舉行。台廠世芯、晶心科、華擎、創意、宜鼎、神達、華邦電等多家業者參展,橫跨客製化晶片設計、處理器矽智財、AI伺服器、記憶體及儲存等領域,反映台灣在AI基礎設施供應鏈中的關鍵地位。

主要數據 — KEY FIGURES

5
漲到原來的5倍、6倍,甚至7倍
6
漲到原來的5倍、6倍,甚至7倍
7
漲到原來的5倍、6倍,甚至7倍
70%
不可能讓記憶體占產品成本的70%或80%

峰會期間,科技巨頭包括超大規模資料中心與雲端服務業者Google、亞馬遜(Amazon)旗下AWS、Meta,及晶片業者輝達(NVIDIA)、英特爾(Intel)、高通(Qualcomm)談話聚焦產業技術和挑戰。整體而言,記憶體、電力、互連技術為3大重點。

● 陳立武談記憶體荒:明年的情況將會更加嚴重

Google傑出工程師、圖靈獎得主派特森(Dave Patterson)在對談中表示,首要瓶頸是記憶體,「我們確實有可能正在進入以記憶體為中心(memory-centric)的時代」。

派特森闡述,廠商產能無法滿足市場需求,建造一座晶圓廠又需要數年時間,這不是未來6個月內就能解決的難題。價格暴漲是否會在短期內消失,目前還不明確。

他說,基於記憶體在物料清單中占比攀升,大部分支出流向記憶體,記憶體頻寬可能成為瓶頸,「我們可能正進入一個以記憶體及記憶體導向架構為出發點的時代」。

陳立武則表示,「明年的情況將會更加嚴重」。

陳立武指出,目前產能受到非常大的限制,許多企業的業務因為無法取得足夠的記憶體而放緩。記憶體價格也上漲許多,漲到原來的5倍6倍,甚至7倍。生產低階手機或筆記型電腦,情況就會變得很困難,因為不可能讓記憶體占產品成本的70%80%

● 突破AI記憶體牆 業界推HBF、HBC新技術

8月在矽谷舉辦的記憶體與儲存技術大會(Future of Memory and Storage)上,中央社在現場觀察,以SanDisk、SK海力士為主的業者已聚焦在高頻寬快閃記憶體(HBF)技術。這項技術以NAND快閃記憶體為基礎,透過多層堆疊和平行傳輸資料,在保有容量的同時提高傳輸頻寬。

派特森在AI基礎設施峰會表示,HBF可能成為一種具備實用價值的新型記憶體技術,自己正在參與HBF的技術研發。

高通則是提出高頻寬運算(HBC)技術,將低功耗雙倍資料速率記憶體(LPDDR)堆疊在運算晶粒上方,藉由縮短資料傳輸距離,提高AI推論的資料傳輸頻寬與能源效率。

高通資料中心事業負責人皮亞里斯(Tony Pialis)今天指出,「記憶體牆」已成為限制AI發展的瓶頸。由於資料傳輸頻寬不足,大型雲端業者斥資購買的GPU部分時間無法充分運作,持續耗電卻未能創造收益,突破「記憶體牆」成為AI擴展的關鍵。(編輯:張芷瑄)1150917

選擇與事實站在一起,您的每一份贊助,都是守護新聞自由的力量

下載中央社「一手新聞」APP,即時掌握最新消息

本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。

FACT BOX · 重點整理

  • 來源:中央社 CNA
  • 分類:科技新聞
  • 相關組織:Google / 英特爾 / 超大規模資料中心