黃仁勳揭AI新時代藍圖：從GPU到AI工廠 輝達如何重新定義未來運算？

輝達 (NVDA-US) 執行長黃仁勳日前受邀出席史丹佛大學課程「CS153：尖端系統」，與學生對談運算產業的未來走向。他在演講中拋出一個核心論點：外界普遍把 AI 視為電腦裡的一項新應用，例如辨識影像、生成文字、協助寫程式，但這樣的理解已經過於狹隘。

根據黃仁勳，真正發生的變化，是從晶片、網路、儲存設備到資料中心與軟體開發模式，整個運算體系都正圍繞 AI 重新打造。他將此稱為 IBM System/360 問世以來，運算產業首次真正意義上的「重新發明」。

黃仁勳指出，過去數十年的電腦運作邏輯，本質上是程式設計師寫好程式碼、編譯器轉成二進位檔、處理器按固定指令執行，即便網際網路、雲端運算與行動裝置陸續問世，也未曾真正撼動這套底層邏輯。

然而，神經網路的出現打破了這個模式：機器不再單純執行人類寫死的規則，而是從資料中學習結構，依當下情境即時生成答案、影像、動作甚至程式碼。

黃仁勳認為，「生成式」三個字不該只被理解為生成內容。模型同時也在生成中間思考過程、工具呼叫指令、任務規劃與行動序列，並能持續觀察環境、調用其他軟體、檢視執行結果。

換句話說，運算正從「一次性回應需求」轉向「持續不斷工作」。

以自駕車為例，車輛無法從資料庫裡調出一段預錄好的轉向動作，必須即時判讀道路、行人與周遭狀況並做出決策，這也是黃仁勳認為未來幾乎所有能移動的機器都將逐步具備「機器人」特性的原因。

摩爾定律放緩後，系統級協同設計成 為 提升運算效能的關鍵

隨著運算模式轉向 AI，硬體發展已無法單靠延續傳統晶片架構來提升效能。黃仁勳多次指出，未來的競爭核心在於「協同設計」，也就是讓演算法、AI 模型、編譯器、晶片、互連技術、網路、儲存設備以及資料中心等各個環節，圍繞相同的工作負載進行整體最佳化。

這項理念其實可追溯至早期 RISC 架構的設計哲學，當時便強調編譯器與處理器必須相互配合，而非各自獨立運作。

進入 AI 時代後，協同設計的範圍進一步擴大，不再侷限於單一晶片，而是涵蓋 CPU、GPU、交換晶片、高速互連、網路與儲存系統，打造完整的 AI 運算平台。

背後原因在於，無論是圖形渲染、分子動力學、量子化學、流體模擬，或是深度學習訓練，都屬於高度平行化且運算量龐大的工作，僅依靠通用處理器已難以兼顧效率與擴充性。

隨著摩爾定律帶來的效能提升逐漸放緩，產業開始透過系統架構創新，重新設計平行運算、資料流與通訊方式，以持續推升整體運算能力。

黃仁勳表示，透過跨軟硬體、跨系統層級的整合優化，輝達在過去十年間已讓部分 AI 工作負載的運算能力提升約 100 萬倍。

不過，這項數據反映的是整體系統效能的進步，而非單一 GPU 性能的大幅躍升。也因此，在後摩爾定律時代，市場競爭的焦點已從「哪顆晶片速度最快」，逐漸轉向「哪一套完整運算系統能以最高效率完成實際 AI 工作負載」。

別只盯著 MFU，更重要的是系統真正產出了多少 AI 價值

課堂討論中，有學生提到大型 AI 叢集常用的指標模型浮點運算利用率（MFU，Model FLOPs Utilization）。

一般認為，MFU 越高代表 GPU 資源利用越充分，昂貴的運算設備沒有被閒置。然而，黃仁勳認為，若過度依賴這項指標，反而可能對系統效能產生誤判。

他指出，大型 AI 運算平台的效能並非只取決於 GPU 算力，還同時受到顯示記憶體頻寬、記憶體容量、網路互連以及儲存系統等多項因素影響。任何一個環節都可能成為瓶頸，因此系統設計通常會在部分資源上預留餘裕，以避免關鍵流程因單一瓶頸而拖慢整體運算。

換言之，即使部分 GPU 在某些時刻沒有滿載運作，也不代表系統效率低落。若一味追求更高的 MFU、刻意壓縮資源餘量，反而可能導致瓶頸放大，使整體任務耗時更長。

這種情況在 AI 推理階段尤其明顯。大型語言模型每生成一個 Token，都必須持續讀取模型權重與上下文資訊，因此真正限制推理速度的，往往不是 GPU 的峰值浮點運算能力，而是多顆晶片共同提供的記憶體頻寬。

也因此，一套 MFU 並不特別高的系統，仍可能憑藉更高的頻寬效率與更低的能耗，在相同時間內完成更多推理工作。

黃仁勳因此主張，評估 AI 基礎設施時，不應只關注系統擁有多少 FLOPS，而應衡量它在特定能耗下能產生多少有價值的 AI 成果。

即使以「每瓦可生成的 Token 數」作為指標仍無法完全反映不同 Token 的價值差異，但至少比單純追求硬體利用率，更能貼近實際業務效益。

對 AI 系統而言，真正重要的不是設備是否滿載，而是能否以更快、更有效率的方式完成目標工作。

從 Hopper 到 Feynman：輝達每一代架構都瞄準下一波 AI 運算需求

黃仁勳表示，輝達每一代 GPU 架構的設計理念，都是提前因應下一階段的 AI 運算需求，而非只解決當前瓶頸。Hopper 主要鎖定大型 AI 模型預訓練，在市場仍未出現數十億美元級 AI 超級電腦前，就已開始布局相關系統。

隨著 AI 產業重心逐漸從訓練轉向推理，Grace Blackwell NVLink 72 則透過 72 顆 GPU 組成機架級系統，利用高速互連提升記憶體頻寬，以加速大型語言模型推理與 Token 生成。黃仁勳指出，相較前一代架構，其相關工作負載效能提升約 50 倍，遠高於摩爾定律可帶來的增幅。

下一代 Vera Rubin 則瞄準 AI 代理應用。由於代理需要長期記憶、工作記憶及大量工具調用，因此除了 GPU 外，CPU、儲存與高速互連也必須同步最佳化，以降低等待時間、提升整體效率。

更長遠來看，代號 Feynman 的架構將支援由多個 AI 代理、子代理及各類工具組成的「代理群」。黃仁勳強調，輝達的產品藍圖並非單純追求硬體升級，而是先預測下一代 AI 軟體的運作模式，再據此打造對應的運算平台。

開放模型的價值，不只是打造聊天機器人

黃仁勳認為，開放模型（Open Model）的意義不僅是發展聊天機器人，更是讓不同語言、產業與研究領域都能擁有可修改、可微調的 AI 基礎模型。由於許多利基市場規模有限，商業閉源模型未必會投入資源，因此開放模型能加速各領域的 AI 創新。

他指出，未來 AI 也將超越自然語言，延伸至生物醫學、化學、氣候科學、自動駕駛及機器人等領域，這些應用都需要專屬的模型架構與訓練方式，而非直接套用大型語言模型。

為此，輝達已推出 Nemotron、BioNeMo、Alpamayo、GR00T 及氣候模型等多項基礎模型，協助建立各領域的 AI 生態。

黃仁勳也強調，未來 AI 將結合語言推理能力與世界模型（World Model），讓系統不僅能辨識物體，更能理解環境、推理因果並自主決策，例如提升自動駕駛的安全性。

此外，他認為開放模型也有助於安全研究，讓更多研究人員能檢驗模型行為、發現漏洞，並建立更有效的 AI 防禦機制，而非讓攻防競賽侷限於少數封閉模型之間。

AI 應融入所有學科，但基礎能力依然不可取代

談到 AI 教育，黃仁勳認為，AI 不應被視為一門獨立課程，而應成為所有學科的學習工具，協助學生閱讀論文、查找資料、撰寫程式、進行實驗與解決問題。

不過，他強調，AI