美國政府針對人工智慧(AI)擬定的安全監管框架傳出重大轉折,《彭博新聞》(Bloomberg)5日引用知情人士說法,稱白宮4日在一場閉門會議中明確告知美方科技巨頭,由中國競爭對手所開發的「開放權重」(open-weight)AI模型,將不會被納入新版AI安全測試體系之中。此一決定顯示,在美中AI科技戰白熱化之際,華府正試圖在防範國安風險與維持創新競爭力之間,尋求極具爭議的微妙平衡。 《彭博》指出,這場白宮的閉門簡報會議的參與者包括政府官員以及OpenAI、Anthropic、以及Google母公司Alphabet高層。而目前尚未公開、未來可能也將持續保密的AI安全框架,則是依據美國總統川普(Donald Trump)今年6月簽署的行政命令所推動,旨在建立一套自願參與機制,業者提交最尖端的模型供美國政府審查。針對《彭博》所披露的報導內容,白宮及上述三家公司的發言人均未置評。 所謂「開放權重模型」,是指廠商公開模型訓練好的參數與設定,讓你可下載到自己電腦或伺服器運行、微調,但不見得包含完整的原始訓練數據或無限制授權。如果完整公開「訓練原始數據、資料處理管線與訓練代碼」,且採用完全無商業限制的自由授權條款,就會被稱為「開源模型」。目前規模最大的開放權重模型,是月之暗面(Moonshot AI)今年7月釋出的Kimi K3,總參數高達2.8兆。 《彭博》指出,華府之所以加速推動AI安全框架,是因為Anthropic今年4月發出警告,宣稱旗下的「Mythos」模型極度擅長挖掘電腦系統漏洞,因而嚴格限制發布;此外,OpenAI與Anthropic近來也先後揭露,部分內部模型曾脫離安全測試環境,甚至入侵第三方機構,使得政府審查與監管的迫切性大為增加。 Kimi K3震撼市場 華府監管陷入兩難 隨著中國AI公司陸續推出一系列足以媲美美國頂級AI的「開放權重模型」或「開源模型」,也讓華府關於如何處理這類AI的爭論愈演愈烈。尤其中國新創公司「月之暗面」發布的Kimi K3模型,削弱了投資人對美國在AI領域保持領先的信心,對於AI巨頭對資料中心等AI基礎設施砸下數十億美元做法,也引發各界開始質疑是否有此必要。 《彭博》指出,儘管OpenAI等部分美國AI企業也提供「開放權重模型」,但美商的主要精力仍放在收費且不對外開源的封閉模型。相比之下,包括DeepSeek(深度求索)在內的中國企業,則持續提供低價甚至「開源」與「開放權重」的AI模型。儘管這些模型的表現略遜於美國最先進的AI,但其超高性價比已形成極強的市場替代威脅。 黃仁勳力挺開放架構 對於政府管制的界線,華府官僚與產業領袖立場分歧。美國國家網路總監柯恩克羅斯(Sean Cairncross)公開表示,川普政府極力支持美國開源AI發展,並認為此類模型發揮著「極為關鍵的角色」。柯恩克羅斯強調,AI安全框架必須具備「彈性」,以鼓勵產業與政府間的資訊共享:「一套僵化的管制體制,不僅會扼殺成長、研發與創新,對產業造成巨大傷害,而且無論該程序多麼嚴謹,任何規範在通過48小時後就會徹底過時。」 輝達(Nvidia)執行長黃仁勳等矽谷領袖,則強烈反對政府對「開放權重模型」設限,主張開放架構不僅有利於全球AI的長期發展,更能反過來透過群眾力量強化系統的整體安全性。 《彭博》也指出,由於川普與習近平下個月就要在美國見面,美國政府此時拋出對中國「開放權重」AI的豁免政策,屆時兩國對全球AI龍頭寶座的競爭勢必成為會談焦點。此外,美國政府的豁免決定,對Anthropic執行長阿莫戴(Dario Amodei)、以及反對給予中國AI模型豁免的華府官員而言,則是一次挫敗。 反對派可能另闢蹊徑 阿莫戴曾極力主張政府應對開放式與封閉式模型一律實施強制性安全審查,尤其中國製造的AI模型涉嫌違反美國法規,美國財政部長貝森特(Scott Bessent)等多位高層官員也有類似看法。包括白宮科技政策辦公室主任克拉齊奧斯(Michael Kratsios)上個月公開指控,月之暗面涉嫌非法取得輝達最先進的Blackwell架構晶片,他也指控月之暗面透過所謂的「模型蒸餾」(distillation),不當擷取美國模型的數據。 不過《彭博》也曾報導,月之暗面已與阿里巴巴集團簽署算力租賃協議,使用約2萬顆輝達晶片,爲月之暗面開發Kimi模型提供了可觀算力。
FACT BOX · 重點整理
- 來源:PR Times
- 分類:新聞
- 相關組織:OpenAI / Anthropic / Google
- 原文日期:来月(米中首脳会談)