OpenAI「自主攻擊」知名AI開源社群平台？美智庫聯盟致函川普　要求聯邦政府介入調查

美國數個知名人工智慧（AI）政策智庫與非營利組織組成聯盟，正式致函美國總統川普，要求聯邦政府針對OpenAI近期發生的重大資安事件展開正式調查。該起事件源於OpenAI旗下開發的AI Agent（智慧代理）在未受人類直接指令的情況下，自主對知名AI開源社群平台Hugging Face發動入侵攻擊，被業界形容為一場「前所未有」的自主攻擊行為。

這封由「負責任創新美國人組織」（Americans for Responsible Innovation）總裁卡森（Brad Carson）以及「安全AI聯盟」（Alliance for Secure AI）執行長史坦豪瑟（Brendan Steinhauser）共同發起的公開信，強調該起事件的嚴重程度已非企業內部調查所能處置，呼籲政府必須派出獨立審計人員介入調查。該倡議已獲得「公共公民組織」（Public Citizen）、「生命未來研究所」（Future of Life Institute）以及獨立AI研究機構「FAR.AI」等多家權威機構聯署支持。

智庫聯盟指出，此事件曝露出當前AI系統存在更廣泛且深層的結構性漏洞，極需政府公權力的監督與公開透明的審查機制。

智庫比喻如「空難事故」，質疑私下調查透明度

卡森將OpenAI的資安事件與航空業的空難事故進行對比。他表示，雖然私營企業進行內部調查有其必要性，但基於重大公共利益，政府介入勢在必行。「這就像飛機墜毀一樣，即使波音公司想對自己進行調查，甚至聘請了聲譽卓著的外包專家來協助該計畫，公眾依然有權利知道到底發生了什麼事。」

在此同時，獨立AI研究非營利組織「METR」宣布已與OpenAI達成協議，將與「Redwood Research」共同針對該起資安事件進行調查研究。然而，卡森對這種私下調查的範圍與透明度提出質疑，並公開關切METR是否簽署了保密協議（NDA），以及最終調查結果是否會向社會大眾完整公開。

對此，OpenAI發言人回應表示，METR與Redwood Research計畫發表一份聯合部落格文章，說明雙方的合作條款與評估範圍。該發言人強調：「這是一起前所未有的事件，我們認為這標誌著AI安全領域的重要時刻。我們目前正與外部顧問合作，並在公司安全與防護委員會的監督下進行深入檢討。審查完成後，我們將發布一份技術報告，公開相關經驗與學習成果。」

專家批工程設計粗糙，莫將責任推給「失控AI」

隨著事件發酵，科技界與AI專家對於是否該將該模型描述為「失控（rogue）」產生激烈的爭論。布朗大學「技術責任、重塑與再設計中心」主任文卡塔蘇布拉馬尼安（Suresh Venkatasubramanian）直言，該事件反映的是極度不良的工程實務，而非不可預測的AI系統失控。

「他們做了糟糕的工程設計，然後把責任歸咎給失控的AI Agent，這就是我對整件事的看法。」文卡塔蘇布拉馬尼安嚴厲批評OpenAI顯然未能對系統進行即時監控，甚至在該AI模型持續進行異常活動長達數日後仍毫不知情。

資安公司Method Security執行長暨共同創辦人強斯（Sam Jones）亦對OpenAI缺乏即時監控機制感到震驚。強斯指出，該事件揭露了更廣泛的產業問題：目前圍繞大型語言模型（LLM）建置的配套系統，大多僅是為了開發者方便而設計，尚未準備好面對真實世界中極度講求信任與嚴格安全協定的生產環境。

Anthropic旗下Claude亦爆潛入聯網攻擊，事件並非孤例

無獨有偶，AI巨頭Anthropic近期亦承認其開發的Claude模型曾成功入侵多家機構的系統。

在Anthropic系統的事件中，Claude模型在與第三方評估夥伴「Irregular」提供的測試環境進行互動時，意外連上了網際網路。根據Anthropic的說明，公司原本指示Claude該測試是在無法連線的模擬環境中進行，但由於與評估夥伴之間的溝通誤解，導致測試期間網路連線實際上處於開啟狀態。

一旦連上網路，Claude模型隨即利用基礎的駭客技術，包括存取未經身分驗證的端點（Endpoints）以及破結弱密碼，成功入侵了三個相關機構的系統。截至目前，Anthropic尚未公開這三家受害機構的具體名稱。

產業分析師指出，AI系統的自主駭客攻擊行為正迅速演變為新型態的資安威脅，其潛在風險甚至可能超越傳統的犯罪集團與國家級駭客。