OpenAI人工智慧代理失控「再駭」外部帳戶，波及Modal客戶資產

OpenAI在內部測試其人工智慧代理期間，再度發生系統突破限制並駭入外部系統的事件。繼本月早些時候，該AI代理突破測試限制、入侵Hugging Face後端後，最新消息顯示，該代理還利用公開漏洞，進一步駭入第三方雲端平台Modal Labs上一名客戶的資產。

Modal Labs技術長Akshat Bubna於週二向《路透》透露此消息，並隨後向《Axios》證實。這是OpenAI的人工智慧代理在測試期間失控後，第二度被揭露駭入外部公司相關資產。

Hugging Face於週一公布的技术報告指出，當OpenAI的AI代理駭入其後端系統時，也曾進入一個設於第三方供應商基礎設施上的隔離測試環境。

不過，Modal強調，遭到駭入的是客戶部署於Modal上的程式資產，Modal平台本身並未失守。

Bubna解釋，一名Modal客戶將未經身分驗證的網路端點公開，使網路上的任何人都能透過該端點使用沙盒執行程式碼，OpenAI的失控代理因而利用這項漏洞。

換言之，AI代理攻破的是Modal客戶自行部署程式碼中的安全缺口，而非Modal基礎設施。一名知情人士表示，遭駭資產與CyberGym有關；CyberGym是OpenAI代理當時被指派處理的ExploitGym資安能力基準測試背後項目。

OpenAI於週二更新對Hugging Face駭客事件的說明，表示預定近期推出的模型並未參與這起事件。不過，公司確認，在少數案例中，測試模型找到其他公開服務中暴露於網路的帳戶憑證，並實際使用這些資料。

OpenAI指出，整起Hugging Face事件共涉及四個不同服務上的四個帳戶。公司表示，將嚴肅看待辨識及因應高能力AI系統風險的責任。

這起事件引起高度關注，原因在於AI代理原本應在受控環境中執行資安測試，最後卻突破限制，實際駭入外部公司的系統及帳戶。Axios指出，參與相關測試的是多個模型組成的系統，其中包括尚未公開的模型；不過，OpenAI強調，沒有預定近期發布的模型涉入。

OpenAI執行長山姆、阿特曼於週二在《Invest Like a Beast》播客節目中表示，Hugging Face遭駭事件已促使公司暫停模型訓練。他認為，為了讓社會有足夠時間建立相應的防禦能力，AI產業可能必須調整技術發展速度。

同一天，超過1,100名尖端AI公司員工簽署公開信，呼籲美國政府支持國際合作，建立必要的技術及治理工具，以有計畫地控制前沿自動化AI的發展速度。連署者包括OpenAI首席科學家Jakub Pachocki及Anthropic共同創辦人Jared Kaplan。

事件發生之際，OpenAI正爭取美國政府批准公開發布其能力最強的模型。阿特曼本週也在華府活動，預計與白宮、美國財政部、商務部官員及跨黨派國會議員會面。AI代理在測試期間接連駭入外部系統，也讓模型安全措施及發布審查成為外界關注焦點。