AI又失控？繼Hugging Face之後，OpenAI代理人入侵澳洲健保網站

OpenAI旗下研發的「AI代理人」（AI Agent）傳出入侵澳洲公共衛生服務官網，讓現任總理艾班尼斯（Anthony Albanese）非常不滿，甚至當面告知公司執行長奧特曼（Sam Altman）這個事情。根據BBC等外媒報導，AI代理人這次行動先是攻破澳洲健保網站的防火牆，進入系統內部存取公開及非公開檔案。 艾班尼斯對媒體表示，OpenAI旗下一個AI代理人在6月突破澳洲健保統計報告服務（Medicare）網站防線，「這種情況令人無法接受！」面對此一失控的突發事件，OpenAI一直到入侵發生數月後，8月才在內部評估中發現這個問題並向澳洲政府報告。 澳洲總理不只對機器人失控不開心，他也對OpenAI的處理效率非常不滿意，根據他的說法，該企業最早是在9月10日，向一個公開電子郵件信箱發送郵件，後面又多花5天時間，才聯繫上澳洲網路安全部門開始處理。 2025年5月3日，澳洲總理艾班尼斯宣布勝選。（美聯社） 雖然不是第一起AI代理人入侵網站，此番卻是第一次公開報導的AI代理人（能根據人類指令獨立執行複雜任務的軟體）入侵政府網站事件，恐怕會加劇外界對這門新科技，是否會邁向脫離人類控制的境地。 面對自家機器人失控，OpenAI表示，入侵澳洲健保網站的AI代理人，「採取我們無法預料發生的行動」。報導則提到，該公司是在7月底當AI代理人入侵開源平台Hugging Face後，開始對內部訓練演練中的代理人，進行一系列行為審查時發現問題。 先前發生的Hugging Face入侵事件，經過調查發現，有數百個OpenAI系統內部的AI代理人涉及，它們在試圖完成一項網路安全測試時，趁機取得存取權，並入侵該公司系統，而事後OpenAI花了一週多時間才發現異常。 輝達開出130億美元高價收購AI模型平台Hugging Face。（翻攝自平台官網） 澳洲情報機構已介入調查，接下來要擴大確認，是否還有其他政府系統受到影響。艾班尼斯則表示，目前顯示多數政府服務網路未受深層破壞，相信沒有個人隱私資訊被外洩。 澳洲副總理兼國防部長馬爾斯（Richard Marles）則對媒體表示，聯邦與州級的多個系統（包括健康與犯罪統計）都有被非法存取，在他看來這是一個「非常嚴重的事件」，只不過影響相對輕微。當被問及澳洲是否會起訴或懲罰OpenAI時，這位副總理表示，政府會先確認此事是否有觸犯法律。