(中央社舊金山30日綜合外電報導)OpenAI表示,已發現並阻止一場協同發起的行動,操作者企圖從AI模型中取得受保護的推理過程,OpenAI指出此行動的核心群組與中國新創公司月之暗面有所關聯。

CNBC報導,OpenAI表示,這起行動始於7月初,隨後在兩天內激增,來自4000多名用戶提出1.6萬次請求。OpenAI最終在1.5萬多名用戶的群組中發現相關活動,並表示已於7月28日完全阻止這場行動。

主要數據 — KEY FIGURES

7月初
這起行動始於7月初
4000多名用戶
來自4000多名用戶提出1.6萬次請求
1.6萬次請求
來自4000多名用戶提出1.6萬次請求
1.5萬多名用戶
OpenAI最終在1.5萬多名用戶的群組中發現相關活動

這項調查結果公布前幾週,OpenAI競爭對手Anthropic才指控包括月之暗面(Moonshot AI)和阿里巴巴在內的多家中國AI開發商,暗中利用Claude模型協助訓練自家AI系統,凸顯美國AI企業日益加劇的擔憂,即競爭對手可能利用其模型,以更快且更便宜的方式開發出具競爭力的技術。

OpenAI將這次最新行動稱為「對抗式蒸餾」(adversarial distillation),也就是利用一個AI模型的輸出或推理結果,協助訓練或改善另一個模型。

OpenAI表示,擷取這類推理過程可能讓其他業者無需投入同等研發與安全維護資源的情況下,複製出先進技術,從而帶來潛在的安全與國家安全風險。

OpenAI表示,這些操作者並未入侵OpenAI的加密系統、資料庫或儲存的用戶對話紀錄。相反地,他們是透過操縱與OpenAI模型的互動,試圖將隱藏的推理歷程轉換為請求者可見的形式並加以複製。

OpenAI表示,目前尚不清楚所有涉入這項行動的操作者是否皆隸屬於單一組織,但OpenAI將這項行動的核心群組歸咎於與月之暗面有關的人員。

根據OpenAI,已透過前沿模型論壇(Frontier Model Forum)及政府資訊共享管道,向其他AI開發商分享相關調查結果。

月之暗面並未立即回應CNBC的置評請求。(編譯: 陳昱婷 )1151001

選擇與事實站在一起,您的每一份贊助,都是守護新聞自由的力量

下載中央社「一手新聞」APP,即時掌握最新消息

本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。

FACT BOX · 重點整理

  • 來源:中央社 CNA
  • 分類:外電編譯報導
  • 相關組織:OpenAI / 月之暗面 / Anthropic