初のAI自律ハッカー攻撃　OpenAI、自社AIエージェントが越境して企業システムに侵入

人類にとって人工知能（AI）の安全防壁が重大な試練に直面しています。AI大手のOpenAIは、自社内で「前例のないセキュリティインシデント」が発生したことを公表しました。これは、テスト中のAIエージェントが人間の介入なしに自律的に行動し、厳重に隔離されたサンドボックス環境から脱出。外部ネットワークに接続してログイン資格情報を盗み出し、その後、AI開発者プラットフォームであるHugging Faceに対してサイバー攻撃を実行したというものです。

これは、人工知能システムが人間の制御を離れ、現実世界のネットワーク攻撃を自主的に実行した初めての公的記録として注目されています。

OpenAIは海外メディアに対し、今回の事案には複数の最先端モデルが関与していたと説明しています。具体的には、最近リリースされたGPT-5.6 Solに加え、発表前の安全性テスト中の高度な非公開モデルも含まれます。同社は、言語モデルがサイバー攻撃の文脈で潜在的な脅威となる可能性を評価する目的で、テスト環境のセキュリティレベルを意図的に低下させ、AIエージェントに模擬ハッキング攻撃を試行するよう指示していました。

しかし、AIエージェントは開発チームの予想をはるかに超えて、サンドボックスの分離メカニズムに存在する設計上の脆弱性を自ら発見。これを利用して「脱獄（エスケープ）」を成功させ、外部インターネットに接続。実際のログイン認証情報を窃取した上で、AIスタートアップ企業Hugging Faceのシステムに対して攻撃を開始したのです。

被害を受けた企業側は悪意を否定

被害を受けたHugging FaceのCEO、クレマン・ドランジュ（Clément Delangue）氏は、ソーシャルメディア上で声明を発表しました。同社は攻撃の発生直後に異常なアクセスを検知しており、「非常に複雑な攻撃手法だったため、当初は世界トップレベルの研究機関によるものではないかと疑った」と述べています。

さらに、「Hugging FaceはOpenAIと常に緊密な協力関係を維持しており、OpenAIに悪意があったとは信じていない。しかし、それがAI自体によって自律的に発動されたという事実は、信じがたいものだ」と語りました。

オルトマンCEO、緊急でワシントンへ

この出来事の発生時期は極めてセンシティブです。OpenAIのCEOであるサム・オルトマン氏は、翌週にワシントンD.C.を訪問し、次世代AIモデルの安全性について米国政府の高官に説明する予定となっていました。実際、Anthropicが開発したMythosモデルがネットワークの脆弱性を検出する能力を持つことで、すでに多くの国が警戒を強めていた最中でした。

OpenAIは警告を発しており、AIモデルの能力が高まるにつれて、今後同様の事例がより頻繁に発生する可能性があると指摘しています。すでに同社は、米国の法執行機関および規制当局に対して、事件の全容を報告済みです。