OpenAI AIエージェント「制御不能」範囲拡大！Hugging Face遭駭事件がグローバルな規制圧力を引き起こす

複数の情報筋が金曜日（31日）に明らかにしたところによると、OpenAIは今月話題となったHugging Faceへのサイバー攻撃事件の調査を拡大する中で、他のAI自律エージェントが設定された制御環境から脱出していた事例を新たに発見したという。

ロイター通信の報道によれば、これらの新たな「制御逸脱」事例は、OpenAIが公開して調査を進めているAIエージェントが、今月制限されたテスト環境から脱出した経緯を調査する過程で発覚した。現在、OpenAIはこうした追加事象についても調査を進めている。

情報筋の一人は、これらのAIエージェントの逸脱は「規模が限定的」であり、現時点でOpenAIのネットワーク環境から完全に抜け出したエージェントは存在しないと述べた。

OpenAIの広報担当者は、最近発表された声明を引用し、Hugging Faceへの侵入事件の調査に加えて、「モデルのより広範な活動状況」を検証していると説明した。

注目すべきは、OpenAIが発見した異常行動の規模が限定的であっても、自律型AIエージェントの「制御不能」が発生しているという事実が、ホワイトハウスや各国政府によるAI規制強化の声をさらに高めている点だ。

複数の情報筋によると、OpenAIが調査を拡大した時期は、主要な競合企業であるAnthropicが自社のモデルが一連の侵入事件に関与していたことを公表する直前だったという。

AnthropicのAIモデルは複数の企業への不正アクセスを引き起こし、少なくとも3社が攻撃を受けた。これらの事象は今年4月にさかのぼるという。

AIセキュリティの専門家は、今回明らかになった事象が、最先端のAI研究機関が危険な自律的ハッキング能力を持つAIエージェントを開発するスピードに対して、それらを適切に管理・制御する能力が追いついていないことを示していると指摘している。

ケンブリッジ大学「生存リスク研究センター」の数学者、モーリス・キオド氏は、「我々が直面しているのは産業全体の問題だ。これらのツールを開発・設計・展開している人々が、責任ある形でシステムを構築できていない。安全性を確保する体制も整っていない」と述べた。

ロイターは、OpenAIの調査チームがどの程度の事象を確認したか、またそれらがいつ発生したのか、具体的な状況については確認できていないと伝えた。

3人の情報筋によれば、OpenAIと外部の専門家は今年早々のシステムログを現在検証中であり、事件の経緯を解明しようとしているという。

OpenAIの調査は、7月初旬のHugging Faceへの侵入事件を契機に始まった。当時、OpenAIのAIエージェントが他の企業のネットワーク内で数日間にわたり制御不能な状態で動作し、不正な方法で内部テストを通過しようとした。最終的には攻撃は失敗に終わったが、その過程で複数の企業が影響を受けた。

OpenAIは、この侵入活動中に、他の4社のアカウントも不正アクセスされたと発表している。そのうちの1社はニューヨークに拠点を置くクラウドコンピューティングのスタートアップ企業Modalであり、同社の経営陣が事実を確認している。

キオド氏は、より深刻な懸念として、OpenAIとAnthropicの両社がAIエージェントの制御不能時の行動をリアルタイムで監視できていない兆候があると指摘した。

ロイターの過去の報道によれば、OpenAIはHugging Faceが事態を制御し、FBIに連絡し、公開声明を出すまで、自社のAIエージェントが他社システムに侵入していたことに気づいていなかったという。

OpenAIはロイターの報道に不正確な点があると反論したが、具体的にどの部分が誤りかについての説明は行っていない。

一方、Anthropicは最近の声明で、自社のAIエージェントがどのようにネット上で被害者を攻撃したかを初めて明らかにした。同社はリアルタイム監視が行われていなかったことを示唆し、「リアルタイムで評価ログを監視できていたなら、問題をより早く発見できたかもしれない」と述べた。

キオド氏は、これはAI企業における安全監視の不備を示しているとし、「どうやら彼らはそもそも監視していなかったようだ」と語った。

Anthropicは、リアルタイム監視の仕組みは存在していたが、パートナーとの理解のズレにより、「このような脅威シナリオ」には適用されていなかったと説明している。

自律型AIエージェントの制御不能事件の調査が急速に拡大する中、米国やヨーロッパの議員・政府関係者から、AIモデル開発企業に対する政府の規制強化を求める声が高まっている。

ドナルド・トランプ米大統領は木曜日（30日）の記者会見で、「我々は関連する管理措置を検討している」と述べた。

欧州委員会は金曜日に、最近の一連のAIハッキング事件について、OpenAIおよびAnthropicと協議を始めたと発表した。

米国上院情報委員会の首席民主党議員であるマーク・ウォーナー氏は金曜日、「Anthropicの事件は、立法的に先進的なAIモデルに対して強制的な能力テストを求めることが正しいと、さらに確信を持たせてくれた」と語った。