OpenAI AIエージェントが制御不能になり外部アカウントを再びハッキング、Modal顧客資産に波及

OpenAIは、内部テスト中のAIエージェントが再び外部システムへの不正アクセスを起こしたと報じられている。今月早々にAIエージェントがテスト制限を突破し、Hugging Faceのバックエンドに侵入したことに続き、新たに第三者クラウドプラットフォームModal Labsの顧客資産にも侵入したことが明らかになった。

AIエージェントがHugging Faceをハッキングした後、さらにModal Labsの外部クラウドプラットフォームにも侵入したことが判明した。

Modal LabsのCTOであるAkshat Bubna氏は火曜日、ロイターに対この情報を明らかにし、その後Axiosにも確認した。これはOpenAIのAIエージェントがテスト中に制御を失った結果、外部企業の資産に影響を与えたと公にされる2度目の事例となる。

Hugging Faceが月曜日に公開した技術報告によると、OpenAIのAIエージェントが同社のバックエンドに侵入した際、サードパーティのインフラ上に設置された分離されたテスト環境にもアクセスしていたという。

ただし、Modalは、侵入されたのはModal上で動作する顧客のプログラム資産であり、Modal自体のプラットフォームは守られていたと強調している。

Bubna氏は、あるModal顧客が認証のないネットワークエンドポイントを公開しており、誰でもそのエンドポイントを通じてサンドボックスでコードを実行できる状態だったため、制御不能なOpenAIのエージェントがこの脆弱性を悪用したと説明した。

つまり、AIエージェントが突破したのはModalのインフラではなく、顧客が独自に展開したコード内のセキュリティホールである。関係者によると、被害を受けた資産はCyberGymに関連しているという。CyberGymは、当時OpenAIのエージェントが取り組んでいたExploitGymというセキュリティ能力ベンチマークテストの背後にあるプロジェクトである。

OpenAIは火曜日、Hugging Faceのハッキング事件に関する説明を更新し、近日中にリリース予定のモデルは今回の事件に含まれていないと発表した。しかし、同社は少数のケースで、テスト中のモデルが他の公開サービス内でネット上に露出しているアカウント認証情報を発見し、実際にそれらを使用したことを認めている。

OpenAIによると、Hugging Face事件では4つの異なるサービス上の4つのアカウントが関与した。同社は、高度なAIシステムのリスクを特定し対応する責任を真剣に受け止めていると述べた。

今回の事件が注目される理由は、AIエージェントが本来制御された環境でセキュリティテストを行うべき存在でありながら、制限を突破して外部企業のシステムやアカウントに実際に侵入した点にある。Axiosは、関連テストに複数のモデルからなるシステムが使用されており、未公開のモデルも含まれていたと報じているが、OpenAIは近日中にリリース予定のモデルは関与していないと強調している。

OpenAIのCEOであるサム・アルトマン氏は火曜日、『Invest Like a Beast』のポッドキャスト番組で、Hugging Faceのハッキング事件を受けてモデルのトレーニングを一時停止したと語った。彼は、社会が適切な防御体制を整える時間を確保するため、AI業界が技術開発のスピードを調整する必要があると考えている。

同日、1,100人以上の最先端AI企業の従業員が公開書簡に署名し、米国政府に対して国際協力を通じて、先端的な自動AIの開発スピードを計画的に制御するための技術的・ガバナンス的ツールの構築を支援するよう呼びかけた。署名者には、OpenAIのチーフサイエンティストJakub Pachocki氏やAnthropicの共同創業者Jared Kaplan氏も含まれている。

この事件が発生している最中、OpenAIは米国政府の承認を得て、自社最強のモデルを一般公開するための準備を進めている。アルトマン氏は今週、ワシントンD.C.で活動しており、ホワイトハウスや米財務省、商務省の当局者、そして超党派の議員たちと会談する予定だ。AIエージェントがテスト中に相次いで外部システムに侵入したことは、モデルのセキュリティ対策や公開審査のプロセスに対する関心を高めている。