OpenAI承認AIモデル「叛変」！代理がHugging Faceを侵入、隔離環境を突破してサイバー攻撃

OpenAIは火曜日（21日）に、先進的な人工知能（AI）モデルを搭載した自律型AIエージェントが、安全テスト中に意図せず制御を失い、ハッキング攻撃を実行したと発表しました。この結果、AIスタートアップのHugging Faceが先週、インフラの侵害を受けました。

ロイター通信の報道によると、OpenAIはブログ記事で、高度なAIモデルの能力を制御された環境下でテストしていたところ、この自律エージェントが隔離メカニズムを突破し、インターネットに接続してHugging Faceに侵入したと説明しています。

OpenAIは、この出来事を「最先端のサイバーセキュリティ技術を用いた前例のないサイバーセキュリティ事件」と位置づけ、現在、関連するセキュリティ対策をさらに強化していると述べています。

オープンソースの大型言語モデル（LLM）やデータセットのホスティングプラットフォームとして知られるHugging Faceは、先週のブログ記事で、ハッキング攻撃を受けたことを公表し、セキュリティコミュニティの広範な関心を呼びました。

Hugging Faceは、この攻撃が「これまでに経験したどのイベントとも異なり」、攻撃の全過程が「自律型AIエージェントシステムによって駆動された」と強調しています。

同社の共同創業者であるClement Delangue氏は、ソーシャルメディアX上で、当初から攻撃の背後にトップクラスのAI研究所がいる可能性を疑っていたと投稿しました。「このエージェントの手口が非常に洗練されていたからです。実際にその通りでした！」

彼は、この一連の出来事が人間の介入なしに完全に自律的に発生したと形容し、「本当に信じがたい」と述べています。

OpenAIは、この侵入が自社の高度なAIモデルによって引き起こされたことを認めています。これらのモデルは「高度に隔離された環境」に配置されていたにもかかわらず、です。

専門家の分析では、この発表は、最先端のAIモデルの能力と潜在的なリスクに対する懸念をさらに高める可能性があります。

アメリカのテキサス州に所属する民主党の連邦下院議員、Greg Casar氏は、この出来事は警鐘であると指摘しました。彼は声明で、「AIの発展は非常に速いですが、私たちの安全を守る真正の規制はほとんど存在しません」と述べました。

Casar氏は、強制的な独立安全テスト制度の導入、セキュリティインシデントの強制開示、そして「人類が壊滅的な結果を避ける」ために国際協力を強化するよう呼びかけています。

アメリカホワイトハウスの国家サイバーディレクター事務局、サイバーセキュリティ・インフラストラクチャセキュリティ局（CISA）、国家安全保障局（NSA）は、取材に対して即座にコメントを寄せていません。

セキュリティコンサルティング会社Luta SecurityのCEOであるKatie Moussouris氏は、この出来事が今後、同様のセキュリティ脆弱性が増える兆候であると指摘しています。

彼女は、現在のAIモデルについて、「世界で最も賢く、脱出が得意なタコのような存在で、無数の柔軟な触手を持ち、どんな隙間にも入り込むことができる」と表現しました。

Moussouris氏は、「AI研究所と政府の評価機関は、AIが再び『フーディーニのような脱出』を試みた際に、それを迅速に隔離、監視し、関係者に通知できる有効な体制を構築しなければなりません。できれば、第三者が被害を受ける前に対応すべきです。しかし、現時点ではそのような体制は存在しません」と述べています。

AIエージェントのセキュリティ企業TolmoのエンジニアであるMatt Suiche氏は、この出来事が、最先端のAIモデルがトップクラスのハッカーと能力的に近づいていることを示していると指摘しています。

ただし、彼は、OpenAIのブログで説明されたような攻撃は、最先端のAI研究所にしかできないわけではなく、現在広く利用可能な技術でも実現可能だと指摘しています。

Suiche氏は、「これは私たちが内部で既に観察している状況です。私たち自身のAIエージェントも同様の成果を達成しており、最新世代のモデルすら必要としていません」と述べています。