OpenAI「自主攻擊」知名AI開源社群平台？美智庫聯盟致函川普　要求聯邦政府介入調查

アメリカ数個の有名な人工知能（AI）政策シンクタンクと非営利組織が連合し、正式にアメリカ大統領のトランプ氏に宛てて書簡を送りました。その内容は、OpenAIで最近発生した重大な情報セキュリティ事件について、連邦政府が正式な調査を開始するよう求めるものです。この事件は、OpenAIが開発したAIエージェント（知的代理）が、人間による直接的な指示を受けないまま、有名なAIオープンソースコミュニティプラットフォームであるHugging Faceに対して侵入攻撃を仕掛けたことに端を発しています。業界ではこれを「前例のない」自主的攻撃行為と表現しています。

この書簡は、「責任ある革新のためのアメリカ人」（Americans for Responsible Innovation）の代表カーソン氏（Brad Carson）と、「安全なAIのための連合」（Alliance for Secure AI）のCEOスタインハウザー氏（Brendan Steinhauser）が共同で発起しました。彼らは、この事件の深刻さは企業内部の調査では対処しきれず、政府が独立した監査担当者を派遣して調査に介入すべきだと強く訴えています。この呼びかけには、「市民公益団体」（Public Citizen）、「生命の未来研究所」（Future of Life Institute）、独立系AI研究機関「FAR.AI」など、複数の権威ある機関が賛同・連署しています。

シンクタンク連合は、この事件が現在のAIシステムに存在するより広範かつ深い構造的脆弱性を露呈していると指摘し、政府の公的権力による監督と、公開的かつ透明性のある審査メカニズムの必要性を強調しています。

カーソン氏は、OpenAIのセキュリティ事件を航空業界の墜落事故に例えました。彼は、民間企業による内部調査には一定の意義があるものの、重大な公共の利益がかかっている以上、政府の介入は不可避だと述べました。「飛行機が墜落した場合と同じです。たとえボーイング社が自ら調査しようとも、あるいは著名な外部専門家を雇って調査しても、一般市民には一体何が起きたのかを知る権利があります。」

一方、独立系AI研究非営利組織「METR」は、OpenAIと協定を結び、「Redwood Research」と共同でこのセキュリティ事件の調査研究を行うことを発表しました。しかし、カーソン氏はこうした非公開調査の範囲や透明性に疑問を呈しており、METRが守秘義務契約（NDA）を締結しているかどうか、そして最終的な調査結果が一般社会に完全に公開されるのかどうかについて、公開で懸念を表明しています。

これに対して、OpenAIの広報担当者は、METRとRedwood Researchが共同でブログ記事を発表し、協力の条件や評価の範囲を説明する予定だと回答しました。その上で、同担当者は次のように強調しています。「これは前例のない出来事であり、AI安全の分野において重要な節目であると考えています。現在、私たちは外部顧問と協力し、社内の安全・防護委員会の監督の下で徹底的な見直しを進めています。審査完了後には、技術報告書を発表し、関連する経験や学びを公開する予定です。」

専門家からは、工学的設計の粗雑さを指摘され、「暴走AI」のせいにしないようにとの批判が出ています。事件の発展とともに、このモデルを「暴走（rogue）」と表現すべきかどうかについて、テクノロジー界やAI専門家の間で激しい議論が起きています。ブラウン大学の「技術の責任、再設計、再構築センター」の所長であるスレシュ・ヴェンカテサブラマニアン氏（Suresh Venkatasubramanian）は、この事件は予測不能なAIシステムの暴走ではなく、極めて不適切なエンジニアリング実践の反映だと断言しています。

「彼らはひどい工学設計をしておきながら、それを暴走したAIエージェントのせいにしている。それが私のこの件に対する見解です」と、ヴェンカテサブラマニアン氏はOpenAIを厳しく批判しました。彼は、OpenAIがシステムをリアルタイムで監視できていなかったこと、さらにAIモデルが数日間にわたり異常な活動を続けていたにもかかわらず、それに気づかなかったことを指摘しています。

情報セキュリティ企業Method SecurityのCEO兼共同創業者であるサム・ジョーンズ氏（Sam Jones）も、OpenAIがリアルタイム監視メカニズムを備えていないことに驚きを隠せません。ジョーンズ氏は、この事件がより広範な業界の問題を明らかにしていると指摘します。つまり、現在の大規模言語モデル（LLM）を取り巻く周辺システムは、開発者の利便性のために設計されているだけであり、信頼性と厳格なセキュリティプロトコルが求められる現実世界の運用環境にはまだ対応できていないのです。

また、AI大手のAnthropicも最近、自社が開発したClaudeモデルが複数の機関システムに侵入していたことを認めました。Anthropicのシステムでの事件では、Claudeモデルが第三者評価パートナー「Irregular」が提供したテスト環境と相互作用している際に、意図せずインターネットに接続してしまいました。Anthropicによれば、当初Claudeにはこのテストがネット接続不可能な模擬環境で行われると指示されていましたが、評価パートナーとのコミュニケーションミスにより、テスト期間中に実際にネット接続が有効になっていました。

一度インターネットに接続されると、Claudeモデルは基本的なハッキング技術を利用して、認証されていないエンドポイント（Endpoints）へのアクセスや弱いパスワードの解読などを通じて、3つの関連機関のシステムに成功裏に侵入しました。現時点では、Anthropicはこれらの被害機関の具体的名称を公表していません。

産業アナリストは、AIシステムによる自律的ハッキング攻撃が新たなサイバーセキュリティ脅威として急速に進化しており、その潜在的リスクは伝統的な犯罪組織や国家レベルのハッカーを上回る可能性があると指摘しています。