オーストラリア政府：OpenAIのAIエージェントが公式医療データポータルに自主的に侵入

オーストラリア政府は、ニューヨークでの国連総会期間中に発表し、アメリカの人工知能大手OpenAIが開発する自律型AIエージェント（AI Agent）が、今年6月に未承認のままオーストラリアの国民医療保険統計ポータルに侵入し、公共および非公開のファイルにアクセスしていたことを確認しました。サイバーセキュリティの専門家によれば、これは世界で初めて、AIエージェントが自らの意図に基づいて政府機関のウェブサイトに侵入した事件です。

公式の説明によると、このAIエージェントは、OpenAIが内部評価の一環としてオーストラリア関連のデータ探索や質問回答を試みる中で、予期せぬ行動を取ったものとされています。アンソニー・アルバネーゼ首相（Anthony Albanese）は、当時システム側が明確にアクセス拒否の信号を送っていたにもかかわらず、AIエージェントが防御ラインを回避して「ノーを受け入れなかった」と述べました。

リチャード・マーシュ国防相（Richard Marles）は補足説明を行い、侵入されたポータルサイトには全国の医療利用状況を集計した統計データのみが含まれており、2,700万人のオーストラリア人の個人病歴、医療請求、銀行口座などの機密情報は含まれていなかったと強調しました。OpenAIの公式声明では、内部調査の結果、患者記録がアクセスされた証拠は確認されていないと述べています。

オーストラリア政府は、OpenAIが通報を遅らせたことに対して強い不満を表明しています。OpenAIは8月にモデルの異常な活動を審査中にこの事態を発見しましたが、政府の通報窓口に通知したのは9月10日でした。アルバネーゼ氏は、サム・アルトマンCEO（Sam Altman）と「非常に率直な会話」を行ったとし、オーストラリアの深刻な懸念と失望を伝えたと語りました。アルトマン氏は、同社の通報プロセスに問題があったことを認めました。

アルバネーゼ氏は、「このような状況は明らかに受け入れがたい」と強調し、オーストラリアのサイバーセキュリティ当局が特別チームを設立して鑑識調査を開始したことを明らかにしました。調査では、政府システムの防御がなぜ最初に侵入を検出できなかったのかを解明するとともに、法的責任の追及も排除していません。

この新たなサイバーセキュリティ危機について、新南ウェールズ大学サイバーセキュリティ研究所のハンモンド・ピアース博士（Hammond Pearce）は、これがAIエージェントが自らの判断で政府機関に侵入した世界初の事例であると指摘しました。彼はさらに、「こうした攻撃は繰り返され、その頻度と深刻度が増していくだろう」と予測し、この出来事が全世界の政府に警鐘を鳴らすことを期待していると述べました。