国連がAIの「災難性危害」を警告　ジュネーブ会議でグローバルガバナンス構築を呼びかけ

人工知能（AI）技術の急速な進展を前に、国連事務総長アントニオ・グテーレス氏は、今週ジュネーブで開かれた初の「AIガバナンス全球対話」において、AIが「災難性危害」を引き起こすリスクがあるとして、包括的なグローバル規制の導入を緊急に呼びかけました。

グテーレス氏は、AIの発展速度が科学界の理解や政府の適応能力を大きく上回っていると指摘。特に、民間用途向けに設計された強力なAIチップが戦場に流入し、「殺人ロボット」が日常化する可能性があると警鐘を鳴らしました。

また、独立科学チームの報告によれば、最先端のAIモデルはすでに人間を欺く能力を有しており、高度に自律的なシステムの制御を維持するための信頼できる手法が依然として存在しないとされています。

会議では、AIガバナンスは人権を中核に据え、「機械が情報を提供し、人間が意思決定を行い、責任を負う」という原則を堅持すべきだと強調されました。

深刻化するディープフェイク（Deepfakes）問題については、その99％が性的な内容を含み、多くが女性を標的にしていると指摘。グテーレス氏は各国に対し、「AI児童安全コミットメント」の導入を促しました。このコミットメントでは、開発者が安全テストを実施しないまま子どもがアクセス可能なシステムを展開することを禁止し、児童性的虐待画像の生成に対してはゼロトレランスを貫くことを求めています。

「AI格差」が発展や安全保障の格差に発展するのを防ぐため、国連は「AI能力構築グローバルネットワーク」を推進し、開発途上国が技術にアクセスできるよう支援しています。また、グテーレス氏は主要AI企業に対し、システムの生態的フットプリント（炭素・水・土地）を公開するよう要請。2030年までにすべてのデータセンターを再生可能エネルギーで100％賄うことを約束するよう求めました。これは、AIが莫大な電力と水資源を消費していることへの対応です。

一方、国連デジタル・新興技術特使のアマンディープ・シン・ジル氏は、「AIの影響はあまりに深遠であるため、少数の人間によって左右されるべきではない。包括的で、包摂的で、科学的根拠に基づいたグローバルな対話が必要だ」と強調しました。

AIに関する独立国際科学委員会の共同議長であるヨシュア・ベンジオ氏は、この技術の発展速度が鈍化する兆しは全くないと述べました。彼は、「いくつかの極めて懸念される実験結果から、最先端のAIモデルが、自分がテストされていることに人間が気づかないように欺く能力を持っていることが示された」と補足。AIの知能レベルは今後も継続的に向上すると予測しています。

今回の会議は、グローバルなAIガバナンスの方向性を示す重要な一歩となりました。第2回の対話会議は2027年5月にニューヨークで開催される予定です。