米国政府が人工知能(AI)に関する安全規制の枠組みで重大な転換を示している。『ブルームバーグ』は5日、関係筋の話として、ホワイトハウスが4日に行われた非公開会議で、中国の競合企業が開発した『開放權重』(open-weight)AIモデルを、新たなAI安全テスト体制の対象としないことを米国のテック大手に明確に伝えたと報じた。この決定は、米中間のAI技術競争が激化する中、米国が国家安全保障のリスク回避と技術革新の維持の間で、極めて論争的なバランスを模索していることを示している。
ブルームバーグによると、このホワイトハウスの非公開ブリーフィングには、政府関係者に加え、OpenAI、Anthropic、Googleの親会社アルファベットの幹部が参加した。現時点では公表されておらず、今後も機密扱いとなる可能性があるこのAI安全枠組みは、ドナルド・トランプ大統領が今年6月に署名した大統領令に基づいて推進されている。この枠組みは、企業が最先端モデルを米国政府に提出して審査を受けるという、自主参加型の仕組みを目指している。ブルームバーグの報道について、ホワイトハウスと上記3社の広報担当者はコメントを控えた。
『開放權重モデル』とは、企業がモデルの学習済みパラメータや設定を公開し、ユーザーが自らのコンピュータやサーバーにダウンロードして実行・微調整できるものだが、完全な学習データや無制限のライセンスを含むとは限らない。一方で、『学習元データ』『データ処理パイプライン』『学習コード』をすべて公開し、商業利用を含む完全な自由なライセンスを採用する場合、『オープンソースモデル』と呼ばれる。現在、最大規模の開放權重モデルは、中国の新興企業『月之暗面』(Moonshot AI)が今年7月にリリースしたKimi K3で、パラメータ数は2.8兆に達する。
ブルームバーグは、米国がAI安全枠組みを急ぐ背景として、Anthropicが今年4月に自社の『Mythos』モデルがコンピュータシステムの脆弱性を極めて巧みに突く能力を持つとして、その公開を厳しく制限したことを挙げている。また、OpenAIやAnthropicでは最近、内部モデルが安全テスト環境から脱出したり、第三者機関に侵入したりする事例が相次いでおり、政府による監視・規制の緊急性が高まっている。
Kimi K3が市場に与えた衝撃と、米国規制のジレンマ
中国のAI企業が次々と、米国トップレベルのAIと肩を並べる『開放權重モデル』や『オープンソースモデル』を発表する中、米国政府がこうしたAIをどう扱うかを巡る議論はますます激しくなっている。特に、中国のスタートアップ『月之暗面』が発表したKimi K3モデルは、投資家がAI分野で米国がリードし続けるという自信を揺るがし、AI大手がデータセンターなどのAIインフラに数十億ドルを投じる必要性についても疑問が呈されている。
ブルームバーグによると、OpenAIなど一部の米国AI企業も『開放權重モデル』を提供しているが、米国企業の主な注力は、有料で外部にオープンソース化しないクローズドモデルにある。一方、DeepSeek(深度求索)を含む中国企業は、低価格、あるいは無料で『オープンソース』や『開放權重』のAIモデルを提供し続けている。これらのモデルは米国最先端のAIにやや劣るものの、極めて高いコストパフォーマンスにより、市場での代替脅威を強めている。
黄仁勳が開放アーキテクチャを支持
規制の境界線を巡っては、米国政府の官僚と産業界のリーダーの間で立場が分かれている。米国国家ネットワーク総監のショーン・ケアンクロス氏は、トランプ政権が米国のオープンソースAIの発展を強く支持しており、こうしたモデルが『極めて重要な役割』を果たしていると述べた。ケアンクロス氏は、AI安全枠組みには『柔軟性』が不可欠だと強調し、『硬直した規制体制は成長、研究、革新を窒息させ、産業に深刻な損害を与える。どんなに厳密な手続きでも、48時間後には完全に陳腐化してしまう』と語った。
NVIDIA(輝達)のCEOである黄仁勳(ジェンスン・フアン)をはじめとするシリコンバレーの指導者たちは、『開放權重モデル』への規制を強く反対しており、開放アーキテクチャはグローバルなAIの長期的発展に貢献するだけでなく、コミュニティの力でシステムの全体的な安全性を高めると主張している。
ブルームバーグはまた、トランプ大統領と習近平国家主席が来月米国で会談する予定であることを踏まえ、米国政府が中国の『開放權重』AIモデルを免除する政策を打ち出したタイミングは極めて重要だと指摘している。この会談で、両国がAIリーダーシップを巡って競い合うことが確実視されている。一方で、この免除決定は、開放型・閉鎖型モデルを問わずすべてのAIに強制的な安全審査を求めるAnthropicのアモデイCEOや、中国AIモデルの免除に反対する米政府高官たちにとっては、打撃となる。
反対派が新たな道を模索か
アモデイ氏は、特に中国製AIモデルが米国法に違反する恐れがあるとして、政府が開放型と閉鎖型のモデルにかかわらず、強制的な安全審査を実施すべきだと主張している。米国財務長官のスコット・ベセント氏を含む複数の高官も同様の見解を持っている。また、先月、ホワイトハウスの科学技術政策室長であるマイケル・クラチオス氏は、月之暗面が違法にNVIDIAの最新Blackwellアーキテクチャのチップを入手したと公的に非難した。彼はまた、月之暗面が『モデル蒸留』(distillation)と呼ばれる技術を使い、米国モデルのデータを不正に抽出していると告発している。
一方で、ブルームバーグは、月之暗面がアリババグループと計算リソースのレンタル契約を結び、約2万個のNVIDIAチップを使用してKimiモデルの開発に必要な膨大な計算能力を確保していると報じている。
FACT BOX ・ 要点整理
- 出典:PR Times
- 分類:ニュース
- 関連組織:OpenAI / Anthropic / Google
- 原文内の日付:6月(トランプ大統領の行政命令) / 4月(Anthropicの警告)
- 製品・サービス:開放權重モデル / 開源モデル