下線国際線》ホワイトハウスの極秘文書でClaudeが強制下架！中国AIの開源が米国審査を大転換？程世嘉が語る技術史上最大の囚人ジレンマ

『ブルームバーグ』が最近報じたところによると、米国政府は非公開会議を開き、画期的な決定を下した。すべての米国AIモデルの安全審査を「自動通過」とするもので、これまで先進的すぎてハッカーによる悪用や軍事転用のリスクがあるとして禁止されていたモデルも、すべて解禁された。中国のAIモデルもこの恩恵を受けることになった。iKala（アイカラ）グループ会長の程世嘉氏は、テレビ番組『下線国際線』に出演し、「この変化の背景にあるのは、米国が『開放したい』からではなく、『開放を余儀なくされた』からだ」と断言した。彼はこの状況を「技術史上最大の囚人ジレンマ」と表現した。

程世嘉氏は、中国が戦略的に「開源」を選択したことがこの変化の引き金だと説明する。開源は「基本的に不可逆」であり、モデルの重み（weights）が公開されれば、世界中の開発者がダウンロードし、バックアップや複製が可能になる。一度公開されたものは、後から回収できない。これが典型的な「囚人ジレンマ」の構造だ。双方が「相手が非開源なら自分も非開源」という最適戦略を望んでも、コミュニケーションがなければ、片方が先に行動すれば、もう片方も追随せざるを得ない。

中国がまず「開源」という第一撃を放ったことで、米国は「あなたが開放すれば、私も開放せざるを得ない」という「チキンゲーム」に追い込まれた。程世嘉氏は、この閉門会議には但し書きがあると指摘する。すなわち、「閉源モデルは審査対象、開源モデルは非審査」というルールだ。しかも、審査の基準やプロセス自体も非公開である。

これはある意味で、「開源モデルの審査はもはや意味がない」という現実を露呈している。開発者がモデルを自宅にダウンロードすれば、いくらでも改変でき、当局が追跡しても、すでに世界中に散在しているからだ。

今年6月、米商務省が人工知能企業Anthropicに対し、大規模言語モデル『Claude Fable』の最新版を直ちに販売中止するよう要請した。これは米国ビジネス史上極めて異例の出来事だった。通常、政府が民間企業の製品リリースを直接規制するのは、国家の安全保障が脅かされていると判断された場合に限られる。

程世嘉氏は、米国が当初、閉源モデルを維持していた理由は、商業的利益の最大化にあると分析する。モデルが強力であれば、世界中のユーザーがAPIを通じて有料で利用することになり、企業は価格設定権を握れる。Google、OpenAI、Meta、NVIDIAといった民間企業にとって、これは資本主義の論理に沿った合理的な選択だった。彼らは自ら最先端のモデルを「開源化する」ことは決してしない。政府が強制しない限り。

しかし、AIの軍事応用が進む中で、米国政府は「国家安全保障」の観点から介入せざるを得なくなった。AIが兵器システムと連携すれば、軍事力が飛躍的に向上する。そのため、政府は企業に対し、製品の販売中止を命じるという極端な措置に出た。程世嘉氏は、これを「国進民退」と表現した。かつては中国の政策を批判する文脈で使われた言葉だが、今や米国でも同様の現象が起きているというのだ。

興味深いことに、中国もこの動きを無視していない。程世嘉氏によれば、Claude Fableの下架後、中国側も内部会議を開き、自国のAIモデル輸出政策の見直しを検討したという。米中双方が、相手の次の一手をうかがっている状況だ。彼は、中国は『千問』『GLM』『Kimi K3』といった次世代モデルのリリースを待って、米国の反応を観察した上で、戦略を決定するだろうと予測する。

この「あなたが動けば、私も動く。動かなければ、私も動かない」という極めて機動的な状況は、2024年下半期における世界のAIガバナンスとサイバーセキュリティ政策に、前例のない激しい変動をもたらすだろう。

程世嘉氏は、この問題の根本的な原因は、貿易戦争以降の米中間の「脱構築（デカップリング）」にあると指摘する。両国間にはAIガバナンスに関する直接的な対話チャネルがほとんど存在せず、結果として「互いに不信感を持ちながらも、相手の行動に追随せざるを得ない」という、囚人ジレンマ的な状況に陥っている。グローバルな産業界や投資家にとっては、今後、米中のAI政策のわずかな変化でも、テクノロジー地図の再編につながる可能性があるため、注視が必要だ。

中国のAIスタートアップ『月の裏側（Moonshot AI）』は、新たに大規模モデル『Kimi K3』を発表した。2.8兆パラメータを備え、100万トークンのコンテキスト長をサポートするこのモデルは、世界最大規模の開源モデルとなった。