華爾街日報》失控模型與中國威脅：華盛頓陷入AI安全大恐慌

同時に、AI主導権をめぐる巨頭暗戦が進行しています。OpenAIは先週、自社のAIモデルが制限を突破し、別のテクノロジー企業のシステムに侵入したと明らかにしました。これにより、技術がSF作品の悪役のようになる可能性が現実的なものとなりました。さらに、中国のAI競争相手が新しい無料モデルを発表し、これらのモデルはAnthropicなどの企業が開発した高価なモデルを基に訓練されたとされています。これは中米の地緣政治博弈に新たな戦線を開きました。訂閱「風伝媒 × 华尔街日报」VVIP、限定贈呈 Tokuyo 智慧体脂计 TM-420（市价 NT$6,980） ☛ 立即订阅，享限量好礼｜送完为止 トランプ政府は、6月2日の行政命令に基づく機構の実施期限に直面しています。この命令は、これらのシステムがますます強力になっているという懸念から生まれました。これらの出来事が短期間に続き、ワシントンが行動を起こす圧力を高めています。業界の多くの人々は、どのような行動を取るにせよ、急いで行動すればイノベーションを阻害したり、特定の参加者に不公平な競争優位性を与えたりする可能性があると懸念しています。これまで数年間、最大のAI企業は、強力な技術にフェンスを設けるために規制を制定することを積極的に呼びかけてきました。彼らは、ネットワークセキュリティ、生物学的脅威、その他の高リスク分野で災害が発生するのを防ぐために、これが必要だと考えています。これらの予言を信じない人々にとって、この姿勢は嗤われるものです。しかし、技術の進歩とともに、彼らの呼びかけは批判を招いています。批判者たちは、彼らは真に望んでいるのは、自身の利益のために規則を書くことであり、より小さな競争相手の利益を犠牲にすることだと言います。すなわち、「規制捕獲」です。それでも、数日前に、AIのリーダーたちが珍しく統一戦線を形成し、ようやくワシントンDCで進展を遂げるようです。7月14日、GoogleのDeepMind共同創設者のデミス・ハサビスは、AI標準機構の設立を提案しました。この機構は、証券ブローカーを監視する自律組織に倣っています。資金は業界から提供され、取締役会には技術専門家とオープンソース代表が含まれます。「大きな不確実性がある場合、重要な問題に直面している場合、慎重に楽観的に進むことは賢明で正しい戦略です」とハサビスは書いています。「これは、公共政策がイノベーションを促進し、責任と安全を促進し、重要な安全問題について国際協力を促進し、AIを社会の利益に役立てる方法について慎重に考慮することを要求します。」このノーベル賞受賞者はAI分野で尊敬されるスーパースターです。しかし、アメリカでは彼の公的な知名度は低く、同僚たちはアメリカでより論争的な人物になっています。この提案を発表する前に、ハサビスは競争相手の間でこのアイデアを支持するために努力していました。この努力は効果を上げたようです——最終的な同盟の構成は少し予想外でした。イーロン・マスクはハサビスの提案を「全体としては深く考えられたフレームワークであり、議論の良い出発点である」と評価しました。OpenAIのCEOであるサム・アルトマンはXプラットフォームで類似の内容を投稿しました。「これはデミスからの深く考えられた提案です。」今、この2人が何かで意見が一致するのは難しいでしょう。数年前、GoogleがDeepMindを買収した際に、アルトマンとマスクは共同でOpenAIを設立しました。その後、2人は反目し、激しい競争相手になりました。それでも、規制問題では、敵の敵は友達です。マスクは先週経済学人誌（Economist）でのインタビューで説明したように、「技術を理解していない人、AIの最前線を推進していない政府関係者にとって、ある技術を公開すべきかどうかを知るのは難しい。しかし……すべての競争相手は、敵が正直であるように動機付けられている。」ハサビスの提案が発表された後、ブルームバーグニュースの記事が、アメリカ財務長官のスコット・ベッセントが類似の提案を準備していることを示唆しました。しかし、彼らは突破しようとしているように見えた時、事態はさらに複雑になりました。火曜日（7月21日）の夜、OpenAIは自社のモデルがオープンソースAIツール会社のHugging Faceに侵入したと明らかにし、国会山を震撼させ、迅速に各方面からの反応を引き起こしました。「AIの発展は非常に迅速ですが、私たちの安全を保障する真の規制はありません」と、テキサス州選出の民主党下院議員グレッグ・カサールはOpenAI侵入事件について述べました。「この状況は変わらなければなりません。」先週木曜日に提出された両党合意の法案が注目を集めています。この法案は、AIメーカーに政府がいわゆる「終了スイッチ」を使用できる機能をシステムに追加することを求めています。「支配権は人間の手にあるべきで、機械の手にはありません。AIが制御不能になった場合、人間はそれをオフにする能力を持つべきです」と、法案の提案者の一人であるカリフォルニア州選出の民主党下院議員リウ雲平は先週木曜日にソーシャルメディアで投稿しました。テクノロジー業界の一部の人々は、OpenAIが規制法規を自分の意のままに形作ろうとしていると疑っていました。彼らにとって、この声明は少し偶然すぎるように見えました。著名なAI研究者ティムニット・ゲブルはLinkedIn上で、OpenAIのこの主張は「トップレベルの宣伝」だと指摘しました。伝説的なベンチャーキャピタリストのビル・グーリーは自身のソーシャルメディア投稿でさらに率直でした。「もしOpenAIがHugging Faceに対する侵犯の方法が『新規制の導入を要求する』のであれば、まず正式な刑事調査から始めましょう。正規の第三者調査を導入し、実質的な法的責任を負うべきです。」各方面が対立する中、トランプ政権が中国モデルからの脅威にどう対応すべきか悩んでいることが見えます。ベッセントは声明を発表し、中国のAIに貿易制限が課される可能性を示唆しました。これはテクノロジー業界の一部の著名人からの抵抗を招き、彼がAnthropicのために働いていると主張する人もいました。金曜日に、複数のテクノロジー巨頭が公開書簡を発表し、AIモデルのオープン化を提唱しました。この立場は彼らのビジネスに役立ちます。マイクロソフトのCEOサティア・ナデラとNVIDIAのCEO黄仁勲もX上でこの問題に応答しました。実際、これは黄仁勲がこのような話題でX上で投稿する初めての機会でした。前白宮AI主任のデビッド・サックスは、オープン重みモデルに対する「恐慌」を止めるよう呼びかけました。これらのモデルは誰でも無料でダウンロードして使用できます。「トランプ大統領の軽度の規制アプローチは効果を上げています」と彼はXプラットフォーム上で投稿しました。「私たちはアメリカのイノベーションを信頼すべきです。不必要な規則に縛られなければ、アメリカは引き続き勝利を収めるでしょう。」皮肉なことに、これらのテクノロジー企業は皆、この急速に発展する技術の最前線に立とうとしていますが、彼らは伝統的な企業と同じものを望んでいます：予測可能性。しかし、AI時代には、誰もそれを掌握できていません。