Anthropic、最先端AI開発の世界的休止を呼びかけ 制御不能リスクの高まりを懸念

（中央社ニューヨーク4日総合外電）人工知能（AI）新興企業Anthropicは4日、最新モデルが人間の制御を離れる可能性のある兆候を示し始めているとして、最先端AIシステムの開発を世界的に一時停止するよう提案した。

フランス通信社（AFP）が報じたところによると、サンフランシスコに本社を置き、ClaudeシリーズのAIモデルを開発するAnthropicは報告書の中で、世界的に最先端AIの開発速度を落とすことは「良いことかもしれない」と述べた。しかし同社は、単一の企業だけが開発を停止した場合、競合他社が開発を加速させるだけだと警告した。

Anthropicは、休止メカニズムを真に機能させるためには、特に米国と中国の企業を含む複数の主要AI企業が、検証可能なルールに基づいて同期して停止することに同意する必要があると述べた。

「世界的な協調メカニズムがなければ、企業と政府は激しい競争と地政学的圧力の中で、安全性に関わる困難な決断を迫られることになる」としている。

この提案は、業界関係者やホワイトハウス当局者から反発を招いた。彼らはAnthropicが最悪のシナリオに過度に焦点を当て、リスクを誇張しており、実際には安全を名目に競合他社の足を引っ張る戦略だと批判した。

この提案はワシントンとシリコンバレーで大きな障壁に直面する可能性が高い。米国当局者やハイテク業界の幹部は、AI開発を減速させれば、今世紀で最も重要な技術競争と見なされる分野で中国に決定的な戦略的優位をもたらす可能性があると繰り返し主張している。

しかし、トランプ米大統領は、最近の北京訪問中に中国側とAI安全協力の可能性について協議したと述べた。トランプ氏は今週、AI開発者が最も強力なAIモデルを公開する前に、政府による30日間の事前審査を義務付ける大統領令にも署名した。

Anthropicはこの課題を「核兵器管理条約」に例えたが、AIの訓練プロセスはミサイルサイロよりもはるかに隠蔽しやすく、各社が密かに開発を続ける誘惑は極めて大きいため、AIの方が管理が難しいと指摘した。

同社は、今後数ヶ月の間に各国政府関係者、科学者、提唱団体、競合企業を招集し、このようなメカニズムの運用方法について協議する計画だと述べた。

Anthropicによると、内部データはAIが自身の開発プロセスを大幅に加速させていることを示している。この加速はフィードバックループを形成し、最終的には研究者が「再帰的自己改善」と呼ぶ状態、すなわちAIシステムが人間の助けをほとんど必要とせずに自律的に学習し、より賢くなる状態に至る可能性がある。

報告書は「現時点ではまだこの段階には達しておらず、再帰的自己改善が必ず起こるわけでもない」としながらも、このような状況はほとんどの政府や機関が予想するよりも早く訪れる可能性があると指摘。「AI開発プロセスのあらゆる段階で、人間の役割は徐々に縮小していることを示す証拠がある」と述べている。