「AI滅絶人類」警告瘋傳1.5億次 五角大廈高官駁斥：別陷入恐懼循環

Anthropicの元エンジニアが公開した警告——AI業界関係者の間では、「この技術が今世紀中に全人類を死に至らしめる可能性がある」との懸念が広がっている——に対し、数日後、アメリカ国防総省の上級当局者が異を唱えた。

アメリカ国防総省の技術長であり、研究・工学部門の最高責任者であるエミル・マイケル氏（Emil Michael）は、先週木曜日（10日）、ワシントンD.C.で開催された国防産業会議にて、Anthropicの元エンジニア、ジェイコブ・コクソン氏（Jacob Coxon）のソーシャルメディア投稿に言及した。

この投稿の閲覧回数はすでに1.5億回を超え、制御不能なAIシステムが「ディストピア的世界」を支配するという不安を象徴する形となっている。

マイケル氏は、「人々はすぐに“終わりの世界”への連想に陥りやすい。『40％のアメリカ人が失業する』とか、『人類は滅びる』などと考えてしまう。しかし実際には、これはデータセンターに対する恐怖や変化への不安が、うまく書かれた一連のツイートに凝縮されているだけだ」と述べた。

コクソン氏は今週初め、複数の投稿を通じて警告を発した。OpenAIとAnthropicが、自己改善型の超知能の開発競争を繰り広げており、「人間の命を賭けている」と指摘。さらに、「すぐに人間を超えるシステムが登場し、あらゆるターゲットに侵入し、一夜にしてあらゆる分野をひっくり返し、真の権力とリソースを掌握するだろう」と警鐘を鳴らした。

かつてUber Technologiesの上級幹部を務めたマイケル氏は、現在、五角大廈におけるAIの軍事利用加速を主導している。彼は、コクソン氏が提起したAIの潜在的リスクは、自由市場、産業界の協力、そして政府との調整によって緩和可能だと強調した。

アメリカ国防総省によるAIの推進は、Anthropicとの間に激しい対立を生んでいる。両者の主な対立点は、米軍が同社のAIツールを利用する際に、追加的な安全措置を講じなければならないとするAnthropic側の要求にある。

マイケル氏は、かつてAnthropicとの交渉を主導していた人物の一人でもあるが、今年初頭に協議は決裂した。五角大廈は、同社の条件を受け入れることを拒否。これらの制限は軍の権限を侵害すると判断し、Anthropicを米国のサプライチェーンリスク企業として指定した。

この対立は連邦裁判所にまで及んでいる。Anthropicはカリフォルニア州およびワシントンD.C.で訴訟を提起し、五角大廈の指定撤回を求めている。カリフォルニア州の裁判ではAnthropicが勝訴したが、ワシントンD.C.の連邦控訴裁判所ではまだ判決が下っていない。

マイケル氏は、ワシントンD.C.巡回控訴裁判所での案件こそが「より重要」だと主張。仮処分令が発令されていない現状では、Anthropicは依然としてサプライチェーンリスクであると断言した。また、マイケル氏の発言についてのコメント要請に対して、Anthropic側は直ちに応じなかった。

マイケル氏は、Anthropicが意図的に「裁判所選び」を行ったと非難。特に政治的傾向がリベラル寄りとされるカリフォルニア北部地区連邦地裁を選んだことを問題視している。一方で、ワシントンD.C.の巡回控訴裁判所の審理の方が重要性が高く、彼が「国家安全保障を重視する」と評価する司法管轄区域において、今後数か月以内に決定が下されると予測している。

その後、記者団に対しマイケル氏は、国防総省はすでに機密性の高いAIワークロードの約90％をAnthropicから移行済みであり、今月末までに残りの移行を完了する予定だと語った。

彼は、「MavenスマートシステムやPalantir関連のすべての作業は、数ヶ月前にすでに移行が完了している」と述べた。これは、有名な防衛テック企業PalantirのAIプラットフォームを指している。

アメリカ商務長官のハワード・ラトニック氏（Howard Lutnick）が、Anthropicはトランプ政権との「小さな摩擦」を乗り越え、政府と再び歩調を合わせたと発言しているにもかかわらず、マイケル氏は、五角大廈の国家安全保障上のニーズは、連邦政府の他の部門とは異なると強調した。

マイケル氏は、「他部署との問題が解決されたのは喜ばしいことだ」と述べた上で、「しかし我々の立場は一貫して明確だ。戦場の兵士や国家防衛にとって最適な形で、AIベンダーと協力しなければならない」と続けた。

彼は、「つまり、ソフトウェアを使用すると決めたならば、あらゆる合法的目的に制限なく使用できる必要がある」と語った。