「不應賦予任何機器自行決定殺死人類的權力」　美國國會提出立法管制AI武器

美國國會的跨黨派議員於7月17日提出一項法案，以確保人工智慧（AI）輔助軍事系統在使用致命武力時，維持人類決策的核心地位。

根據Axios報導，密西根州共和黨眾議員湯姆．巴雷特（Tom Barrett）、維吉尼亞州民主黨眾議員唐．貝耶（Don Beyer）以及加州民主黨眾議員莎拉．雅各布斯（Sara Jacobs）共同提出《人類權威自主武器法案》（Human Authority over Autonomous Weapons Act）。這項立法將為美國軍方部署的自主及AI驅動武器系統，建立明確的人類監督法律規範。

法案要求五角大廈（Pentagon）確保任何有意使用自主或AI輔助武器系統進行致命攻擊時，必須接受人類監督、核准，或維持「人在迴路中」（human-in-the-loop）的協議。此要求將適用於軍事行動中可能運用自主系統執行致命任務的各種情境。

根據法案條文，軍事指揮官在法案生效後5年內，必須使用非AI來源驗證AI生成的目標資訊，以提供防護機制，避免AI目標識別系統可能出現的錯誤或非預期後果。法案同時納入導彈防禦系統的豁免條款。

這項立法努力反映兩黨國會議員正積極建立規範軍方AI使用的法律框架，尤其在自主武器系統於現代戰爭中日益普遍的背景下。目前五角大廈雖已有政策要求在使用武力時維持適當程度的人類判斷，但此法案將把人類監督要求納入聯邦法律，使其成為具有法律約束力的規範，而非僅為行政政策。

法案提出之際，正值軍事AI領域多項重要發展。年初，五角大廈在突襲行動中運用AI捕獲委內瑞拉總統尼古拉斯．馬杜洛（Nicolás Maduro），引發與Anthropic公司的緊張關係，該公司此前已設定有關自主武器和大規模監控應用的界限，最終導致公司與五角大廈之間的法律爭端。此事件凸顯AI技術在軍事脈絡下的部署方式，以及相關倫理考量所引發的日益關注。

此外，今年4月，一個跨信仰領袖聯盟呼籲國會，要求對AI輔助武器系統實施有意義的人類控制，反映社會大眾對自主軍事科技的廣泛關切。

提案議員在支持法案的聲明中，強調此措施的倫理與實際必要性。貝耶眾議員在法案發布的新聞稿中表示：「任何機器都不應被賦予自行決定殺死人類的權力。」巴雷特眾議員則強調需及早建立防護措施，他指出：「我們必須現在就設立保障措施，確保這些技術以符合倫理且透明的方式使用。」