DeepMind科学者が怒り辞職、Googleの罪を暴露！米国防総省の軍事AI要求に妥協し安全を無視

元Google（GOOGL-US）DeepMindのAI安全研究員アレックス・ターナーが、今年6月の辞職理由を明らかにする長文を公開し、Googleが米国国防総省（五角大壱）と「制限のない」軍事AI契約を結んだと非難した。また、業界の重鎮たちが重要な局面で沈黙を守ったことも批判している。

ターナーは、事件の発端が今年初めに米国国土安全保障省（DHS）の特殊部隊が街中で民間人2人を射殺した事件だと述べた。

当時、GoogleクラウドサービスがDHSのサプライチェーンの一部であることを知り、強い不安を感じたターナーは、関連協力の中止を求める内部キャンペーンを開始。その後、その関心を五角大壱が主要AI企業に「制限のない」軍事AI契約の締結を強いている問題に拡大した。

ターナーは、こうした契約が締結されれば、これらの企業のAIモデルが致死的自律兵器の開発や、大規模なAI監視ネットワークの構築に使われると懸念している。実際、Anthropicは同様の条項を拒否したことで、サプライチェーンからの排除を脅されたことがあるという。

会社経営陣を説得するため、ターナーは「人間による監視メカニズム」を含む25ページにわたる軍事AI監視枠組みを策定した。この枠組みは、AIが人間のコントロールなしに致命的武器システムや大規模監視に使われることを禁止するものだ。

彼によれば、この提案は軍事・監視法の専門家から高い評価を受け、DeepMindおよびGoogleの研究部門で約250人の従業員が連署に参加した。

しかし、ターナーはGoogle上層部との対話が実質的な進展を見せなかったと指摘する。彼はDeepMindのCEOデミス・ハサビスに直接連絡し、2人の上級政策担当者がこの案を評価すると返答を受けたが、その後のやり取りは停滞し、提案は正式な回答なしに終わったとされている。

ターナーは、Googleのチーフサイエンティストであるジェフ・ディーンに期待を寄せていた。ディーンは2018年に致死的自律兵器に反対する共同声明に署名しており、ターナーは彼が自身の影響力で会社に圧力をかけ、辞職をちらつかせてでも経営陣を説得すると期待していた。

ターナーの話では、ディーンはある程度の行動を取った。たとえば、五角大壱の圧力に抵抗するAnthropicの文書に公開連署したことで、五角大壱がGoogleの立場を警戒するようになったという。

しかし、ディーンは最終的に契約締結を阻止するためのさらなる行動を取らず、ターナーは失望を表明している。

ターナーはさらに、パリで開かれた「国際安全・倫理的AI協会」（IASEAI）の会議で、同協会の会長であるスチュアート・ラッセルやチューリング賞受賞者のヨシュア・ベンジオに、公開支持を求めて直接接触したと述べている。

しかし、ベンジオの事務所からは声明を出さないとの返答があり、ラッセルは会議中には会員全員による投票と声明発表を約束したが、ターナーによれば、会議終了後、この約束は果たされず、以降も彼の連絡に応じなかったという。

Googleの契約締結とその後の論争

ターナーは、Googleが4月末に五角大壱と軍事AI契約を正式に締結したとし、その際、外部には発表しなかったと指摘している。

特に、自律兵器や大規模監視を制限する条項が、法的拘束力のない表現で記載されている点を問題視している。

外部の批判に対して、ハサビスは取材で「AIに関する方針は変わっていない」と述べた。しかし実際には、Googleが2014年にDeepMindを買収した際の合意では、AIを軍事・兵器目的に使用しないと明記されていたが、この条項は2025年2月のAI原則改定で、ハサビスによって削除された。

ターナーは技術面での懸念も提起している。関連AIシステムのサーバーが軍の独立したデータセンターに物理的に設置されているため、Googleはモデルの「思考過程」の監視を実質的に失っていると指摘。軍内部にはAIアライメント訓練の経験を持つエンジニアが常駐していない可能性があり、これは安全上のリスクだと考えている。

ターナーは文末で、契約締結を知った瞬間の衝撃を語り、「信じられない気持ちだった。オフィスに戻ったとき、もはや自分の居場所ではないような気がした」と述べている。

辞職後、ターナーは他の企業に移らず、一時的に業界から距離を置くことを選んだ。彼はこう語っている。「後ずさりしたいと思うたびに、スマホに保存してある写真を見る。DHSの特殊部隊に街中で無実のまま射殺された民間人の写真だ。」