華爾街日報》AI最新的駭人里程碑：生成新病毒

最近幾週，人工智慧（AI）系統展現出了一些驚人的新能力：突破封閉環境、駭入其他公司、向人類撒謊。如今，一個AI模型首次創造出了一種新病毒。確切地說，是創造出了一個完整的病毒家族。

在一項發表於《科學》（Science）期刊的研究中，史丹佛大學（Stanford University）及其他機構的研究人員表示，他們成功引導一個AI模型創造了一組簡單的病毒。這些病毒只感染細菌，對人類不構成威脅。

該研究的兩名作者在接受採訪時表示，這項研究有助於開發訂製病毒，用於消滅耐藥細菌。根據世界衛生組織（World Health Organization）的數據，這類細菌每年導致數百萬人死亡。

「只要我們負責任地進行開發，我認為這能為人類健康帶來巨大的福祉，」史丹佛大學計算生物學家、該研究的作者之一布萊恩、海耶（Brian Hie）說。

這項研究記錄的實驗大約在一年前就已結束，其發表正值人們對日益強大的AI模型所帶來的危險感到高度焦慮的時刻。自7月中旬以來，OpenAI、Anthropic和Meta Platforms相繼披露了多起事件：他們的模型逃出了受控環境，不僅連上了網路，還駭入了其他公司的電腦。Anthropic的Mythos實施了欺騙行為，OpenAI的模型甚至在一個秘密留言板上交流心得。

利用聊天機器人或智能體來開發致命病原體的潛在風險，長期以來一直是AI安全專家的一大隱憂。《華爾街日報》（The Wall Street Journal）先前報導稱，去年ChatGPT升級版發布後，數百人曾向這款聊天機器人詢問如何製造生物武器和毒藥，它在回覆中提供了指導，生物學和恐怖主義專家認定它提供的指導是準確的。

專家們表示，史丹佛大學團隊的研究不會構成迫在眉睫的安全風險。這項技術不太可能立刻被用於製造感染人類的病毒。那些病毒比本次實驗中合成的病毒要大得多，也複雜得多。

「一聽到病毒是AI生成的，很多人都會感到恐懼，」冷泉港實驗室（Cold Spring Harbor Laboratory）的計算生物學家Peter Koo說。「但人類病毒是完全不同的。」

史丹佛大學研究生、該研究的作者之一塞繆爾、金（Samuel King）表示，該團隊旨在更深入地了解構成地球上所有生命的DNA序列。「正是這些序列造就了我們周圍所有美麗的生物多樣性，」金說。

科學家們與位於加利福尼亞州帕洛阿爾托的研究機構弧形研究所（Arc Institute）合作，共同開發了用於這項研究的AI模型。像ChatGPT這樣面向消費者的聊天機器人基於大語言模型，通過分析文本中單詞之間的數學關係來生成新的文本串。與此類似，他們名為Evo 1和Evo 2的模型則是通過對基因序列進行訓練，從而預測下一個DNA鹼基。出於安全考慮，他們只使用無法感染人類的病毒DNA對這些模型進行了訓練。

金說，他們想看看AI對DNA的理解是否足夠深入，從而捕捉到基因組中需要協同運作的所有複雜組成部分。結果發現，AI確實能做到。

研究人員利用他們的模型，以模板病毒為基礎生成基因組，隨後合成DNA，並將AI生成的病毒植入細菌細胞中。如果細菌細胞死亡，就說明病毒起作用了。他們測試了大約300種這樣的設計。

一天夜裡凌晨3點左右，他們觀察到其中一種病毒成功複製，並感染、殺死了細菌細胞。「我們當時非常高興，」金說。最終，他們有16種病毒被證明有效。

計算生物學和生物安全領域的獨立專家表示，這項研究是該領域的一項重大成就。麻省理工學院（Massachusetts Institute of Technology）副教授凱文、埃斯維爾特（Kevin Esvelt）說，這是首次有人利用生成式AI來重新設計病毒。

他說，也許有一天，有人會使用類似方法製造出病毒蛋白或病毒本身，這些病毒會感染人類，並逃避疫苗保護或自然免疫反應。

「這種工具將讓人們能夠創造出像新冠那樣的新變種，這些變種會大肆傳播並感染大多數人，」埃斯維爾特說。「那將是一場災難。我們絕不能這麼做。」

海耶表示，就目前而言，對於潛在的生物恐怖分子來說，從現有的很多100%致命的病原體中挑一種來製造要容易得多。「如果我是一個試圖設計病原體或搞破壞的壞人，我不會使用AI，」他說。