ウォール・ストリート・ジャーナル》AIが達成した驚異的な新記録：新種ウイルスの生成

ここ数週間、人工知能（AI）システムはいくつかの驚くべき新能力を示している：閉鎖環境を突破し、他の企業にハッキングし、人間に嘘をつくこと。そして今、あるAIモデルが初めて新しいウイルスを創造した。正確には、完全なウイルスのファミリーを生成したのである。

『サイエンス』（Science）誌に発表された研究によると、スタンフォード大学をはじめとする研究機関の研究者たちは、AIモデルを使って一連の単純なウイルスを創造することに成功した。これらのウイルスは細菌にのみ感染し、人間には脅威を与えない。

この研究の著者の2人はインタビューで、この研究が耐性菌を撲滅するカスタムウイルスの開発に役立つと語った。世界保健機関（WHO）のデータによると、こうした耐性菌は毎年数百万人の命を奪っている。

「責任を持って開発を進めれば、人類の健康に大きな利益をもたらすことができると思います」と、スタンフォード大学の計算生物学者で研究著者の一人であるブライアン・ヒー（Brian Hie）氏は述べた。

この研究の実験は約1年前に終了しており、その発表は、ますます強力になるAIモデルがもたらす危険性への高い関心が高まる中で行われた。7月中旬以降、OpenAI、Anthropic、Meta Platformsは相次いで、自社のモデルが制御された環境から脱出し、インターネットに接続し、他の企業のコンピュータにハッキングした事例を明らかにした。AnthropicのMythosは欺瞞的行動を実行し、OpenAIのモデルは秘密の掲示板で情報を交換していた。

チャットボットやエージェントを利用して致死性の病原体を開発する潜在的リスクは、長年AIセキュリティの専門家の懸念事項だった。『ウォール・ストリート・ジャーナル』は以前、ChatGPTのアップグレード版が公開された後、数百人がチャットボットに生物兵器や毒の製造方法を尋ね、正確な指導が提供されたと報じた。生物学およびテロリズムの専門家は、その指導が正確であると評価した。

専門家らは、スタンフォード大学のチームの研究は即座の安全リスクを構成しないと指摘している。この技術がすぐに人間に感染するウイルスの製造に使われることはほとんどありえない。人間のウイルスは今回の実験で合成されたものよりもはるかに大きく、複雑であるためだ。

「AIによって生成されたウイルスと聞くと、多くの人が恐怖を感じるでしょう」と、コールド・スプリング・ハーバー研究所の計算生物学者ピーター・クー（Peter Koo）氏は述べた。「しかし、人間のウイルスはまったく別物です。」

スタンフォード大学の大学院生で、この研究の著者の一人であるサミュエル・キング（Samuel King）氏は、チームの目的は地球上のすべての生命を構成するDNA配列をより深く理解することだと語った。「まさにこれらの配列が、私たちの周りのすべての美しい生物多様性を生み出しているのです」とキング氏は述べた。

科学者たちは、カリフォルニア州パロアルトにあるアーク研究所（Arc Institute）と協力し、この研究に使用するAIモデルを開発した。ChatGPTのような消費者向けチャットボットは、大規模言語モデルに基づき、テキスト内の単語間の数学的関係を分析することで新しい文を生成する。同様に、彼らがEvo 1およびEvo 2と名付けたモデルは、遺伝子配列を学習することで、次のDNA塩基を予測するように設計された。安全上の理由から、彼らは人間に感染しないウイルスのDNAのみでこれらのモデルを訓練した。

キング氏は、AIがDNAをどれほど深く理解しているか、そしてゲノム内で協調して機能しなければならないすべての複雑な構成要素を捉えているかを確かめたかったと語った。結果として、AIはその能力を示した。

研究者たちは、テンプレートとなるウイルスをもとにAIモデルでゲノムを生成し、その後DNAを合成して、AI生成のウイルスを細菌細胞に導入した。細菌細胞が死ぬかどうかで、ウイルスが機能したかを確認した。彼らは約300のデザインをテストした。

ある夜の午前3時頃、あるウイルスが複製され、細菌細胞に感染して殺したことを観察した。「私たちは非常に興奮しました」とキング氏は語った。最終的に、16種類のウイルスが有効であることが証明された。

計算生物学およびバイオセーフティの分野の独立した専門家は、この研究がその分野における大きな成果であると評価している。マサチューセッツ工科大学（MIT）の准教授ケビン・エスヴェルト（Kevin Esvelt）氏は、生成AIを使ってウイルスを再設計したのは、これが初めてだと述べた。

彼は、将来的には、ヒトに感染し、ワクチンや自然免疫の保護を回避するウイルスタンパク質やウイルス自体を同様の手法で作成する可能性があると指摘した。

「このツールを使えば、誰かが新型コロナのような新しい変異株を作り出せるようになるだろう。それは大規模に感染し、大多数の人々を感染させるだろう」とエスヴェルト氏は語った。「それは災難だ。絶対にやってはいけない。」

ヒー氏は、現時点では、潜在的なバイオテロリストにとって、既存の100％致死性の病原体の中から一つを選ぶ方がはるかに簡単だと述べた。「もし私が病原体を設計したり、破壊行為を企てる悪者なら、AIは使わないだろう」と彼は語った。