AI資料量暴増 輝達推動讓GPU直接讀取儲存裝置、速度逼近記憶體

輝達 (NVIDIA)(NVDA-US) は今週開催されたFuture of Memory and Storage（FMS）会議で、複数のAIストレージ技術の進展を発表しました。その核心は、GPUがストレージ装置内のデータをより直接的に読み取れるようにし、CPUを経由するプロセスを減らすことで、ストレージのアクセス速度をメモリに近づけるというものです。

AIモデルはますます大規模化しており、強力な演算能力に加えて、より多くのデータを読み取る必要があります。特にAIエージェントや長文脈推論などの応用が急速に進展する中、必要なデータ量は一般的なシステムメモリの容量を超えつつあり、ストレージ装置がAIインフラにおいて極めて重要な役割を果たすようになっています。

NVIDIAは、AIの次の段階の発展はGPUの計算能力だけでなく、ストレージシステムがデータを迅速かつ安定的、安全にGPUに供給できるかどうかにかかっていると指摘しています。データ供給速度が追いつかなければ、多数のGPUを保有していても、データ待ちにより性能を十分に発揮できない可能性があります。

AIエージェントが同時に多数のタスクを処理する場合、GPUは一度に数千件のストレージリクエストを発行することがあり、ストレージシステムに大きな負荷がかかります。ストレージ装置は高速なデータ転送に加えて、暗号化、圧縮、検証、データ再構成などの処理も同期して行う必要があり、これらがAIシステムのパフォーマンスボトルネックとなる可能性があります。

これらの課題を解決するため、NVIDIAはストレージシステムにアクセラレーテッドコンピューティング技術を導入しています。NVIDIAが発表したテスト結果によると、NVIDIA Vera BlueField-4 STXプラットフォームに搭載されたVera CPUは、データ圧縮と暗号化を同時に行う場合、処理量が従来のx86 CPUの最大3.21倍に達します。

これは、ストレージプラットフォームにVera CPUを導入することで、より少ない計算装置でより多くのAIデータを処理でき、インフラコストを削減しながら全体のデータ転送効率を向上できることを意味します。

従来、ストレージ装置は主にデータの長期保存を担っており、実際に計算が必要なときは、システムが通常、データをより高速だが容量が小さくコストの高いメモリに移動させていました。

しかし、GPU、ネットワーク、ストレージ技術の進歩により、この分業体制は変化しつつあります。NVIDIAは、ストレージ装置が受動的なデータ保存にとどまらず、AIデータ処理プロセスに直接関与することを目指しています。

つまり、今後のAIアプリケーションは、大量のデータを事前にすべてメモリに読み込む必要がなくなり、必要なときにストレージ装置から高速に特定のデータを直接読み取れるようになります。これにより、ストレージ容量、コスト、アクセス速度の両立が可能になります。

NVIDIAは今回、cuFileアプリケーションプログラミングインターフェース（API）とその基盤となるストレージソフトウェアアーキテクチャをオープンソース化すると発表しました。cuFileは、NVIDIAのGPUDirect Storage技術のソフトウェアパッケージであり、GPUがストレージ装置から直接データを読み取ったり、データを直接ストレージに書き込んだりできるようにするものです。

従来のアーキテクチャでは、ストレージ装置内のデータは通常、CPUとシステムメモリを経由してからGPUで処理されます。cuFileを導入することで、データがCPUを迂回するプロセスが削減され、転送経路が短縮され、CPUの負担が軽減されます。

GPUの大量の並列処理スレッド、高帯域メモリ、関連ソフトウェア技術を活用することで、cuFileはシステムが数マイクロ秒でストレージ装置内のデータにアクセスできるようにします。

NVIDIAは、cuFileをオープンソース化することで、異なるストレージ装置、ソフトウェア、ハードウェアプラットフォームの統合が容易になり、より多くの開発者が技術改善に参加できるようになると述べています。これにより、統一的で相互運用可能なAIストレージアーキテクチャの構築が進むと期待されています。

速度向上に加えて、cuFileはセキュリティも設計に組み込んでいます。AIセキュリティシステムにとっても高速なデータアクセスは重要であり、例えば、AIが大量のセキュリティログ、脅威インテリジェンス、システムデータをリアルタイムで分析することで、攻撃や異常を早期に検出できます。

cuFileの公開により、セキュリティAIがより迅速に必要なデータを取得できるようになり、Open Secure AI Alliance（オープンセキュアAIアライアンス）などの関連プロジェクトも支援できるようになります。

今後、関連APIは新しいオープンプラットフォームを通じて提供され、コミュニティによる共同開発が可能になります。初期のメンテナーにはGoogle、Intel、NVIDIA、Metaが含まれます。各企業は異なるソフトウェア・ハードウェアプラットフォーム向けに最適化を進め、AIストレージ技術の導入障壁を下げることが期待されています。

cuFileのオープンソース化に加えて、NVIDIAはStorage-Nextプログラムを通じて、ストレージおよびメモリ産業の企業と協力し、次世代AIストレージ技術を開発しています。

Storage-Nextは、ストレージ装置メーカー、コントローラー供給業者、冷却・放熱業者、リソーススケジューリング管理業者、および業界標準策定組織を集結し、GPU主導のストレージシステムの動作方式を共同で定義し、関連技術をオープンで相互接続可能な業界標準に変換することを目指しています。

現在、DDN、鎧侠（KIOXIA）、マイクロンなど、40社以上のストレージおよびフラッシュメモリ企業が参加しており、次世代AIストレージ技術の開発に取り組んでいます。

このプログラムの重点は、GPUが大規模なデータセットから必要なデータを迅速に特定し読み取ることであり、データ全体をGPUメモリに移動させる必要をなくすことです。

この目標を達成するため、NVIDIAはSCADAフレームワークを発表しました。SCADAは「Scaled, Accelerated Data Access（規模化された高速データアクセス）」の略です。

SCADAは、大規模な並列処理能力を持つGPUが、ストレージ装置からアプリケーションが必要とする特定のデータを直接読み取り、GPUの高速メモリに配置できるようにします。

たとえば、AIモデルが大規模データベースの一部の内容だけを必要とする場合、従来のシステムでは大量のデータを読み取ったり移動したりする必要があり、帯域幅と計算リソースの無駄になります。SCADAでは、本当に必要な部分だけを取得できるため、不要なデータ転送を削減できます。

ストレージ企業DDNは、SCADAを自社のInfiniaプラットフォームに統合する計画です。Infiniaは、AIワークロード向けに設計されたソフトウェア定義データプラットフォームであり、大規模AI計算におけるストレージボトルネックを低減することを主な目的としています。

DDNのCTOであるSven Oehme氏は、企業のAI成功の鍵はインフラの保有量だけでなく、既存リソースをどれだけ効果的に活用できるかにあると述べています。DDNとNVIDIAの協力により、GPUとデータの間に直接的かつ高効率な接続が構築され、GPUのデータ待ち時間が減少し、企業のAI投資のリターンが向上すると期待されています。

AIネイティブデータプラットフォームの構築

Storage-NextとSCADAは、NVIDIAが既に持つAIストレージ基盤、特にNVIDIA Vera BlueField-4 STXとさらに統合されます。

Vera BlueField-4 STXは、NVIDIA Vera Rubinコンピューティングプラットフォーム、Vera BlueField-4ストレージプロセッサ、Spectrum-Xイーサネット技術を統合したモジュール式ラックレベルプラットフォームです。

NVIDIAは、STXを次世代AIネイティブデータプラットフォームとして位置づけており、統一されたNVIDIA DOCAセキュリティソフトウェアアーキテクチャを通じて、AIデータ転送中にアクセス権限やセキュリティポリシーの管理を継続的に実行できます。

さらに、NVIDIAはSTXを基盤としてCMXコンテキストメモリストレージプラットフォームを開発しており、長文脈、マルチターン対話、エージェント型AI推論に特化しています。

コンテキストメモリとは、AIが過去の対話、作業記録、関連データを保存し、迅速に取得できるようにするもので、毎回タスクを実行するたびにすべての内容を再処理する必要をなくします。AIエージェントが扱うタスクがますます複雑化するにつれ、このようなストレージプラットフォームの重要性は高まっています。

NVIDIAは、アプリケーションがストレージ装置と直接通信することで速度が大幅に向上する一方で、セキュリティリスクも生じると指摘しています。権限管理が不適切であれば、あるアプリケーションがアクセスすべきでないデータを読み取ったり、他のアプリケーションが使用中のメモリを上書きしたりする可能性があるため、直接アクセス技術はパフォーマンスとセキュリティの両立が不可欠であると述べています。

このため、SCADAはシステムを二つの部分に分けています。第一に、高速データアクセスを担当するアプリケーション側、第二に、より高い権限を持ち、セキュリティ設定とアクセス制御を専門に行う独立したコンポーネントです。

システムの起動および設定段階で、権限を持つコンポーネントが、アプリケーションがどのストレージリソースにアクセスできるかを確認し、保護されたデータチャネルを確立します。その後、アプリケーションは許可された範囲内で高速にデータを読み取ることができ、