〈SEMICON〉台積電：AIの消費電力が6倍に増加、供給電力と放熱が次世代システムの二大キーポイント

AIの演算能力が拡大を続ける中、高消費電力の問題が急速に顕在化している。台積電(2330-TW)(TSM-US)の処長である陳燕銘氏は本日(1日)のフォーラムで、AIの演算能力の向上に加え、3D積層と異種統合の深化により、今後5年間で単一システムの総消費電力が約6倍に増加すると指摘した。その上で、電源供給と放熱が次世代AIシステムの持続的拡張における二大キーファクターになると述べた。産業全体も、従来のチップレベルの最適化から、システム技術協同最適化（STCO）へと進化していくと強調した。

陳氏は、2024年から2029年にかけて、CoWoSパッケージのサイズが3.3倍のマスクから14倍以上に拡大すると説明。統合される演算ロジックの増加に伴い、単一パッケージ内の演算トランジスタ規模は約48倍に拡大すると予測される。メモリ面では、同一期間に単一パッケージのHBM総帯域幅が34倍以上増加すると見込まれており、そのうちI/O数は約2倍、各I/Oの伝送速度は約6倍に向上するという。

チップが異種統合の方向に進むにつれて、消費電力は大幅に増加し、放熱と電源供給の二大課題が生じている。電源供給の課題に対処するため、台積電はコンデンサーや電圧レギュレーターなどの部品を演算チップにさらに近づけ、電源が基板からパッケージに入るまでの距離を短縮している。

陳氏は、現時点では高性能コンピューティング（HPC）やAIシステムの多くが、PCB上の電圧レギュレーター（Voltage Regulator）によって電圧を下げ、高い入力電圧をチップが必要とする低電圧に変換していると説明。しかし、AIチップの消費電力が増加し、動作電圧が低下する中で、システムに必要な電流が増加しており、PCBの配線や電源供給に深刻な電圧降下（IR Drop）と電力損失が生じていると指摘した。

例えば、システムの消費電力が600ワットから1,400ワットに増加した場合、消費電力は5倍以上に増加し、電源効率の低下だけでなく、余分な損失が熱に変換され、放熱負荷をさらに増大させると説明。このため、今後の電源供給と放熱は別々に扱うことができないと強調した。

電源供給のボトルネックに対し、陳氏はまずインピーダンスを低下させることが最優先だと述べた。現在はSoC内に高密度コンデンサーを統合することで、高周波領域のインピーダンスと電圧変動を低減しているが、チップ面積の制約から拡張性に限界があるため、次に高密度コンデンサーをインタポーザーに導入し、より広範なインピーダンス改善を図ると説明した。

しかし、コンデンサーだけでは将来の高電力AIの需要に対応できない。陳氏は、産業界がより高効率な電源アーキテクチャを模索しており、電源をPCBからパッケージ側に近づける方向にあると指摘。具体的には、キャリア基板に移設したり、最終的にはIVR（インテグレーテッド電圧レギュレーター）をインタポーザーに直接統合することで、大電流の伝送距離を短縮し、インピーダンスと電力損失を低減すると述べた。

放熱面では、陳氏はAIシステムが「サーマルウォール（Thermal Wall）」に衝突しないよう、今後は機構、材料、設計の同時最適化が必要だと強調。台積電は関連するシステム協同設計を通じて、最大約40％の熱抵抗改善を実現していると紹介した。

放熱性能の向上は単一の材料では達成できないとし、カバー（Lid）設計なども含むと説明。チップの消費電力が増加する中、産業全体は気冷から急速に液冷へ移行しており、熱伝導経路内のインターフェース熱抵抗をさらに低減していると述べた。液冷アーキテクチャも急速に進化しており、従来のコールドプレートに加え、システムパートナーと共同でマイクロチャネル、ジェットインピンジメント、二相冷却（Two-phase Cooling）などの新技術を開発していると紹介。最終的にはパッケージと放熱構造を完全に統合し、熱インターフェース材質（TIM）を完全に排除することを目指していると述べた。

陳氏は、TIMはチップ、Lid、コールドプレート間の隙間を埋めるが、それ自体が熱抵抗の原因となるため、長期的にはチップから冷却液までのインターフェースを短縮または排除し、放熱システムをパッケージやチップ構造と直接統合することで、高熱流量AIチップの放熱効率をさらに向上させるのが理想だと説明した。

電源供給と放熱に加え、陳氏は、製造プロセス技術だけでは高度に複雑なAIシステム設計は不十分だと強調。今後は標準化された設計手法とEDAツールを活用し、チップ、パッケージ、メモリ、電源、放熱を設計プロセスに統合する必要があると指摘。さらにAI駆動EDAを導入し、設計自動化とシステム最適化能力を高める必要があると述べた。

陳氏は、AIがトランジスタ、異種統合、3Dパッケージ技術の進化を推進しており、次世代AIシステムではSTCOが避けられない方向性だと強調。今後は設計、アーキテクチャ、材料、EDAツール、サプライチェーンパートナーが協力することで、AIプラットフォームの性能とエネルギー効率を継続的に向上させることができると結論付けた。