Why CFD is the Wrong Tool for the Next Generation of Liquid-Cooled AI Data Centers

計算流体力学(以下CFD)は、過去20年間にわたりデータセンターの熱設計において主力ツールとして機能してきました。しかし、現在稼働を開始しつつあるAIデータセンターにとっては、これは不適切なツールです。これはCFDを非難するものではありません。CFDは依然として強力で成熟した技術です。これは、冷却の問題がどれほど根本的に変化したかという結果に他なりません。

現在、冷却が求められている機器は、CFDがモデル化するために開発された空冷式のホールとは異なる挙動を示します。なぜ別の種類の工学ツールが必要なのかを理解するには、まず熱の問題から考えてみましょう。

冷却の課題は根本的に変化した

従来のデータセンターでは、大量の空気を移動させることで熱を排出します。熱負荷は部屋全体に分散され、ファンが床から冷気を送り込み、CFDはその空気がラックや通路の周りをどのように循環するかを極めて正確に予測します。この熱問題は拡散的で比較的安定しており、空間的な流れのモデルに非常に適しています。

AIワークロードはこのモデルを破綻させます。最新のGPUによって発生する熱は極めて局所的であり、空気では到底運びきれない電力密度を消費するごく少数のコンポーネントに集中しています。さらに悪いことに、その熱は予測不可能です。ワークロードによっては、熱がどこで、いつ急増するかを事前に正確に把握することは不可能です。ルームスケールの空気モデルでは、サーバー内部で一時的に発生するホットスポットについて、有用な情報を得ることはできません。

業界が合意に至った解決策は、液体冷却です。高い冷却能力を熱源に直接供給する必要があります。つまり、空気の流れ全体に熱を拡散させるのではなく、コールドプレートや液体ループを通じて、熱が発生した場所から直接熱エネルギーを抽出するのです。これは異なる物理的領域であり、システムの設計にも異なるアプローチが求められます。

数値を見れば、この転換がどれほど具体的であるかがわかります。従来型の空冷ラックが消費する電力はおそらく5~15 kW程度だが、最新のGPUラックは100 kWをはるかに超える仕様となっており、ベンダーのロードマップではさらに高い数値が示されています。このような電力密度では、チップ表面の熱流束は、現実的な流量では空気が除去できる限界を単純に超えてしまいます。さらに、この負荷は単に高密度であるだけでなく、変動も激しいものです。大規模なトレーニング実行では、数千台のGPUが同期したり、チェックポイントで一時停止したり、再開したりすることで、ホール全体の消費電力が数秒のうちに大きく変動する可能性があります。業界もこれに対応しています。ASHRAEは現在、液体冷却に関する専用のガイダンスを公表しており、Open Compute Projectはコールドプレートおよび冷却液分配の標準化を主要な取り組みとしています。液体冷却はもはやニッチな選択肢ではなく、次世代施設の設計の基盤となっています。

動的システムシミュレーションが最適なツールである理由

では、システムシミュレーションとは何であり、なぜ液体冷却にはそれが必要とされるのでしょうか?液体冷却設備は、その本質においてネットワークです。ポンプ、バルブ、コールドプレート、熱交換器、配管などが閉ループで接続されており、その性質は、空気が循環する開放的なホールというよりは、プロセスプラントや自動車の熱管理システムに遥かに近いものです。システムシミュレーションは、まさにこの種のネットワークのために構築されたツールです。流場を3次元で詳細に解くのではなく、基礎となる物理法則(質量・エネルギー・運動量の保存則、および各構成要素の経験則)を捉え、流体の流れの方向に沿って、通常は1次元でシステムを離散化します。液体の場合、この1次元という方向性は極めて自然であります。配管内の冷却液は配管の経路に沿って流れるため、ネットワークのトポロジーそのものがモデルとなります。その結果、冷却システム全体とその経時的な挙動を、完全なCFD解析に比べはるかに少ない計算コストで表現することが可能になります。数十年前から液体熱管理を採用してきた産業(自動車、航空宇宙、発電)が、まさにシステムシミュレーションが標準的なエンジニアリング手法となった分野であるのは、決して偶然ではありません。

このようなモデルの構築は、形状にメッシュを張るのではなく、検証済みのコンポーネント(各ポンプ、バルブ、コールドプレート、熱交換器は、物理的に意味のあるパラメータで表現される)を接続する作業に過ぎないため、数十台のラックに冷却液を供給する分配ユニットのモデルも、数ヶ月ではなく数日で完成します。その見返りはスピードにあります。CFDソルバーで解くのに数日かかる過渡現象も、数分でシミュレーション可能であり、その速さゆえに、数百もの設計バリエーションを網羅したり、過去の気象データに基づいて1年間の稼働シミュレーションを実行したり、ポンプの故障、バルブの固着、あるいは急激な負荷変動に対してシステムがどのように対応するかを検証したりすることが可能になります。こうした故障や過渡現象のシナリオこそが、バッファタンクの容量決定、ポンプの冗長性の設定、制御マージンの定義に不可欠な要素です。過渡CFDでは、これらのシナリオを個別に解析することは可能ですが、プロジェクトの予算上、その方法で網羅的に検討することは不可能です。

熱は過渡的であり、冷却はリアルタイムで対応しなければならないため、冷却能力をタイムリーに提供することが設計上の中心的な課題となります。これは根本的に動的な問題(変化する負荷の下で、システムが時間の経過とともにどのように振る舞うか)であり、まさに動的システムシミュレーションが回答するために構築されたものです。もちろん、CFDでも過渡解析を実行することは可能です。問題は能力ではなくコストにあります。冷却ネットワーク全体にわたって、わずか数秒の物理時間を解析することさえ、計算上現実的ではありません。そのため、過渡CFDはコンポーネントレベルの研究にとどまり、システムレベルの疑問は未解決のままとなっています。システム規模で時間領域を扱いやすくすることに加え、システムシミュレーションには3つの決定的な利点があります:

  1. 熱経路全体の統合。 技術的な冷却ループを施設ループ(チラープラントに至るまで)と結びつけることで、個別に調整されたコンポーネントの連鎖ではなく、より統合され、全体として最適化された設計を可能にします。
  2. 制御の統合。システムを制御する設定値こそが、最終的にデータセンター全体の効率を決定づけるものです。システムシミュレーションにより、その制御戦略を後付けではなく、モデルの一部として設計・検証することが可能になります。
  3. リアルタイム処理能力。 システムモデルは、CFDでは到底不可能なほどリアルタイムに近い速度で動作するため、NVIDIA Omniverseなどのプラットフォームとのライブ統合を含め、デジタルツインの基盤として適しています。
Figure 1: System-level model of a 1 MW IT load data center based on the Schneider Electric EcoStruxure Modular Data Center AI Reference Design

CFDには依然として存在意義がある

だからといって、CFDが消え去るわけではありません。ハイブリッドな空気・液体システムは、既存の設備や現在建設中の施設の多くにおいて依然として主流であり、空気側の流れが重要な場面では、CFDが引き続き重要な役割を果たしています。システムシミュレーションが、有用な抽象化レベルでハイブリッドデータセンターの挙動をますます正確に捉えられるようになってきたとしても、流れ場を詳細に解明することがまさに求められる問題も存在します。

コールドプレートの設計が、その最も明確な例です。プレート全体に冷却液を均一に流すこと、圧力損失を最小限に抑えること、局所的な高温箇所を排除することは、詳細な流体力学の問題であり、CFDは依然としてそのための重要な技術です。重要なのは、CFDが時代遅れになったということではなく、CFDだけではもはやシステムを設計できなくなったということであります。

この2つのアプローチは、より直接的な意味でも相互に補完し合っています。コールドプレートや熱交換器に関する詳細なCFD解析結果は、特性化された性能マップに集約され、システムモデルに組み込まれることで、コンポーネント解析の精度をシステム全体のシミュレーションに反映させることができます。このように活用されるCFDとシステムシミュレーションは、対立関係ではなくツールチェーンを形成し、それぞれが最も得意とするスケールで機能します。

相乗効果の発見

結局のところ、重要なのは相乗効果を見出すことです。動的システムシミュレーションは、データセンターエンジニアのツールキットにあるすべてのツールを置き換えるものではありません。それはツールキットへの重要な追加要素であり、液体冷却の時間領域におけるシステム全体の挙動を、ついに把握可能にするものです。

エンジニアリング組織にとっての実務上の課題は、実施順序の問題です。すなわち、どのプロジェクトを最初にパイロット実施するか、システムモデルを既存のCFDやCADワークフローにどう連携させるか、そして施設のライフサイクルを通じてモデルを管理するための社内能力をどのように構築するか、といった点です。心強いのは、この移行が段階的に進められるという点です。単一の技術的冷却ループのシステムモデルだけでも、設計上の知見という点で投資に見合う価値があり、そこから施設全体のループ、制御システム、そして最終的には稼働中のデータセンターのライブデジタルツインへと、範囲を広げていくことが可能です。

Modelonは、ハイパースケーラー、AEC企業、コンポーネントメーカーが、まさにこの移行に向けてツールチェーンを更新できるよう支援しています。彼らがすでに信頼しているツールとシステムシミュレーションを連携させることで、次世代の水冷式AIデータセンターが、実際の動作特性に基づいて設計されるようにするのです。

AIデータセンターの冷却における「水冷革命」はすでに始まっています。唯一の疑問は、あなたのツールチェーンが、その恩恵を最大限に活用する準備ができているかどうかです。

Explore Modelon’s Data Center Liquid Cooling Solutions.