データ センターでは、これまで以上に多くの熱を発生しています。冷却を管理する必要があります。

データ センターは数十年にわたりデジタル時代を主導してきましたが、今では、世界や私たちの生活を変革するさまざまな AI (人工知能) アプリケーションを実現するために活用されています。そのため、それらの電力需要は近年、急速に拡大しています。

テキサス インスツルメンツにおけるデータ センター熱管理部門責任者 Patrick Zeng は「25 年前、一般的なデータ センター ラックの消費電力は約 5kW でした」と語っています。「現在のラックでは 100kW を上回る電力が消費される場合があり、数年以内にはメガワットを上回る可能性があります」

その電力はすべてどこかに行かなければなりません。サーバーが消費するすべての電力は熱としてデータ センターの部屋に戻ります。現在データ センターの設計における技術上の最大の課題の一つは、その熱を阻止することです。

「太陽の下で走ると、体は熱くなります」と Patrick は述べています。「身体は新陳代謝によって熱中症にならないように冷却されます。これこそ、データ センターで実行される熱管理です」

サーバーが過熱すると、パフォーマンスが低下してコストが増加します。一例としてLLM (大規模言語モデル) について考慮しましょう。AI モデルは、計算の基本単位として機能する小さなテキストのチャンク、つまりトークンを使用して言語を処理し生成します。

「GPU が過熱すると、迅速にトークンを生成できなくなります」と Patrick は述べています。「そのためエンド ユーザーの応答は遅くなり、データ センター事業者の応答のコストが増加します」

従来の冷却インフラでは速度を維持できません。エンジニアは現在、データ センターが熱を除去する方法、熱が施設レベルで発生またはサーバー トレイで発生しているのか、急いで再考しています。

空気だけでは不十分なとき

何十年もの間、空冷で十分でした。ファンは高温の部品全体に冷たい空気を送り込み、熱を運んで、データ センターの動作を安定させます。ただし、AI のせいでラックの電力が 20kW ～ 40kW を超えるようになり、空気のみでは十分な速さで熱を除去できなくなりました。エンジニアは空冷と液冷を組み合わせて対応しています。

サーバー周囲の空気を冷却する代わりに、液体冷却では熱源にある熱を除去します。冷却プレートはサーバー トレイ内のチップに直接取り付けられ、液体によって空気冷却より効率的に熱が除去されます。

サーバー ラックと外部施設のインフラとの間で冷却水を循環させる冷却水分配ユニット (CDU) から、個々のトレイに至るまで、データセンター施設全体でこの手法が適用されるようになりました。ただし、このように液体を機器に近づけるには非常にコストがかかる場合があり、この課題に対処するには、冷却液を循環、監視、制御できる部品のエコシステムが必要となります。

液冷の構成要素

「熱管理システム全体で信頼性の高い操作を実現するには、冷却液の監視が不可欠です」と Patrick 氏は述べています。そのため、エンジニアは常に冷却液を監視し、異常の兆候がないか調べるために温度と湿度を追跡します。

CDU にはループの機械的心臓を形成するポンプとファンが内蔵されており、冷却剤はシステム内を循環します。モーター ドライバは、内蔵された故障防止用の保護機能を使用して、これらのポンプとファンを制御します。リアルタイムの需要に基づいて各トレイのバルブが開閉され、冷却液の流量が制御されます。 

センサは、流量、温度、湿度、圧力を監視して、漏れや部品の不具合の兆候を早期に検出します。マイコンによってすべてが連携され、センサ データがリアルタイム処理され、それに応じてシステムが調整されます。

「データ センターでは、信頼性は常に第 1 の検討事項です」と、Patrick は述べています。ポンプの不具合またはセンサの読み誤りが発生すると、AI のコンピューティング部品のラック全体がオフラインになる場合があります。

信頼性の規格を満たすには、すべての手順で高い精度が要求されます。TI の製品ラインアップは、データ センター施設全体を冷却する HVAC (暖房、換気、空調) システムから、ラックに供給する CDU や、個別のサーバー トレイに至る、冷却液の経路全体を網羅しています。

「私たちは最初から始めているわけではありません」と Patrick は述べています。「当社はビル オートメーションや家電製品で長年使用してきた商用 HVAC (暖房、換気、空調) システムを基板に技術を構築しています。基盤はすでに存在しているため、市場投入までの期間は短縮されます。これは実績のある技術であるため、信頼性も得られます」

熱管理の今後

ラックの電力がメガワット レベルまで増加し、オペレータがそれに応じて新しい冷却技術を採用したとしても、信頼性という設計上の課題が残されます。

データ センター冷却の信頼性における最先端領域では、エッジ AI とセンサ フュージョンを介して複数のセンサが組み合わされます。現在のシステムは多くの場合シングル センサで漏れを検出しています。将来のシステムでは、モーターの電流、コンプレッサの速度、湿度、圧力、温度などの複雑なリアルタイム信号を分析し、シングル センサでは検出できない微妙なパターンを認識します。これらの信号を相関させるには、従来のルールベースのソフトウェアでは複雑すぎます。

「エッジ AI には応答時間の高速化と低レイテンシという独自の利点があります」と Patrick は述べています。

どのような熱管理を採用するかにかかわらず、その目的は変わりません。AI サービスの応答性とデータ センターの信頼性を維持するツールをエンジニアに提供し、オペレータがコストを管理するのを支援し、AI が求める速度で最新のコンピューティング実行するインフラを保持することです。