Chlazení teplou vodou pro umělou inteligenci: tepelná revoluce datových center

  • Nvidia implementuje kapalinové chladicí systémy s vodou o teplotě 45 °C pro optimalizaci energetické účinnosti.
  • Přechod na přímé chlazení čipů umožňuje hustotu racků přesahující 50 kW.
  • Tento model uzavřené smyčky drasticky snižuje spotřebu vody v zařízeních, ačkoliv přetrvávají problémy s celkovou spotřebou elektřiny.

Chladicí systémy pro umělou inteligenci

Generativní umělá inteligence udělala tak obrovský skok vpřed, že datová centra zaostávají. Už nemluvíme o jednoduchých serverech, ale o raccích s hustotou výkonu, která prakticky doutnaje a snadno přesahuje 50 kW. V tomto scénáři se tepelný management změnil z technického detailu na úzké hrdlo, které určuje, kolik výpočetní energie můžeme provozovat a za jakou cenu.

Aby se tento problém vyřešil, stalo se normou přímé kapalinové chlazení čipu . Zapomeňte na obří klimatizace, které pohybují studeným vzduchem; nyní je trendem dodávat kapalinu přímo tam, kde se procesor zahřívá. Tato změna je klíčová, protože modely Long Language Model (LLM) vyžadují mnohem agresivnější a efektivnější chladicí infrastrukturu, aby se zabránilo degradaci hardwaru.

Chlazení teplou vodou pro umělou inteligenci
Související článek:
Chlazení horkou vodou pro umělou inteligenci

Nvidia a její rušivý koncept a „vířivkové“ chlazení

Nvidia se do sporu zapojila s návrhem, který na první pohled zní šíleně: použití horké vody k chlazení. Trik spočívá v tom, že její nové servery s architekturou Rubin mohou pracovat s kapalinou, která vstupuje dovnitř o teplotě 45 °C. Pro srovnání, je to jako dát procesor do vířivky, ale díky fyzice systém funguje perfektně.

Tajemství spočívá v použité kapalině, směsi složené ze 75 % vody a 25 % propylenglykolu. Protože čipy s umělou inteligencí generují obrovské množství tepla, je tato kapalina schopna absorbovat tepelnou zátěž i při této vysoké teplotě a z okruhu vystupuje při teplotě okolo 55 °C. Díky tomu je teplotní rozdíl s venkovním vzduchem dostatečně velký na to, aby se teplo pasivně odvádělo přes externí radiátory ve většině klimatických podmínek.

Nejúžasnější na tomto systému je, že eliminuje ventilátory. Utěsněním desek plošných spojů serveru a odstraněním ventilátorů, které obvykle vytvářejí ohlušující hluk přesahující 85 decibelů, se dosahuje mnohem tiššího a efektivnějšího prostředí . Navíc, protože se jedná o uzavřený okruh, který je třeba naplnit pouze jednou, eliminují se odpařovací chladicí věže, což snižuje spotřebu vody v datovém centru téměř o 100 %.

Chlazení teplou vodou pro umělou inteligenci
Související článek:
Chlazení teplou vodou: Tepelná revoluce umělé inteligence

Infrastruktura datového centra

Pokročilé architektury: CDU a chladicí desky

Pouhé nalití horké vody na čip nestačí; vyžaduje to přesné inženýrství. A zde přicházejí na řadu chladicí jednotky (CDU) a chladicí desky. Podle odborníků společnosti Eaton se dobrá chladicí deska liší od průměrné díky svým vysoce přesným vnitřním mikrostrukturám , které umožňují téměř okamžitý přenos tepla z čipu do kapaliny.

Inteligentní CDU fungují jako mozek systému a koordinují tok kapaliny s elektrickou architekturou . Tato integrace je klíčová, protože umožňuje systému šetřit energii při chlazení a přesměrovat tuto energii na napájení více grafických procesorů. V reálných hodnotách to může představovat 33% nárůst výpočetního výkonu na jedno připojení napájení.

Chlazení teplou vodou pro umělou inteligenci
Související článek:
Revoluce horké vody v chlazení datových center s využitím umělé inteligence
  • Vysokokapacitní CDU: Schopný zvládnout tepelné zátěže od 105 kW do 2,3 MW.
  • Výměníky tepla zadních dveří (RDHx): Odvádějí teplo od výkonných procesorů s výkonem až 75 kW.
  • Dynamické chladicí desky: Schopný chladit čipy s tepelným výkonem přesahujícím 1 500 W.
  • Rackové rozdělovače: Nerezové rozdělovače, které zajišťují, že chladicí kapalina dosáhne každého kouta bez úniků.

Dopad na životní prostředí a přetrvávající výzvy

Ačkoli se Nvidia chlubí tím, že problém s vodou vyřešila ve vlastních zdech, je třeba zvážit širší souvislosti. Spotřeba vody se netýká jen samotného serveru, ale také výroby elektřiny, která jej poháněje. Uhelné a plynové elektrárny, které zůstanou významnou součástí energetického mixu až do roku 2030, spotřebovávají obrovské množství vody na každou vyrobenou kWh.

Jinými slovy, i když je datové centrum uzavřeným a ekologickým systémem, náklady na vodu se přesouvají na elektrárnu. Přesto je přechod nezbytný. Přechod ze vzduchového na kapalinové chlazení je jediný způsob, jak zabránit přehřívání, které by snižovalo životnost kritických komponent v prostředích, kde hustota výkonu může dosáhnout až 120 kW na stojan.

Chlazení teplou vodou pro umělou inteligenci
Související článek:
Revoluce chlazení teplou vodou v infrastruktuře umělé inteligence

Kapalinové chlazení je nyní až 3 000krát účinnější než vzduchové při zachycování tepla. To nejen zlepšuje výkon, ale také snižuje uhlíkovou stopu eliminací tradičních chladičů a kondenzátorů a namísto toho volbou řešení s volným chlazením a bezolejových odstředivých chladičů, které optimalizují celkovou spotřebu energie.

Odvětví umělé inteligence si nutí k přepracování termodynamiky serverů a přesouvá se od konzervativních systémů k architekturám, kde se ústředním bodem stává horká voda a inteligentní řízení toků. Tento technologický skok umožňuje maximalizovat hustotu výpočetní kapacity a ziskovost podniku a zajišťuje, že infrastruktura dokáže podporovat exponenciální růst LLM, aniž by se zhroutila v důsledku přehřátí.


Přidat jako preferovaný zdroj v Googlu