Revoluce horké vody v chlazení datových center s využitím umělé inteligence

  • Povinný přechod ze vzduchového chlazení na přímé kapalinové systémy z důvodu výkonu rozvaděčů přesahujícího 50 kW.
  • Implementace techniky „chlazení horkou vodou“ s kapalinami o teplotě 45 °C pro eliminaci ventilátorů a snížení spotřeby vody.
  • Využití inteligentních CDU a mikrostrukturních chladicích desek pro optimalizaci energetické účinnosti a výpočetní kapacity.
  • Závazek velkých hyperscalers k pozitivitě vody a eliminaci odpařování prostřednictvím uzavřených okruhů.

Chladicí systémy pro umělou inteligenci

Řízení tepla v datových centrech se z jednoduchého technického detailu stalo kritickou překážkou pro nasazení umělé inteligence. S příchodem masivně mnohostranných programovacích jazyků a generativní umělé inteligence jsme se setkali s drsnou realitou: některé rozvaděče přesahují hustotu výkonu 50 kW, což činí tradiční klimatizaci prakticky nepoužitelnou. Nešlo o hladký přechod, ale spíše o náhlý skok k přímému chlazení kapalinou do čipu , které už není experimentem pro hrstku vyvolených, ale standardem pro každého, kdo chce v tomto sektoru konkurovat.

V tomto scénáři se objevuje nápad, který zpočátku zní šíleně: chlazení horkou vodou . V podstatě jde o použití vody o teplotách připomínajících vířivku, mezi 40 a 45 °C, k chlazení nejvýkonnějších procesorů na planetě. Nejde jen o změnu kapaliny v potrubí, ale také o přepracování elektrické architektury a distribučních systémů tak, aby se účinnost neměřila pouze v PUE, ale v tom, kolik skutečného výpočetního výkonu dokážeme získat z každého wattu připojeného k elektrické síti.

Chlazení teplou vodou pro umělou inteligenci
Související článek:
Chlazení horkou vodou: Tepelný klíč k generativní umělé inteligenci

Paradigma chlazení teplou vodou

Na první pohled se nalití horké vody do serveru jeví jako recept na katastrofu, ale fyzika je jasná. Čipy umělé inteligence generují tak obrovské množství tepla, že kapalina složená ze 75 % vody a 25 % propylenglykolu dokáže toto tepelné zatížení absorbovat bez námahy, a to i při vstupu při teplotě 45 °C. Kapalina absorbuje teplo a opouští obvod při teplotě okolo 55 °C, čímž zachovává integritu křemíku a zajišťuje, že výkon procesoru se vůbec nesníží.

Genialita tohoto systému, poháněného architekturami, jako je Rubin od Nvidie, spočívá v tom, že od tak vysoké teploty je teplotní rozdíl s venkovním vzduchem dostatečně velký na to, aby systém mohl pasivně fungovat v mírném podnebí . To umožňuje vyřazení hlučných ventilátorů, které obvykle přesahují 85 decibelů, a jejich nahrazení obřími externími radiátory , které odvádějí teplo mnohem efektivněji a tišeji.

Dalším klíčovým bodem je dopad na životní prostředí. Provozem systémů s uzavřeným okruhem, které je třeba naplnit pouze jednou za dobu životnosti elektrárny, se eliminují odpařovací chladicí věže, které jsou skutečnými žrouty vody. Nvidia tvrdí, že jim to umožňuje snížit spotřebu vody v datovém centru téměř o 100 %, ačkoli problémy přetrvávají i mimo něj, protože výroba energie (plyn nebo uhlí) stále vyžaduje obrovské množství vody na každou vyrobenou kWh.

Chlazení teplou vodou pro umělou inteligenci
Související článek:
Revoluce chlazení teplou vodou v infrastruktuře umělé inteligence

Přesné strojírenství: Chladicí desky a CDU

Aby se zabránilo tomu, aby toto nasazení skončilo technologickou katastrofou, je nezbytná pečlivá koordinace. A právě zde přicházejí na řadu chladicí desky s vnitřními mikrostrukturami , které dokáží zachytit 80 % až 90 % tepla přímo z čipu. Ne všechny chladicí desky jsou si rovny; vysoce přesná deska tvoří rozdíl mezi spolehlivým systémem a systémem, který ohrožuje životnost hardwaru kvůli špatnému přenosu tepla.

Mozkem toho všeho jsou inteligentní jednotky CDU (Coolant Distribution Units) . Tyto jednotky koordinují tlak a průtok kapaliny a řídí výkon od 105 kW do 2,3 MW. Když jsou tyto jednotky CDU integrovány s elektrickou architekturou, na podnikové úrovni se děje něco fascinujícího: energetický rozpočet, který byl dříve plýtván na chladicí vzduch, lze nyní přesměrovat na napájení více grafických procesorů (GPU).

Podle údajů společnosti Eaton může tato optimalizace vést ke zvýšení výpočetního výkonu na jedno připojení k síti až o 33 % . Stručně řečeno, regulace teploty přestala být provozním nákladem a stala se nástrojem pro přímou ekonomickou ziskovost , což umožňuje úspory celkových nákladů na energii ve výši 20 % až 40 %.

Chlazení teplou vodou pro umělou inteligenci
Související článek:
Chlazení teplou vodou: Nový standard pro infrastrukturu umělé inteligence

Udržitelnost a výzva spotřeby vody

Navzdory pokroku je umělá inteligence stroj náročný na zdroje. Tréninkové modely, jako je GPT-3, odpařily stovky tisíc litrů sladké vody . K měření tohoto dopadu se v oboru používá ukazatel efektivity využití vody (WUE), který vypočítává spotřebu litrů na kWh IT energie. Zatímco tradiční odpařovací chlazení má vysokou hodnotu WUE, uzavřené systémy chlazení se mohou přiblížit ideální hodnotě 0.0 l/kWh.

Technologičtí giganti již zintenzivnili své plány a stanovili si ambiciózní závazky do roku 2030. Například Microsoft zavádí systémy s nulovým odpařováním , které by mohly snížit spotřebu vody o více než 125 milionů litrů na zařízení ročně. Společnosti Google a Meta se mezitím zasazují o pozitivní přístup k vodě a jejich cílem je vrátit do přírody více vody, než kolik jich spotřebuje, zejména v oblastech s nedostatkem vody, jako je Arizona a Oregon.

Existují i ​​radikálnější alternativy, jako je imerzní chlazení , kdy jsou servery ponořeny do dielektrických kapalin, které nepoškozují elektroniku. Ať už se jedná o jednofázové nebo dvoufázové ponoření (kde kapalina vaří při extrémně nízkých teplotách), cílem je zcela eliminovat závislost na vodě a v určitých specifických případech snížit spotřebu energie až o 82 %.

Vstříc éře továren s umělou inteligencí

Už nemůžeme hovořit o generických datových centrech, ale spíše o skutečných továrnách umělé inteligence . V tomto ekosystému se výpočetní technika, sítě a napájení slučují do jednoho celku. Referenční architektura, jako je platforma Nvidia DSX, navrhuje, aby kapalinové chlazení bylo normou , nikoli výjimkou, což umožňuje hustotu výkonu, která by u tradiční klimatizace nebyla možná.

Přechod z infrastruktury chlazené vzduchem na kapalinou chlazenou infrastrukturu není snadný úkol; s sebou nese provozní rizika a značnou složitost integrace . Jakmile však výkon rozvaděčů překročí 50 kW, tento přechod přestává být volitelný a stává se nezbytným požadavkem pro přežití hardwaru . Kombinace volného chlazení a bezolejových odstředivých chladičů ukazuje, že je možné skloubit hrubou energii s infrastrukturou datového centra poháněnou umělou inteligencí a environmentální odpovědností.

Široké rozšíření vody o teplotě 45 °C jako chladiva nově definuje životaschopnost technologické infrastruktury. Optimalizací toku tepla z křemíku do elektrické sítě umožňuje toto odvětví růst výpočetního výkonu, aniž by se spotřeba vody a energie stala nepřekonatelnou bariérou, což umožňuje programovacím jazykům dále se rozvíjet udržitelným a nákladově efektivním způsobem.

Aliance Intelu a Foxconnu pro infrastrukturu umělé inteligence
Související článek:
Intel a Foxconn spojují síly, aby transformovaly globální infrastrukturu umělé inteligence

Přidat jako preferovaný zdroj v Googlu