Tepelný manažment AI čipu
V súčasnosti rozširujú svoje dátové centrá aj iní tech giganti ako Microsoft, Google a Meta, aby mohli trénovať a prevádzkovať svoje modely umelej inteligencie. Podľa správ Microsoft a OpenAI plánujú vybudovať projekt dátového centra, ktorý bude zahŕňať superpočítač s miliónmi dedikovaných serverových čipov a súčasný projekt by mohol stáť 115 miliárd dolárov vrátane superpočítača s umelou inteligenciou s názvom Stargate, ktorého spustenie sa očakáva v roku 2028. Generálny riaditeľ spoločnosti Meta Mark Zuckerberg v januári tohto roku tiež uviedol, že výpočtová infraštruktúra spoločnosti bude zahŕňať 30 000 grafických kariet H100 do konca roku 2024. Dodal tiež: „Ak sú zahrnuté ďalšie GPU, existuje približne 600 000 ekvivalentných výpočtov H100.“
AIGC je založené na veľkých modeloch a veľkých dátach. Veľký model sa vzťahuje na model, ktorý sa dokáže prispôsobiť následným úlohám po tréningu na rozsiahlych a širokých údajoch. Po vzniku veľkého modelu (1) sa parametre modelu zväčšia; (2) Diverzifikovaný dopyt urýchľuje diverzifikované zvyšovanie výpočtového výkonu: Výpočtový výkon možno rozdeliť na základný výpočtový výkon, inteligentný výpočtový výkon a supervýpočtový výkon podľa prispôsobenia dopytu. V roku 2021 dosiahol celkový výpočtový výkon globálnych výpočtových zariadení 615 EFlops s mierou rastu 44 %. Do roku 2030 sa očakáva zvýšenie na 56ZFlops s CAGR 65%. Inteligentný výpočtový výkon sa zvýši z 232EFlops na 52,5ZFlops, pričom CAGR presiahne 80%; Po vzniku veľkého modelu priniesol nový trend rastu výpočtového výkonu s priemerným časom zdvojnásobenia výpočtového výkonu 9,9 mesiaca.
Za zlepšením výpočtového výkonu musia mať čipy vyššiu výpočtovú efektivitu a absolvovať viac výpočtov v kratšom čase, čo nevyhnutne vedie k zvýšeniu spotreby energie čipu. Vysoká hustota a charakteristiky vysokej spotreby energie dátových centier v superpočítačových centrách spôsobujú, že problémy s rozptylom tepla sú čoraz dôležitejšie. Moderné dátové centrá, najmä superpočítačové centrá, zvyčajne obsahujú veľké množstvo zariadení s vysokým výkonom, ktoré počas prevádzky vytvárajú značné množstvo tepla. Ak teplo nie je možné odvádzať včas a efektívne, ovplyvní to nielen výkon zariadenia, ale môže viesť aj k poruchám hardvéru. Podľa správy IDC sa približne 40 % spotreby energie v dátových centrách využíva na chladenie systémov, čo naznačuje, že efektívne riešenia chladenia sú pre prevádzku dátových centier kľúčové.
Tradičné vzduchové chladiace systémy už nie sú schopné uspokojiť chladiace potreby súčasných superpočítačov, takže technológia chladenia kvapalinou sa postupne stala hlavnou voľbou v tomto odvetví. Aplikácia technológie chladenia kvapalinou umožňuje dátovým centrám umiestniť viac výpočtových zariadení v rovnakom priestore a zároveň znížiť spotrebu energie chladiaceho systému. Aplikácia technológie chladenia kvapalinou nielen zlepšuje výpočtovú efektivitu, ale tiež výrazne znižuje spotrebu energie a prevádzkové náklady. Technológia chladenia kvapalinou dokáže zvládnuť viac výpočtových úloh pri rovnakej spotrebe energie vďaka efektívnejšiemu vedeniu tepla.
S rastúcim dopytom po školeniach AI a vysokovýkonných výpočtových technikách bude technológia chladenia kvapalinou hrať dôležitejšiu úlohu v budúcich superpočítačových centrách. Očakáva sa, že technológia chladenia kvapalinou sa v nadchádzajúcich rokoch stane štandardnou konfiguráciou v superpočítačových centrách a veľkých dátových centrách, aby splnila rastúce požiadavky na výpočtovú techniku a výzvy spojené s rozptylom tepla.
