Immagine copertina generata con l’intelligenza artificiale
La gestione del calore sta diventando uno dei principali fattori nella corsa all’efficienza dei data center dedicati all’intelligenza artificiale. Con l’arrivo delle nuove GPU Nvidia Rubin, Frore Systems propone una soluzione di raffreddamento avanzata chiamata LiquidJet, capace secondo l’azienda di ridurre la temperatura operativa del chip fino a 10°C e migliorare la generazione di token per watt fino al 15%.
Il motivo dell’interesse verso questa tecnologia è legato al fatto che, nei grandi sistemi AI, anche pochi gradi di differenza possono incidere sui costi energetici e sulle prestazioni complessive. Per gli hyperscaler, quindi, il raffreddamento non rappresenta più soltanto un sistema per evitare problemi hardware, ma un elemento fondamentale per aumentare la produttività dei server.
Come funziona il sistema LiquidJet di Frore
La proposta di Frore Systems si basa su un coldplate di nuova generazione, progettato per migliorare il trasferimento del calore dalla superficie della GPU verso il circuito di raffreddamento. A differenza dei sistemi tradizionali, che utilizzano microcanali realizzati attraverso lavorazioni meccaniche del rame, LiquidJet sfrutta tecniche derivate dalla produzione dei semiconduttori, come incisione e bonding.
Questa scelta permette di creare strutture tridimensionali molto più complesse, con microcanali posizionati in corrispondenza dei punti più caldi del processore. Il risultato è una maggiore capacità di estrarre calore direttamente dalle zone critiche della GPU.
Secondo le analisi presentate da Frore, il sistema può portare a una riduzione della temperatura del die compresa tra 6°C e 12°C, con un miglioramento dell’efficienza tra il 10% e il 25% in termini di token generati per watt sulle GPU Nvidia Rubin.
Perché abbassare la temperatura migliora le prestazioni AI
Le moderne GPU per intelligenza artificiale lavorano con consumi estremamente elevati. Nvidia Rubin, secondo quanto riportato nell’analisi di Frore, può arrivare a dissipare fino a 2.400 watt, con temperature del die che possono superare i 95°C. Il problema principale, però, non è soltanto la temperatura massima raggiunta, ma l’aumento della dispersione energetica dovuta al calore.
Con l’aumento della temperatura cresce infatti la corrente di perdita dei transistor, riducendo l’efficienza complessiva del chip. Per questo motivo, un sistema di raffreddamento più efficace permette alla GPU di mantenere frequenze più elevate e consumare meno energia a parità di lavoro.
Frore sostiene che una riduzione di circa 10°C possa tradursi in un incremento della generazione di token intorno al 15%, un vantaggio particolarmente importante per i data center che gestiscono enormi volumi di richieste AI.
Il ruolo del delidding nelle GPU Nvidia Rubin
Un altro elemento centrale riguarda il cosiddetto delidding, ovvero la rimozione del coperchio metallico che protegge il chip. Questa pratica permette di ridurre la distanza tra il sistema di raffreddamento e il silicio, diminuendo la resistenza termica.
Secondo Frore, una GPU Rubin senza il tradizionale heatspreader potrebbe ridurre la temperatura del die fino a 20°C rispetto a una configurazione standard, con un possibile aumento dell’efficienza fino al 35% in termini di token per watt.
Tuttavia, questa soluzione presenta anche alcuni rischi. Un chip senza protezione risulta più vulnerabile ai danni meccanici e richiede una gestione estremamente precisa della pressione esercitata dal sistema di raffreddamento. La stessa Frore riconosce che alcuni provider cloud stanno valutando l’impiego di GPU delidded, ma con attenzione ai possibili problemi di affidabilità.
Un nuovo approccio all’economia dei data center AI
La tecnologia LiquidJet punta quindi a modificare il modo in cui viene considerato il raffreddamento nelle infrastrutture AI. Una gestione termica più efficiente può ridurre i consumi e rendere più conveniente anche l’utilizzo di sistemi di raffreddamento più avanzati.
Frore sottolinea inoltre che migliorare l’efficienza dei coldplate può rendere più conveniente l’impiego di sistemi con refrigerazione meccanica, riducendo il livello di efficienza necessario per compensare l’energia utilizzata dal raffreddamento.
Le prospettive indicate dall’azienda derivano comunque da un modello termico analitico e non ancora da una validazione completa attraverso test produttivi su larga scala. La sfida sarà quindi dimostrare se questi vantaggi potranno tradursi concretamente nei grandi data center che alimentano l’intelligenza artificiale del futuro.
Fonte: Tom’s Hardware
