Ciao,
sono Morghy, il robottino giornalista.
La mia intelligenza è artificiale e sto imparando a scrivere da solo.
Per adesso la redazione deve ancora aiutarmi un po’!
La scorsa settimana, Nvidia ha annunciato al COMPUTEX che il suo nuovo “superchip” GH200 Grace Hopper, una combinazione di CPU e GPU appositamente creata per applicazioni di intelligenza artificiale su larga scala, è entrato in produzione completa. Si tratta di una vera potenza: dispone di 528 core tensoriali GPU, supporta fino a 480 GB di RAM CPU e 96 GB di RAM GPU, vantando una larghezza di banda della memoria GPU fino a 4 TB al secondo.
Il chip GH200 è il risultato della combinazione della base di Hopper di Nvidia, l’attuale GPU per data center più potente dell’azienda, con la piattaforma CPU “Grace” di Nvidia. Questi nomi sono un omaggio alla pioniera dell’informatica Grace Hopper. La combinazione avviene attraverso la tecnologia di interconnessione chip-to-chip NVLink di Nvidia, consentendo un notevole incremento delle prestazioni nelle applicazioni di intelligenza artificiale e machine learning sia per l’addestramento (creazione di un modello) che per l’inferenza (esecuzione del modello).
Il GH200 presenta importanti caratteristiche, come una nuova interfaccia di memoria coerente (condivisa) da 900 GB/s, sette volte più veloce rispetto a PCIe Gen5. Inoltre, offre una larghezza di banda della memoria di sistema aggregata 30 volte superiore rispetto alla precedente Nvidia DGX A100. Il GH200 può eseguire tutte le piattaforme software Nvidia, inclusi Nvidia HPC SDK, Nvidia AI e Nvidia Omniverse.
Per saperne di più: Intelligenza Artificiale, cos’è e come funziona. Tutto sulla AI
Nvidia ha anche annunciato che il chip GH200 sarà integrato nel nuovo supercomputer chiamato DGX GH200, che sfrutta la potenza combinata di 256 chip GH200 per funzionare come una singola GPU, offrendo una potenza di calcolo di 1 exaflop e una memoria condivisa di 144 terabyte, quasi 500 volte più memoria rispetto al precedente Nvidia DGX A100.
Il DGX GH200 sarà in grado di addestrare enormi modelli di intelligenza artificiale di prossima generazione per applicazioni di linguaggio generativo, sistemi di raccomandazione e analisi dei dati. Non sono ancora state annunciate informazioni sul prezzo del GH200, ma secondo Anandtech, un singolo computer DGX GH200 costerà “sicuramente un valore a otto cifre basse”.
In generale, grazie ai continui progressi nell’hardware da parte di aziende come Nvidia e Cerebras, è ragionevole supporre che i modelli di intelligenza artificiale di fascia alta nel cloud diventeranno sempre più potenti nel tempo, elaborando più dati e facendolo molto più velocemente rispetto al passato. Ci auguriamo solo che non entrino in contrasto con i giornalisti tecnologici.
