Nvidia Vera raddoppia le prestazioni delle CPU AMD e Intel nei test di Modal

La startup introduce i nuovi processori Nvidia nei propri server AI dopo aver rilevato un throughput doppio nelle valutazioni interne

Redazione
Server AI con cpu nvidia vera installate e benchmark su schermi di controllo

Immagine copertina generata con l’intelligenza artificiale

La CPU Nvidia Vera entra nelle infrastrutture di una startup specializzata nei servizi cloud per l’intelligenza artificiale. Si tratta di Modal, che ha deciso di adottare i nuovi processori dell’azienda americana dopo aver ottenuto risultati particolarmente interessanti nei test interni: secondo le prime valutazioni, Vera sarebbe in grado di offrire un throughput doppio rispetto alle CPU AMD e Intel attualmente utilizzate.

La novità è significativa soprattutto per lo sviluppo degli agenti AI, applicazioni che richiedono una crescente capacità di elaborazione anche da parte dei processori tradizionali. Modal, tuttavia, non intende abbandonare completamente le architetture x86, ma punta a utilizzare un’infrastruttura composta da diverse piattaforme, scegliendo di volta in volta quella più adatta ai singoli carichi di lavoro.

Modal introduce le CPU Nvidia Vera nelle proprie infrastrutture AI

La startup fornisce infrastrutture cloud che consentono agli sviluppatori di distribuire agenti di intelligenza artificiale capaci di svolgere autonomamente operazioni complesse anche per periodi prolungati. Un’attività che richiede risorse CPU considerevoli, necessarie per l’esecuzione del software, l’elaborazione dei dati e tutte quelle operazioni che non possono essere gestite in maniera efficiente dalle GPU.

Finora l’azienda si è affidata esclusivamente a processori AMD e Intel per queste attività. Le valutazioni preliminari condotte internamente hanno però evidenziato un vantaggio significativo per Nvidia Vera, spingendo la startup a introdurre i nuovi chip nella propria flotta di server.

La scelta comporta anche un lavoro di adattamento. Vera utilizza infatti l’architettura Arm, mentre parte dell’infrastruttura software esistente è progettata per le piattaforme x86. Per sfruttare i nuovi processori sarà quindi necessario apportare modifiche al software, un investimento ingegneristico che Modal ritiene giustificato dai possibili miglioramenti prestazionali.

Throughput doppio rispetto alle CPU AMD e Intel

Il dato più interessante riguarda proprio le prestazioni. Secondo Modal, le prime prove hanno mostrato un throughput fino a due volte superiore rispetto ai processori AMD e Intel presenti nell’infrastruttura dell’azienda.

Il risultato assume particolare rilevanza considerando la natura dei carichi di lavoro degli agenti AI. Queste applicazioni possono eseguire numerose attività indipendenti contemporaneamente, mettendo sotto pressione i core della CPU, la memoria cache e la larghezza di banda della memoria.

Bisogna comunque considerare che Modal non ha pubblicato tutti i dettagli delle prove. Non sono stati specificati i modelli esatti di processori AMD e Intel utilizzati nel confronto, le configurazioni dei benchmark né i risultati relativi alle prestazioni per watt. Non è quindi possibile stabilire con precisione quali caratteristiche architetturali abbiano determinato il vantaggio.

Architettura Arm e caratteristiche tecniche di Nvidia Vera

Tra gli elementi che potrebbero contribuire alle prestazioni ci sono i core Olympus basati su Arm v9.2, capaci di decodificare ed eseguire fino a 10 istruzioni per ciclo, oltre al sottosistema di memoria con una larghezza di banda dichiarata di 1,2 TB/s.

Non è tuttavia chiaro quanto ciascuna di queste caratteristiche incida sul risultato finale. Inoltre, il confronto riguarda processori AMD e Intel già disponibili sul mercato, non le generazioni future che dovranno competere con Vera.

Modal continuerà a utilizzare anche processori x86

L’arrivo di Nvidia Vera non significa che Modal abbia intenzione di rinunciare alle CPU AMD e Intel. Come spiegato dall’amministratore delegato Erik Bernhardsson, trasferire immediatamente tutto il software sull’architettura Arm non sarebbe possibile.

La strategia sarà quindi quella di mantenere una flotta di server eterogenea, selezionando il processore più adatto in base alle caratteristiche di ciascun workload. L’azienda continuerà inoltre a valutare i prossimi processori AMD e Intel quando arriveranno sul mercato.

Nvidia punta a conquistare una fetta del mercato delle CPU server

L’accordo con Modal rappresenta un passaggio importante per Nvidia, interessata a trasformare Vera in un processore server autonomo capace di conquistare quote significative del mercato.

Le aspettative commerciali sono ambiziose: l’azienda prevede di generare almeno 20 miliardi di dollari di ricavi dalle CPU Vera nell’attuale esercizio fiscale e stima un mercato potenziale complessivo di circa 200 miliardi di dollari. Nvidia punta inoltre a vendere almeno quattro milioni di processori Vera nell’anno fiscale 2026.

La crescita di Modal e gli investimenti nell’intelligenza artificiale

L’annuncio arriva dopo che Modal ha ottenuto un finanziamento da 750 milioni di dollari, guidato da Accel, che ha portato la valutazione della startup a 15,75 miliardi di dollari.

L’azienda prevede di raggiungere un miliardo di dollari di ricavi annuali entro il prossimo anno. Negli ultimi 12 mesi, inoltre, il consumo dei suoi servizi è aumentato di tre volte, mentre i ricavi sono cresciuti di oltre 15 volte rispetto all’anno precedente, secondo quanto riportato da Reuters.

Le CPU diventano sempre più importanti per gli agenti AI

La diffusione degli agenti AI sta modificando anche le esigenze hardware dei data center. Se le GPU continuano a rappresentare una componente fondamentale per l’accelerazione dei modelli, le CPU assumono un ruolo sempre più rilevante nella gestione delle attività software e nell’esecuzione delle operazioni autonome.

È proprio in questo segmento che Nvidia vuole ampliare la propria presenza. L’esperienza di Modal mostra come le architetture Arm possano rappresentare un’alternativa interessante per determinati carichi di lavoro, pur senza determinare, almeno per ora, l’abbandono delle piattaforme AMD e Intel.

Fonte: Tom’s Hardware

Iscriviti alla newsletter

Non inviamo spam! Leggi la nostra Informativa sulla privacy per avere maggiori informazioni.