Immagine copertina generata con l’intelligenza artificiale
Il confronto tra OpenAI Jalapeño e Nvidia entra in una nuova fase dopo la presentazione del primo chip proprietario di OpenAI alla conferenza Hot Chips. Sviluppato insieme a Broadcom, l’ASIC è stato progettato specificamente per i carichi di lavoro legati all’inferenza dell’intelligenza artificiale.
Secondo i primi benchmark pubblicati dall’azienda, Jalapeño riesce a offrire tra 1,5 e 1,9 volte più throughput per kilowatt rispetto ai sistemi Nvidia GB200 e GB300, oltre a una latenza end-to-end fino a 3,6 volte inferiore. OpenAI prevede di iniziare a impiegare il chip nei propri data center entro la fine del 2026.
Jalapeño, un ASIC progettato per l’inferenza AI
Jalapeño nasce da una collaborazione tra OpenAI e Broadcom e rappresenta il primo chip sviluppato internamente dalla società. Il componente ha un TDP dichiarato di 700 watt, mentre i sistemi utilizzati come riferimento nei test arrivano a 1.200 watt per GB200 e 1.400 watt per GB300.
OpenAI ha normalizzato i risultati sulla base del package TDP pubblicato per ciascun acceleratore. Durante le prove, tuttavia, il consumo sostenuto misurato di Jalapeño è rimasto pari o inferiore a 550 watt.
La progettazione punta quindi soprattutto a migliorare l’efficienza nell’inferenza, un ambito diverso dall’addestramento dei modelli, nel quale l’hardware Nvidia mantiene una posizione particolarmente forte.
OpenAI Jalapeño contro Nvidia: i benchmark
I test sono stati effettuati utilizzando tre modelli open: GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 di Moonshot AI, quest’ultimo con 1.000 miliardi di parametri.
Sulla suite pubblica InferenceX di SemiAnalysis, OpenAI afferma che Jalapeño ha ottenuto tra 1,5 e 1,9 volte il throughput per kilowatt rispetto ai sistemi GB200 e GB300. La società segnala inoltre una riduzione della latenza end-to-end compresa tra 1,7 e 3,6 volte.
I vantaggi più ampi emergono nei punti di funzionamento caratterizzati da bassa latenza. In questi scenari, OpenAI sostiene di aver raggiunto valori di throughput per kilowatt compresi tra 8,6 e 104,3 volte superiori rispetto alle precedenti impostazioni più rapide del GB300 in termini di tempo tra i token.
I limiti del confronto con i chip Nvidia
I numeri presentati da OpenAI sono rilevanti, ma il confronto presenta alcuni elementi da considerare. Innanzitutto, Jalapeño non è stato testato contro Vera Rubin, la nuova piattaforma Nvidia destinata anche ai sistemi che OpenAI prevede di implementare nella seconda metà del 2026.
Inoltre, i principali test mettono a confronto la previsione a singolo token di Jalapeño con configurazioni GB300 che utilizzano lo stesso approccio. Nelle implementazioni reali, Nvidia impiega comunemente la multi-token prediction, una modalità che può modificare sensibilmente il vantaggio registrato da OpenAI.
Anche considerando l’intero consumo dell’infrastruttura, anziché il solo TDP degli acceleratori, il divario si restringe. OpenAI indica 1,18 kW di potenza totale per Jalapeño contro 2,55 kW per GB300.
Memoria HBM4 e architettura del nuovo chip
Ogni package di Jalapeño integra il die di calcolo insieme a sei stack di memoria HBM4, per un totale di 216 GB e una larghezza di banda di 15,4 TB/s.
Il GB300 dispone invece di 288 GB di HBM3E con un rating di 1.400 watt. Rapportando la memoria alla potenza nominale, OpenAI evidenzia quindi una capacità per watt maggiore per il proprio chip.
Secondo la presentazione di Hot Chips, l’architettura di Jalapeño è stata concepita soprattutto per sfruttare meglio la larghezza di banda complessiva della HBM, più che semplicemente per aumentarla.
Broadcom, HBM e la sfida per la produzione
La strategia hardware di OpenAI si inserisce in un mercato in cui la memoria HBM è diventata una delle risorse più contese. Samsung, SK hynix e Micron hanno già venduto una parte significativa della propria capacità produttiva HBM fino al 2027.
L’eventuale espansione di Jalapeño assume quindi un peso importante. OpenAI e Broadcom hanno infatti siglato un accordo per sviluppare 10 GW di chip AI personalizzati. Una produzione su questa scala renderebbe OpenAI un nuovo grande acquirente di HBM4, in un settore nel quale Nvidia dispone già di importanti accordi pluriennali.
Jalapeño guarda già alla seconda generazione
Lo sviluppo del progetto non sembra fermarsi al primo chip. Secondo Bloomberg, una seconda generazione di Jalapeño si avvicina al tape-out e dovrebbe raggiungere questa fase entro pochi mesi, mentre sarebbero già iniziati i lavori concettuali su una terza generazione.
Il primo chip utilizza inoltre un processo produttivo TSMC di classe 3 nm, collocando OpenAI nelle stesse filiere dedicate a wafer, memoria e packaging avanzato utilizzate dagli altri grandi protagonisti del mercato.
La sfida con Nvidia, nel frattempo, resta particolare: OpenAI sta sviluppando un’alternativa proprietaria, ma continua allo stesso tempo ad avere bisogno dell’hardware Nvidia. Lo dimostra anche l’accordo annunciato il 17 agosto, con cui Nvidia ha accettato di fornire fino a 105 miliardi di dollari di finanziamenti per un campus di data center in Ohio destinato a OpenAI.
Fonte: Tom’s Hardware
