Immagine copertina generata con l’intelligenza artificiale
Amazon lancia una nuova sfida a Nvidia nel mercato dell’intelligenza artificiale. La divisione cloud AWS ha presentato TorchNeuron, uno strumento di sviluppo pensato per consentire alle startup AI di trasferire più facilmente le proprie applicazioni sui chip proprietari Trainium. La novità interviene su uno degli elementi che hanno contribuito maggiormente al successo di Nvidia: l’integrazione tra le sue GPU e PyTorch, uno dei framework open source più utilizzati per sviluppare e addestrare modelli di intelligenza artificiale.
Amazon introduce TorchNeuron per la comunità AI
Presentato da Amazon Web Services, TorchNeuron è progettato per lavorare con PyTorch, il toolkit gratuito e open source utilizzato per costruire, addestrare ed eseguire modelli di intelligenza artificiale. Secondo Amazon, circa l’85% delle applicazioni AI viene sviluppato proprio attraverso questo framework, un dato che rende particolarmente importante la compatibilità con le sue funzionalità.
La caratteristica principale della novità riguarda la semplicità di utilizzo. Le applicazioni già realizzate con PyTorch possono essere eseguite sui chip Trainium modificando soltanto una riga di configurazione, senza dover riscrivere il codice. TorchNeuron è infatti basato su PyTorch e, di conseguenza, gli sviluppatori che conoscono già quest’ultimo possono utilizzare il nuovo strumento senza dover imparare da zero un ambiente di sviluppo differente.
Nvidia e la leadership su PyTorch: una posizione da difendere
Per comprendere la portata dell’iniziativa bisogna considerare il ruolo assunto da Nvidia nell’ecosistema dell’intelligenza artificiale. L’azienda ha investito per anni nello sviluppo di CUDA, l’infrastruttura software che permette alle applicazioni di funzionare sulle sue GPU e sugli altri componenti hardware compatibili.
Questo lavoro ha consentito a Nvidia di costruire un’integrazione particolarmente solida con PyTorch, rendendo le proprie GPU una scelta praticamente automatica per molti sviluppatori. Il framework, originariamente sviluppato da Facebook e passato nel 2022 sotto la gestione della Linux Foundation, è diventato uno degli strumenti centrali per la realizzazione delle applicazioni AI. Amazon vuole intervenire proprio su questo legame, riducendo la dipendenza degli sviluppatori dall’infrastruttura software di Nvidia.
TorchNeuron punta sui chip Trainium e sul cloud AWS
Amazon non è la prima azienda a cercare di semplificare il passaggio da PyTorch a piattaforme hardware alternative. Anche AMD e Apple consentono già di trasferire applicazioni attraverso modifiche relativamente semplici alla configurazione. La proposta di AWS, tuttavia, presenta un elemento aggiuntivo: l’accesso all’intera infrastruttura cloud di Amazon.
Secondo Colin Brace, vicepresidente della divisione Technology Software di AWS Annapurna Labs, l’unità che sviluppa i chip personalizzati dell’azienda, le startup possono contare su un ambiente che offre già le risorse necessarie per passare dalla fase di prototipo alla produzione. Una differenza rispetto ai cosiddetti neocloud, fornitori specializzati di infrastrutture di calcolo spesso legati all’hardware Nvidia, come CoreWeave, Nebius e Firmus.
Amazon sostiene inoltre che Trainium possa offrire vantaggi economici considerando l’intero ciclo di lavoro. Lo stesso chip può infatti occuparsi sia del training, cioè dell’addestramento dei modelli, sia dell’inferenza, il processo attraverso cui un modello già addestrato produce risposte e risultati.
La strategia di Amazon per rendere PyTorch indipendente dall’hardware
L’iniziativa non si limita alla promozione dei chip proprietari. Amazon ha annunciato anche l’intenzione di contribuire direttamente al progetto principale di PyTorch, proponendo modifiche al codice per eliminare alcune dipendenze specifiche dall’hardware. L’obiettivo è rendere il framework più indipendente dal produttore dei chip, a beneficio dell’intera comunità di sviluppatori e non soltanto degli utilizzatori di Trainium.
Si tratta di un passaggio importante perché potrebbe modificare gli equilibri competitivi dell’intero settore. Un PyTorch meno legato alle tecnologie Nvidia renderebbe potenzialmente più semplice l’adozione di processori e acceleratori sviluppati da altri produttori.
Le startup AI possono ottenere maggiori vantaggi?
Amazon cita anche un caso concreto per sostenere la propria proposta. Deepgram, azienda che sviluppa applicazioni di intelligenza artificiale vocale e compete con realtà come ElevenLabs, ha trasferito i propri carichi di lavoro su Trainium utilizzando il supporto nativo a PyTorch. Secondo quanto dichiarato da AWS, l’azienda è riuscita a elaborare il 70% di audio in più per ogni dollaro speso, mantenendo un livello di accuratezza adatto alla produzione.
Resta comunque da verificare quanto questa maggiore apertura si tradurrà effettivamente in vantaggi per gli sviluppatori. Rendere PyTorch meno dipendente da Nvidia potrebbe aumentare la libertà di scelta e favorire soluzioni più convenienti, ma potrebbe anche introdurre nuove complessità nella configurazione delle applicazioni. La sfida di Amazon sarà quindi dimostrare che la possibilità di utilizzare hardware alternativo può tradursi in un’esperienza realmente semplice, senza aggiungere ulteriori ostacoli al lavoro dei programmatori.
Fonte: TechCrunch
