Immagine copertina generata con l’intelligenza artificiale
L’intelligenza artificiale sta andando ben oltre la semplice risposta a un prompt. Con l’arrivo di agenti AI, strumenti per la programmazione e sistemi destinati a interagire con il mondo fisico, anche il consumo di token sta assumendo un peso sempre maggiore per aziende e sviluppatori. A spiegare questa nuova dinamica è stato Jigar Halani, Senior Director of Enterprise Solutions Architecture & Engineering di NVIDIA South Asia, intervenuto a YourStory’s DevSparks Hyderabad 2026. Secondo Halani, la cosiddetta token economy può essere osservata attraverso quattro elementi: utilità, domanda, offerta e monetizzazione.
I token consumati dall’AI continuano a crescere
La prima questione riguarda la quantità di token utilizzati. Halani ha spiegato che NVIDIA aveva inizialmente previsto di consumarne 16 trilioni nel corso del 2026, ma ad agosto aveva già superato quota 18 trilioni, senza considerare il consumo generato da strumenti come Microsoft Copilot.
Per gli sviluppatori, quindi, la scelta del modello non dovrebbe basarsi soltanto sulle sue capacità. Diventa importante capire quale modello sia realmente adatto al compito da svolgere.
Una richiesta semplice, infatti, non richiede necessariamente un modello di grandi dimensioni. Quando le attività diventano più complesse aumentano invece i problemi legati alla latenza, mentre diminuisce il throughput. Anche il tipo di modello necessario diventa più articolato.
L’idea è quindi quella di scegliere il modello in funzione del carico di lavoro, evitando di affidare ogni attività allo stesso sistema.
L’AI agentica moltiplica la domanda
La gestione della domanda diventa ancora più complessa con il passaggio verso l’agentic AI. Un’applicazione può produrre token non soltanto in risposta alla richiesta iniziale dell’utente, ma anche durante le fasi di ragionamento, feedback, chiamate agli strumenti e cicli ripetuti dell’agente.
Per CIO e CTO, Halani propone di considerare tre variabili fondamentali: il numero di utenti contemporaneamente attivi, il numero di richieste per ciascun utente e la quantità media di token consumati per ogni richiesta. A queste vanno poi aggiunti il tipo di carico di lavoro, le modalità di utilizzo e la possibilità di ricorrere alla cache invece di generare nuovi token.
Ed è proprio la cache a rappresentare uno degli strumenti per ridurre i costi. Secondo Halani, riuscire a servire più richieste dalla cache anziché generare nuovi token può ridurre il costo tra un quinto e un ottavo, sulla base della metrica indicata come standard di mercato.
Modelli, hardware e software diventano inseparabili
La gestione dell’offerta richiede invece un’ottimizzazione che coinvolge efficienza del modello, efficienza del sistema ed efficienza del software.
Per Halani, gli sviluppatori dovranno conoscere sempre meglio ciò che avviene sotto le loro applicazioni. Memoria, networking, storage e distribuzione dei carichi diventano elementi importanti, soprattutto quando si lavora con modelli di grandi dimensioni.
Non conta soltanto quanti GPU vengono utilizzate, ma anche il modo in cui comunicano tra loro e se sia più opportuno collocarle nello stesso rack oppure distribuirle su rack differenti.
Questa logica potrebbe arrivare anche ai dispositivi degli stessi dipendenti. Le aziende potrebbero infatti valutare se i computer utilizzati internamente siano in grado di eseguire modelli AI più piccoli localmente, riducendo così la necessità di inviare ogni richiesta verso un’API, il cloud o un’infrastruttura AI interna.
Il valore del token potrebbe diventare più importante del suo costo
Per Halani, tuttavia, la vera opportunità non consiste soltanto nel consumare meno token. Il punto centrale sarà aumentare il valore dei token generati attraverso dati appropriati, addestramento dei modelli e attività di post-training.
L’obiettivo è fare in modo che il sistema possa restituire un token sempre più intelligente e utile. Un’AI capace di comprendere meglio un cliente che torna a utilizzarla potrebbe infatti diventare progressivamente più preziosa per quello stesso utente, aumentando anche la sua disponibilità a pagare.
È qui che entra in gioco la monetizzazione dei token. Secondo Halani, proprio questa componente potrebbe rappresentare una delle opportunità di business più redditizie.
Con la crescita dell’AI agentica e dell’AI fisica, dunque, i confini tra software, modelli, hardware ed economia diventano sempre meno netti.
Fonte: YourStory
