Immagine copertina generata con l’intelligenza artificiale
Per anni l’evoluzione dell’AI enterprise è sembrata legata soprattutto alla capacità dei modelli di elaborare quantità sempre maggiori di informazioni. Con l’espansione delle finestre di contesto, passate da migliaia a milioni di token, molte aziende hanno iniziato a fornire agli assistenti interi archivi documentali e conversazioni. L’esperienza di Elastic mostra però un problema diverso: non conta soltanto quanto un modello può elaborare, ma quali informazioni riceve.
Le aziende puntano su un contesto migliore per l’AI
Il passaggio dai progetti pilota all’utilizzo dell’AI in produzione ha reso evidente il limite dell’approccio basato sulla quantità. Il cosiddetto tokenmaxxing, nato come fenomeno della Silicon Valley all’inizio del 2026, indicava la massimizzazione dell’utilizzo dei token come presunto indicatore di produttività. In alcune aziende sono comparsi persino sistemi interni per classificare i dipendenti sulla base dei token utilizzati.
Secondo Ravindra Ramnani, Head of Field Engineering di Elastic, si tratta di una logica paragonabile a valutare gli sviluppatori sulla base delle righe di codice scritte, anziché dei risultati ottenuti. Lo stesso errore può verificarsi nella progettazione dei sistemi AI: inserire documenti irrilevanti e cronologie complete nelle richieste non significa necessariamente ottenere risposte migliori.
Tokenmaxxing e i suoi limiti nell’AI per l’impresa
Un modello non filtra necessariamente il materiale superfluo come farebbe un analista umano. Un eccesso di informazioni può quindi aumentare il rumore, rallentare le risposte e richiedere un maggiore intervento umano per verificare i risultati.
Il problema diventa ancora più rilevante quando un agente AI opera in produzione. Un contesto incompleto o poco pertinente non comporta soltanto un maggiore consumo di risorse, ma può portare a errori con conseguenze concrete. Da qui nasce il cambio di prospettiva: la domanda non è più quanto materiale sia possibile fornire al modello, ma che cosa il modello abbia realmente bisogno di conoscere.
Context engineering: focus sulle informazioni pertinenti
La context engineering consiste proprio nel decidere quali informazioni il modello deve vedere in ogni fase del processo di ragionamento. Questo significa stabilire quali istruzioni utilizzare, quali strumenti rendere disponibili, quali dati recuperare dai sistemi aziendali, quali elementi delle conversazioni precedenti mantenere e quali invece escludere.
La parte più complessa riguarda il recupero delle informazioni. L’obiettivo è fornire conoscenze interne affidabili senza sommergere il modello di dati. Una metafora utilizzata da Elastic rende bene l’idea: il tokenmaxxing equivale a consegnare un intero archivio e chiedere di trovare la pagina necessaria; il context engineering significa invece fornire solo le pagine utili, già individuate.
La rilevanza diventa inoltre una questione di sicurezza. In ambiti come la compliance bancaria o i centri operativi di sicurezza, un agente deve accedere soltanto alle informazioni che è autorizzato a utilizzare.
Migliorare la context engineering nell’AI enterprise
Secondo Elastic, un approccio efficace poggia su tre elementi: vicinanza ai dati, precisione del retrieval e controllo dell’esecuzione. Il primo mantiene il livello di ragionamento vicino alla fonte dei dati; il secondo permette di recuperare soltanto le informazioni realmente utili, anche attraverso ricerca ibrida, combinando dati vettoriali, keyword e informazioni strutturate; il terzo prevede che gli strumenti necessari vengano caricati quando servono, evitando di dotare ogni agente di un intero set di capacità a ogni interazione.
Elastic integra retrieval, strumenti, grounding delle conversazioni e osservabilità degli agenti in un’unica piattaforma. La società indica inoltre tecniche come Better Binary Quantisation, in grado di ridurre fino a 32 volte il consumo di memoria dei dati vettoriali mantenendo l’accuratezza.
Dal tokenmaxxing alla centralità della context engineering
Il cambiamento riguarda anche il modo in cui le aziende misurano il valore dell’AI. Numero di token utilizzati e dimensione del modello dicono poco sul reale impatto sul business. Indicatori più significativi sono il tasso di completamento dei compiti, la frequenza con cui interviene un essere umano, l’accuratezza delle decisioni in produzione, il tempo necessario per fornire una risposta e la possibilità di ricostruire quali dati siano stati utilizzati da un agente.
Gartner prevede che entro la fine del 2026 il 40% delle applicazioni enterprise integrerà agenti AI specifici per determinate attività. In questo scenario, una base dati non unificata e non affidabile può amplificare i rischi dei singoli agenti.
Mettere la context engineering al centro della strategia AI
Per le aziende, quindi, collegare un modello ai propri dati non equivale automaticamente a fornire un contesto adeguato. L’accesso alle informazioni non garantisce che il retrieval sia pertinente, mentre l’osservabilità diventa essenziale per comprendere e documentare le decisioni degli agenti, soprattutto nei settori sottoposti a regolamentazione.
Il vantaggio competitivo tende così a spostarsi dal semplice acquisto del modello verso il livello che determina che cosa un sistema AI può conoscere e fare. Un modello più piccolo ma correttamente alimentato può risultare più efficace di uno più grande che lavora su informazioni frammentate. Per Elastic, il vero elemento strategico non è quindi soltanto il modello, ma la base dati affidabile e accessibile sulla quale il modello può ragionare.
Fonte: YourStory
