L’evoluzione dell’intelligenza artificiale sta portando alla nascita di sistemi sempre più articolati, nei quali diversi agenti collaborano per completare attività complesse. Tuttavia, proprio questa maggiore capacità di cooperazione introduce nuove fragilità. Una ricerca della Nanjing University, accettata alla ICML 2026, ha individuato un elemento fondamentale nei problemi di affidabilità dei sistemi multi-agente: il punto critico non sarebbe nei singoli agenti, ma nell’orchestrator, il componente incaricato di coordinarne il lavoro.
Lo studio, dal titolo Recognize Your Orchestrator: An Entropy Dynamics Perspective for LLM Multi-Agent Systems, propone un nuovo modello di analisi basato sulle dinamiche entropiche, con l’obiettivo di comprendere quando e perché un sistema AI perde stabilità durante l’esecuzione di compiti complessi.
Quando il coordinatore AI perde il controllo del sistema
All’interno di un’architettura multi-agente, ogni componente ha un ruolo specifico: gli agenti esecutori si occupano di singole operazioni, mentre l’orchestrator svolge una funzione di supervisione generale. Deve interpretare gli obiettivi, suddividere il lavoro, scegliere quali agenti coinvolgere, analizzare le risposte ricevute e decidere come procedere.
Secondo la ricerca, però, questa posizione centrale rappresenta anche una possibile vulnerabilità. Quando il numero di passaggi aumenta, l’orchestrator deve elaborare una quantità crescente di dati, tra cui cronologie operative più lunghe, risultati intermedi e segnali di errore.
Questa pressione può compromettere la qualità delle decisioni. Il sistema può iniziare a selezionare gli agenti meno adatti, interpretare male le informazioni ricevute, ripetere azioni già tentate oppure interrompere prematuramente un’attività senza aver raggiunto il risultato corretto.
Il problema, quindi, non riguarda necessariamente la capacità degli agenti individuali, ma il modo in cui vengono coordinati all’interno di un processo più ampio.
L’entropia misura la stabilità delle decisioni dell’intelligenza artificiale
Per analizzare il comportamento dell’orchestrator, i ricercatori hanno introdotto il concetto di scheduling entropy, una metrica che permette di osservare il livello di incertezza nelle decisioni prese dal sistema.
Quando l’orchestrator dispone di informazioni sufficienti e mantiene una direzione chiara, tende a scegliere pochi agenti considerati più adatti al compito. In questa situazione, l’entropia rimane contenuta e il sistema procede verso una soluzione.
Al contrario, quando cresce l’incertezza, le decisioni diventano più distribuite e meno prevedibili. L’aumento dell’entropia può quindi rappresentare un segnale di instabilità imminente.
La ricerca descrive questo comportamento attraverso un modello chiamato mean-field entropy dynamics, che mette in relazione due fenomeni contrapposti: la capacità del sistema di restringere le possibilità man mano che risolve il problema e l’effetto contrario generato dall’accumulo di informazioni, che può introdurre confusione e rumore.
Gli esperimenti confermano il ruolo decisivo dell’orchestrator
Gli studiosi hanno testato il loro approccio in quattro diversi ambienti operativi: deep research, agent coder, GUI browser e agentic RAG. In tutti gli scenari analizzati è emerso lo stesso risultato: i principali fallimenti erano legati al comportamento dell’orchestrator.
Questa conclusione modifica il modo di valutare la sicurezza dei sistemi multi-agente. Migliorare esclusivamente le capacità dei singoli agenti potrebbe non essere sufficiente, perché anche modelli molto avanzati possono produrre risultati poco affidabili se il processo di coordinamento non è stabile.
Per osservare meglio queste dinamiche, il team ha sviluppato l’Inverse Workflow Generation (IWG), una tecnica che crea ambienti di test controllabili partendo dal risultato finale e ricostruendo il percorso necessario per raggiungerlo.
Il sistema utilizza tre elementi: uno Scout per esplorare le strategie possibili, un Wrapper per generare ambienti strutturati e una Validation Committee per verificare la correttezza dei percorsi individuati.
La prossima sfida dell’AI sarà rendere affidabile la cabina di regia
Gli esperimenti condotti con sette agenti esecutori e diversi modelli linguistici hanno inoltre evidenziato un aspetto importante: la potenza del modello non coincide automaticamente con una migliore capacità di orchestrazione.
Alcuni sistemi hanno costruito percorsi apparentemente validi ma hanno mostrato difficoltà nel completamento stabile delle attività. Altri, invece, pur ottenendo risultati finali meno brillanti, hanno mantenuto maggiore coerenza nelle singole fasi del processo.
La ricerca della Nanjing University suggerisce quindi che il futuro dei sistemi multi-agente non dipenderà soltanto da agenti sempre più intelligenti, ma dalla capacità di progettare orchestrator più robusti, monitorabili e resistenti alla crescente complessità dei flussi di lavoro AI.
