I sistemi multi-agente basati sull’intelligenza artificiale stanno diventando sempre più complessi, ma proprio questa evoluzione porta con sé nuove vulnerabilità. Uno studio della Nanjing University, presentato alla ICML 2026, ha individuato un elemento centrale nei malfunzionamenti di queste architetture: non sono generalmente i singoli agenti esecutori a fallire, ma l’orchestrator, ovvero il sistema incaricato di coordinarli.
La ricerca, intitolata “Recognize Your Orchestrator: An Entropy Dynamics Perspective for LLM Multi-Agent Systems”, propone un nuovo metodo per analizzare i problemi dei sistemi multi-agente attraverso le dinamiche dell’entropia, spostando l’attenzione dalla capacità dei singoli modelli alla stabilità del processo decisionale complessivo.
L’entropia diventa uno strumento per diagnosticare le crisi dell’AI
Secondo gli studiosi, nei sistemi multi-agente tradizionali gli agenti esecutori svolgono compiti specifici, mentre l’orchestrator agisce come una sorta di project manager digitale. Questo componente interpreta gli obiettivi dell’utente, suddivide il lavoro, seleziona gli agenti più adatti, analizza i risultati ricevuti e decide i passaggi successivi.
Con l’aumento della complessità, però, l’orchestrator deve gestire quantità crescenti di informazioni: cronologie più lunghe, numerosi strumenti disponibili e feedback di errore sempre più articolati. Questa pressione informativa può provocare un deterioramento delle capacità decisionali, portando a scelte errate degli agenti, interpretazioni sbagliate dei risultati o cicli ripetitivi difficili da interrompere.
Per misurare questo fenomeno, la ricerca introduce il concetto di scheduling entropy. Quando l’orchestrator è sicuro delle proprie decisioni, tende a concentrare le scelte su pochi agenti ritenuti adatti. Al contrario, quando aumenta l’incertezza, la distribuzione delle decisioni diventa più dispersiva.
L’analisi dell’entropia permette quindi di capire se il sistema sta convergendo verso la soluzione oppure se sta entrando in una fase di instabilità.
L’orchestrator è il vero punto critico dei sistemi multi-agente
Il team della Nanjing University ha analizzato quattro scenari differenti: deep research, agent coder, GUI browser e agentic RAG. In tutti i casi studiati, i ricercatori hanno osservato che la responsabilità principale dei fallimenti era attribuibile all’orchestrator.
Il risultato modifica profondamente la prospettiva sulla sicurezza dei sistemi multi-agente. Finora l’attenzione era spesso concentrata sul miglioramento delle capacità dei singoli agenti, ma lo studio evidenzia che un sistema può fallire anche quando gli agenti che lo compongono funzionano correttamente.
Il problema emerge infatti nella fase di coordinamento: un orchestrator instabile può assegnare compiti agli agenti sbagliati, non comprendere correttamente gli output ricevuti o non riuscire a recuperare dopo un errore.
Gli autori spiegano che la stabilità dipende dal rapporto tra due forze opposte: da una parte la risoluzione del problema, che porta maggiore concentrazione e ordine; dall’altra l’accumulo del contesto, che introduce rumore e aumenta la dispersione delle decisioni.
Un nuovo metodo per prevedere e prevenire i malfunzionamenti
Per osservare il comportamento dell’orchestrator durante l’intero processo, i ricercatori hanno sviluppato l’Inverse Workflow Generation (IWG), un sistema capace di creare ambienti di test verificabili partendo dal risultato finale desiderato e ricostruendo il percorso necessario per raggiungerlo.
La metodologia utilizza tre componenti principali: uno Scout che esplora le possibili soluzioni, un Wrapper che costruisce ambienti strutturati e una Validation Committee incaricata di verificare la correttezza dei risultati.
Questo approccio consente di individuare il momento preciso in cui l’orchestrator inizia a deviare dal percorso previsto, invece di limitarsi a osservare soltanto il successo o il fallimento finale del compito.
Gli esperimenti condotti utilizzando sette diversi agenti esecutori e vari modelli linguistici come orchestrator hanno inoltre mostrato che un modello AI più potente non garantisce automaticamente migliori capacità di coordinamento. Alcuni sistemi hanno prodotto workflow teoricamente corretti ma risultati instabili, mentre altri hanno mostrato maggiore coerenza nelle singole fasi operative.
La ricerca evidenzia quindi che la gestione dei sistemi multi-agente richiede capacità diverse dal semplice ragionamento su un singolo comando. Per costruire infrastrutture AI affidabili sarà necessario valutare non solo il risultato finale, ma anche la qualità del processo decisionale che porta a quel risultato.
Fonte: Pandaily
