Immagine copertina generata con l’intelligenza artificiale
La trasparenza dei modelli di intelligenza artificiale passa anche dalla possibilità di osservare e analizzare i loro processi di ragionamento. È proprio questo l’obiettivo di Reasoning Lens, un sistema sviluppato dai ricercatori dell’Institute of Software della Chinese Academy of Sciences, in collaborazione con la University of Chinese Academy of Sciences. Il lavoro è stato pubblicato come preprint il 22 giugno 2026 su arXiv.
Reasoning Lens aiuta a vedere dentro i modelli IA
Con la crescita delle capacità dei grandi modelli linguistici, anche le loro catene di ragionamento, note come chain-of-thought (CoT), sono diventate sempre più lunghe. Durante la risoluzione di un problema matematico, il ragionamento interno di un modello avanzato può arrivare a decine di migliaia di caratteri, rendendo più difficile verificare ciò che avviene.
I ricercatori definiscono questo problema una sorta di “transparency burden”, ovvero un peso crescente per la trasparenza: più il modello diventa potente, più risulta complicato comprenderne e controllarne il percorso logico.
Reasoning Lens affronta il problema attraverso una visualizzazione gerarchica. Il sistema trasforma il ragionamento in una mappa composta da più livelli, distinguendo tra comportamenti di exploration, come scomposizione, verifica e ritorno sui passaggi precedenti, e comportamenti di exploitation, come recupero delle conoscenze, esecuzione di procedure e dichiarazione dello stato.
Una mappa per ricostruire il percorso del ragionamento
Il sistema suddivide il testo prodotto dal modello in unità di pianificazione, costruendo una rappresentazione del processo a diverse scale. A livello macro è possibile osservare diagrammi ad albero che mostrano la strategia generale adottata dall’AI, mentre una visualizzazione più dettagliata permette di seguire le singole fasi e le relative dipendenze.
L’obiettivo è quindi andare oltre la semplice analisi della risposta finale. Reasoning Lens permette di osservare come il modello arriva a quella risposta, offrendo ai ricercatori una rappresentazione strutturata dei passaggi che compongono il ragionamento.
Cinque categorie di errori sotto osservazione
La seconda funzione centrale di Reasoning Lens riguarda la diagnosi. Il sistema è progettato per individuare cinque categorie di problemi: overthinking, problemi di sicurezza, errori di conoscenza, errori logici ed errori di formattazione.
A occuparsi dell’analisi è un sistema diagnostico multi-agente composto da un modulo di memoria, uno di verifica e uno dedicato ai suggerimenti. I tre componenti collaborano per identificare gli errori e analizzarli, fornendo anche indicazioni utili per correggere il percorso seguito dal modello.
In questo modo, la visualizzazione non si limita a rendere il ragionamento più leggibile, ma diventa anche uno strumento per individuare e affrontare le criticità presenti nei processi generati dall’intelligenza artificiale.
Un profilo comportamentale per ogni modello
La terza funzione riguarda invece il profiling sistematico. Reasoning Lens aggrega i risultati ottenuti dall’analisi di più catene di ragionamento per costruire un vero e proprio profilo comportamentale del modello.
Questo permette di individuare schemi ricorrenti nel modo in cui l’AI esplora le possibilità, verifica le proprie risposte e manifesta eventuali debolezze strutturali. Per verificare l’accuratezza del sistema, il gruppo di ricerca ha inoltre realizzato LensBench, un dataset di riferimento composto da 130 casi selezionati e curati.
Reasoning Lens punta a rendere l’IA più interpretabile
Il progetto della Chinese Academy of Sciences si inserisce così nel campo dell’interpretabilità dell’intelligenza artificiale, cercando di trasformare il ragionamento dei modelli da processo difficile da esaminare a struttura leggibile e diagnosticabile.
La possibilità di visualizzare, classificare e analizzare le catene di ragionamento offre quindi ai ricercatori un modo più strutturato per studiare il comportamento dei grandi modelli linguistici. Reasoning Lens mira, in questo senso, non soltanto a mostrare ciò che accade durante il ragionamento, ma anche a renderlo analizzabile e migliorabile.
Fonte: Pandaily
