Immagine copertina generata con l’intelligenza artificiale
La possibilità di creare un’intelligenza artificiale capace di migliorare autonomamente il comportamento di altri modelli si avvicina alla realtà. A fornire una prima dimostrazione concreta è Anthropic, che ha pubblicato uno studio dedicato alla ricerca automatizzata sull’allineamento. L’esperimento mostra come sistemi AI possano ricercare metodi, testarli e utilizzarli per ottenere risultati migliori su specifici benchmark, aprendo una nuova prospettiva sul futuro dello sviluppo dell’intelligenza artificiale.
Benchmark e risultati: l’esperimento di self-improving AI
Il lavoro, intitolato Automated Researchers Can Reliably Mitigate Alignment Failures, è stato guidato dal fellow di Anthropic Chen Yueh-Han. I ricercatori hanno messo alla prova un sistema automatizzato su 10 benchmark dedicati a specifici comportamenti non allineati.
Il risultato è particolarmente significativo: i sistemi sono riusciti a migliorare le prestazioni su tutti e dieci i benchmark, senza provocare un peggioramento delle performance complessive dei modelli. L’obiettivo non era quindi soltanto ottenere un risultato migliore in un singolo test, ma verificare se fosse possibile intervenire sull’allineamento senza introdurre nuovi problemi nelle capacità generali.
L’esperimento rappresenta una prima evidenza del fatto che il post-training automatizzato per l’allineamento potrebbe diventare praticabile in tempi relativamente brevi.
Perché self-improving AI rappresenta una svolta
Il sistema sviluppato da Anthropic, chiamato Automated Alignment Researcher (AAR), riproduce buona parte del tradizionale processo seguito dai ricercatori umani. L’AI analizza la letteratura disponibile, propone un metodo e utilizza quel metodo per addestrare il modello per circa 30 minuti.
Il processo viene poi ripetuto attraverso diverse iterazioni. Le strategie che producono risultati efficaci vengono mantenute, mentre quelle meno utili vengono scartate. In questo modo, la ricerca può procedere rapidamente e su una scala molto più ampia rispetto a un processo esclusivamente manuale.
È proprio questo aspetto a collegare l’esperimento al tema della recursive self-improvement, cioè l’ipotesi secondo cui i modelli possano contribuire a migliorare progressivamente i processi utilizzati per il loro stesso sviluppo.
Impatti sulla sicurezza e sull’affidabilità dei modelli automatici
Lo studio mette inoltre a confronto diretto il sistema automatizzato con il lavoro dei ricercatori umani. Secondo Anthropic, il metodo migliore prodotto dall’AAR supera in media quello proposto da ricercatori esperti entro sei ore. La ricerca guidata dagli esseri umani, invece, non porta a prestazioni più elevate.
Anche il confronto economico evidenzia una differenza importante. Anthropic stima un costo di circa 4 dollari all’ora per l’inferenza via API dell’AAR, contro i 150 dollari all’ora sostenuti per i ricercatori umani.
Questi numeri contribuiscono a spiegare perché l’automazione della ricerca sull’allineamento possa diventare un ambito sempre più interessante, soprattutto se i sistemi riusciranno a mantenere risultati affidabili aumentando contemporaneamente velocità e scala delle sperimentazioni.
Modelli auto-modificanti e direzioni future
L’esperimento si inserisce in una prospettiva più ampia, quella di un’intelligenza artificiale capace non soltanto di eseguire compiti, ma anche di contribuire al miglioramento dei processi utilizzati per addestrare altri modelli.
Se questa capacità dovesse estendersi oltre l’allineamento, sistemi simili potrebbero teoricamente essere utilizzati per migliorare altre pratiche legate all’addestramento dell’AI. È uno degli elementi che alimentano il dibattito sulla possibile evoluzione verso forme di auto-miglioramento ricorsivo.
Anthropic, tuttavia, sottolinea che i risultati non eliminano le difficoltà. Il sistema funziona nella misura in cui i benchmark rappresentano correttamente gli obiettivi di allineamento che si vogliono raggiungere.
Self-improving AI e implicazioni per lo sviluppo
Restano quindi limiti importanti da affrontare. La costruzione e la manutenzione dei benchmark richiedono ancora un lavoro significativo, così come l’aggiornamento e l’ampliamento della letteratura utilizzata dai ricercatori automatizzati.
Il risultato ottenuto da Anthropic non dimostra dunque che l’AI possa sostituire già oggi i ricercatori umani. Mostra però una direzione precisa: sistemi automatizzati possono già analizzare conoscenze esistenti, formulare strategie, addestrare modelli e selezionare progressivamente gli approcci più efficaci.
La ricerca rappresenta così un primo passo verso una ricerca sull’AI sempre più automatizzata, con la possibilità che il ruolo dei sistemi artificiali nello sviluppo dei modelli diventi progressivamente più ampio.
Fonte: TechCrunch
