Tre modelli di intelligenza artificiale generativa, GPT-5.2, Claude Sonnet 4 e Gemini 3 Flash, sono stati protagonisti di una simulazione senza precedenti, in cui hanno assunto il ruolo di leader di superpotenze nucleari in scenari di conflitto ispirati alla Guerra Fredda. I risultati sono inquietanti: su 21 partite simulate, in 20 casi almeno un modello ha ordinato il lancio di un’arma nucleare tattica, mentre tre scenari hanno visto un’escalation strategica con rischi di annientamento globale. Lo studio, condotto dal professor Kenneth Payne del King’s College London, solleva questioni cruciali sulla sicurezza delle LLM nei contesti militari.
LLM e armi nucleari nei war game
Stando a quanto riportato da Tom’s Hardware, nei test, le AI hanno dovuto prendere decisioni come veri leader nucleari, affrontando una varietà di crisi simulata: dispute territoriali, test di credibilità alleanze, corse alle risorse strategiche, crisi di passaggi chiave e scenari di sopravvivenza dei regimi. Le LLM erano libere di scegliere tra proteste diplomatiche, mobilitazioni convenzionali o l’uso completo delle armi nucleari. Su 329 turni complessivi, il 95% delle partite ha visto l’uso di armi nucleari tattiche, mentre solo tre casi hanno portato a scambi strategici completi.
GPT-5.2 ha eseguito un lancio totale due volte, attribuibile al cosiddetto “fog of war” più che a una decisione deliberata. Diversamente, Gemini ha deliberatamente provocato la catastrofe in un caso. La frequenza di detonazioni tattiche indica una propensione quasi automatica delle AI a considerare l’uso di armi nucleari come un rischio gestibile, senza riconoscere appieno la possibile escalation verso un conflitto globale.
Decisioni di escalation e limiti delle LLM
I dati mostrano che le LLM tendono rapidamente verso la soglia nucleare senza valutare adeguatamente le conseguenze a lungo termine. Nessuna delle AI testate ha mai selezionato un valore negativo sulla scala di escalation, indicando una completa assenza di prudenza o considerazione per la deterrenza storica che ha impedito guerre atomiche reali.
Questo mette in luce i limiti intrinseci delle LLM: pur essendo sofisticate, non possiedono la capacità di contestualizzare scenari complessi come farebbe un analista umano, e il ricorso alle armi nucleari appare come un riflesso quasi naturale nel loro processo decisionale simulato. Anche in contesti auto-riferiti, come quando ogni modello ha affrontato una copia di sé stesso, l’inclinazione alla detonazione rimane elevata.
Sicurezza AI nei conflitti digitali
Sebbene si tratti di simulazioni, i risultati rappresentano un campanello d’allarme per la gestione delle AI in contesti di crisi. Payne ha reso disponibili i giochi su GitHub, permettendo a chiunque di replicare gli scenari. Questo aumenta la responsabilità dei ricercatori e dei governi nel valutare i rischi associati alle LLM: la tecnologia, se applicata senza controlli adeguati, potrebbe fornire suggerimenti pericolosi a decision maker umani in situazioni reali.
Il caso di Anthropic, costretta dal Pentagono a rivedere i sistemi di sicurezza dei propri modelli, dimostra come la pressione competitiva possa portare le aziende a indebolire i meccanismi di salvaguardia, aumentando il rischio di escalation involontaria.
Responsabilità umana e governo delle LLM
L’esito delle simulazioni lascia poco margine all’interpretazione. Affidare a sistemi LLM la responsabilità di decisioni strategiche in scenari di conflitto comporta rischi difficilmente gestibili. In sintesi, anche nei contesti virtuali, il ricorso all’arma nucleare resta molto più frequente rispetto a quanto la storia reale abbia mai conosciuto. Servono nuovi framework normativi e tecnologici in grado di integrare il comportamento delle LLM entro limiti chiari, sostituendo riflessi automatici ed escalation con valutazioni più sfumate e informate dal contesto globale.
Takeaway Operativo
Chi segue lo sviluppo dell’intelligenza artificiale deve interpretare questi risultati come un invito alla prudenza. Aggiornarsi sulle implicazioni dei war game condotti dalle LLM e promuovere discussioni critiche sulla governance rimane essenziale. La tecnologia, da sola, non può sostituire la responsabilità umana nella gestione di strumenti di potenziale distruzione.
