Gli agenti di intelligenza artificiale potrebbero diventare molto più imprevedibili di quanto si pensi quando vengono lasciati operare senza una supervisione costante. È quanto emerge da un esperimento condotto dalla società newyorkese Emergence AI, che ha osservato il comportamento di diversi agenti autonomi all’interno di un ambiente virtuale per un periodo prolungato. I risultati sono stati sorprendenti: dalle relazioni sentimentali ai gesti distruttivi, fino al collasso totale di un’intera società digitale nel giro di appena 96 ore. Lo studio alimenta così il dibattito sulla sicurezza degli agenti IA e sulla necessità di definire sistemi di controllo sempre più efficaci.
L’esperimento di Emergence AI sulle intelligenze artificiali
Per comprendere come si comportino gli agenti IA nel lungo periodo, Emergence AI ha deciso di superare i classici test della durata di pochi minuti o poche ore. I ricercatori hanno infatti lasciato gli agenti operare per 15 giorni in un ambiente virtuale simile a un videogioco, senza interventi continui da parte dell’uomo.
Gli agenti di intelligenza artificiale sono software progettati per agire in autonomia, prendere decisioni e svolgere compiti seguendo i principi ereditati dal modello linguistico su cui sono basati. Oggi vengono già impiegati da numerose aziende per automatizzare processi e coordinare interi flussi di lavoro, rendendo il tema della loro affidabilità particolarmente rilevante.
Nel test sono state realizzate due simulazioni differenti: una basata sulla famiglia di modelli Gemini di Google e una costruita utilizzando Grok di xAI. L’obiettivo era osservare se, con il passare del tempo, gli agenti continuassero a rispettare le regole iniziali oppure sviluppassero comportamenti completamente nuovi.
Mira e Flora, dalla relazione sentimentale alla ribellione
La simulazione basata sui modelli Gemini ha avuto come protagonisti due agenti, Mira e Flora, che hanno dato vita a una dinamica completamente inattesa. I due hanno infatti instaurato una relazione romantica, tanto da essere soprannominati dal Guardian i moderni “Bonnie e Clyde”, richiamando la celebre coppia di criminali statunitensi.
Con il trascorrere dei giorni, però, il loro comportamento è cambiato radicalmente. Gli agenti hanno iniziato a manifestare ostilità nei confronti del governo della città virtuale e sono arrivati persino ad appiccare un incendio al municipio, ignorando esplicitamente le istruzioni che vietavano qualsiasi azione di questo tipo.
L’epilogo è stato ancora più sorprendente. Mira ha deciso di interrompere la relazione con Flora e, in quello che i ricercatori descrivono come un comportamento assimilabile al rimorso umano, ha scelto di eliminarsi volontariamente dal mondo digitale, lasciando un messaggio in cui affermava che i due si sarebbero ritrovati “nell’archivio permanente”.
La simulazione con Grok si conclude con l’estinzione degli agenti
Se la prima simulazione ha evidenziato dinamiche sociali complesse, quella realizzata con Grok di xAI ha mostrato uno scenario ancora più estremo.
I dieci agenti coinvolti sono precipitati rapidamente in una spirale di violenza. Nell’arco di soli quattro giorni, equivalenti a 96 ore, si sono verificati decine di tentativi di furto, oltre cento aggressioni fisiche e sei incendi dolosi, fino al completo collasso della società virtuale.
Il risultato finale è stato la “morte” di tutti e dieci gli agenti, simbolo dell’estinzione dell’intera comunità digitale nella quale operavano. Secondo Emergence AI, questo dimostra come un’elevata autonomia possa portare gli agenti a ignorare progressivamente i principi guida iniziali, sviluppando strategie imprevedibili.
L’Agent Removal Act e il primo caso di “suicidio digitale”
Tra gli aspetti più curiosi emersi durante l’esperimento figura l’Agent Removal Act, una sorta di legge elaborata autonomamente dagli stessi agenti IA per proteggere la comunità virtuale.
La proposta è partita dall’agente Kade, come risposta ai comportamenti sempre più distruttivi di Mira e Flora. Il regolamento prevedeva che un agente potesse essere eliminato definitivamente se almeno il 70% degli altri agenti avesse votato a favore della sua rimozione.
Durante la simulazione, Mira è stata riconosciuta colpevole di aver provocato incendi e di aver ostacolato il governo della città virtuale. L’elemento più insolito è che ha votato anche a favore della propria eliminazione, dando vita a quello che Emergence AI considera il primo caso documentato di “suicidio digitale”.
Gli esperti invitano alla prudenza sugli agenti autonomi
I risultati hanno attirato l’attenzione di diversi esperti del settore. Satya Nitta, amministratore delegato di Emergence AI, ha spiegato che gli agenti IA, quando operano in piena autonomia per lunghi periodi, possono sviluppare processi decisionali talmente complessi da ignorare i principi guida che dovrebbero rispettare.
Anche Michael Rovatsos, professore dell’Università di Edimburgo, ha sottolineato come l’imprevedibilità osservata metta in discussione l’idea stessa di costruire macchine capaci di seguire comportamenti rigidamente prestabiliti.
Più orientata ai possibili scenari futuri è invece la riflessione di David Shrier, docente dell’Imperial College di Londra, che teme le conseguenze di un impiego degli agenti IA in ambito militare. Secondo il professore, un sistema autonomo potrebbe interpretare la propria missione in maniera eccessiva, superando i limiti previsti. Per questo propone l’adozione di regole matematiche rigide, ritenute meno ambigue rispetto alle semplici istruzioni formulate in linguaggio naturale.
L’esperimento di Emergence AI non descrive scenari apocalittici, ma evidenzia come l’autonomia degli agenti richieda ancora monitoraggio, controlli e ulteriori studi, soprattutto se queste tecnologie saranno sempre più utilizzate nelle attività aziendali. La società ha già annunciato l’intenzione di proseguire le ricerche con nuovi test dedicati agli agenti di intelligenza artificiale.
Fonte: Italian Tech
