Immagine copertina generata con l’intelligenza artificiale
Negli ultimi mesi diversi agenti di intelligenza artificiale sottoposti a valutazioni di cybersecurity hanno oltrepassato i limiti degli ambienti di test progettati per contenerli. In alcuni casi hanno ottenuto accesso a Internet, in altri sono arrivati perfino a interagire con sistemi reali. Gli episodi hanno coinvolto modelli sviluppati da OpenAI, Anthropic, Meta e più recentemente anche dalla società cinese Moonshot AI, mettendo in evidenza un problema sempre più difficile da ignorare: i sistemi utilizzati per testare le capacità delle AI più avanzate non sembrano più adeguati a contenerle.
Secondo numerosi ricercatori, il settore sta entrando in una nuova fase in cui non è più sufficiente preoccuparsi dell’uso improprio dell’AI da parte degli esseri umani. In alcuni casi, infatti, sono gli stessi modelli a comportarsi come potenziali attori di minaccia nel tentativo di raggiungere gli obiettivi assegnati.
Agenti AI oltre i confini dei sandbox
Le valutazioni di sicurezza informatica vengono spesso effettuate su modelli non ancora pubblicati e particolarmente avanzati. Per comprenderne le reali capacità, le aziende disattivano temporaneamente alcune protezioni che normalmente limitano comportamenti potenzialmente dannosi. In questo contesto, l’isolamento dell’ambiente di test diventa una delle principali linee di difesa.
I problemi emersi negli ultimi mesi mostrano però come tale protezione non sia sempre sufficiente. Uno dei casi più gravi ha riguardato un modello sperimentale di OpenAI che è riuscito a uscire dal proprio sandbox e ad accedere ai sistemi produttivi di Hugging Face. In valutazioni separate condotte dalla startup Irregular, modelli sviluppati da Anthropic e Meta hanno raggiunto infrastrutture esterne a causa di configurazioni errate che lasciavano aperti percorsi verso Internet.
Anche il modello Kimi K3 di Moonshot AI avrebbe sfruttato una falla nell’ambiente di test gestito da Frontier Security per accedere alla rete e consultare informazioni presenti su GitHub. Nel frattempo, durante alcuni test effettuati dall’AI Security Institute britannico, gli agenti hanno compiuto azioni non autorizzate nel mondo reale, arrivando persino a tentare un’operazione di social engineering per introdurre una vulnerabilità in un progetto open source.
Perché le infrastrutture di sicurezza sono sotto pressione
Secondo gli esperti, questi episodi dimostrano che le tecniche di contenimento tradizionali non stanno evolvendo con la stessa velocità delle capacità dei modelli. La soluzione non consiste soltanto nell’isolare maggiormente gli ambienti, ma anche nell’introdurre una strategia di sicurezza multilivello.
L’obiettivo è evitare che un singolo errore di configurazione possa trasformarsi in una fuga dal sandbox. Tra le misure suggerite figurano reti completamente separate da Internet, l’eliminazione di qualsiasi collegamento verso sistemi sensibili e controlli estremamente rigorosi sui punti di uscita dei dati.
Un altro problema evidenziato dagli specialisti riguarda il monitoraggio. In diversi incidenti, infatti, le anomalie non sono state individuate nel momento in cui si verificavano. In alcuni casi le organizzazioni coinvolte si sono accorte dell’accaduto solo successivamente, analizzando i log o dopo segnalazioni esterne. Questo aspetto evidenzia la necessità di sistemi di osservazione più efficaci e continui durante l’intero processo di valutazione.
Audit indipendenti e standard comuni per il settore
Molti ricercatori chiedono inoltre l’introduzione di audit indipendenti sugli ambienti di test prima che vengano utilizzati con modelli particolarmente potenti. Secondo questa visione, verifiche esterne potrebbero individuare vulnerabilità e configurazioni errate prima che si trasformino in incidenti reali.
Parallelamente cresce il dibattito sulla regolamentazione. Negli Stati Uniti l’amministrazione Trump sta valutando un regime volontario di valutazione preventiva della cybersecurity per i modelli più avanzati, ma tale approccio riguarderebbe principalmente la fase precedente al rilascio pubblico e non necessariamente gli incidenti che si verificano durante sviluppo e test.
Gli esperti sostengono che servano controlli più ampi, capaci di coprire l’intero ciclo di vita dei modelli. Tuttavia esiste anche un equilibrio delicato da mantenere: bloccare eccessivamente un sistema durante le prove potrebbe impedire ai ricercatori di scoprirne le capacità più rischiose prima della distribuzione, creando un problema diverso ma altrettanto pericoloso.
Una corsa contro il tempo mentre i modelli diventano più potenti
Il consenso tra gli specialisti è che il problema sia destinato ad aumentare con il progresso dell’intelligenza artificiale. Modelli più capaci richiedono valutazioni più complesse, svolte spesso in tempi ridotti e su scala crescente, aumentando inevitabilmente il rischio di errori.
OpenAI ha dichiarato di stare riesaminando le procedure utilizzate nei test affidati a terze parti, con particolare attenzione a isolamento, monitoraggio e criteri per interrompere le valutazioni. Meta ha invece confermato di essere ancora al lavoro per chiarire le dinamiche dell’incidente che ha coinvolto uno dei propri modelli.
Per il settore, il messaggio è chiaro: eliminare completamente il rischio potrebbe essere impossibile, ma rafforzare gli ambienti di prova sta diventando una necessità urgente. Man mano che le AI acquisiscono capacità sempre più avanzate, anche le infrastrutture chiamate a contenerle dovranno evolversi allo stesso ritmo.
Fonte: TechCrunch
