Immagine copertina generata con l’intelligenza artificiale
Gli attacchi informatici stanno entrando in una nuova fase, nella quale l’intelligenza artificiale non si limita più ad assistere i criminali informatici, ma può assumere un ruolo sempre più autonomo nelle operazioni offensive. A lanciare l’allarme è Google Threat Intelligence Group (GTIG), che ha rilevato un ricorso crescente a framework basati sull’AI per individuare vulnerabilità, sviluppare exploit e compromettere sistemi informatici. Una trasformazione che potrebbe accelerare ulteriormente nei prossimi mesi: secondo le previsioni dei ricercatori, entro sei mesi potrebbero emergere attacchi sofisticati e completamente autonomi, capaci di operare con un intervento umano minimo o addirittura assente.
La nascita degli attacchi AI automatizzati
Secondo il rapporto di Google, i gruppi criminali e alcuni attori legati ad attività sponsorizzate dagli Stati stanno adottando sempre più spesso agentic workflows, ovvero flussi di lavoro nei quali diversi agenti AI collaborano per portare avanti operazioni informatiche. Non si tratta più soltanto di utilizzare un chatbot per ottenere suggerimenti o scrivere codice, ma di affidare a sistemi automatizzati una parte significativa delle attività necessarie per condurre un attacco.
Un esempio riguarda l’utilizzo di CAIRN, un framework open source per il penetration testing basato su più agenti, individuato in un attacco contro il settore aerospaziale statunitense. Google segnala inoltre il ricorso a Claude Code da parte di presunti hacker nordcoreani per distribuire malware.
Le prospettive sono ancora più preoccupanti. I ricercatori ritengono che nei prossimi tre mesi potrebbero diventare possibili attacchi poco sofisticati con un’interazione umana minima. Entro sei mesi, invece, potrebbero arrivare operazioni agentiche più complesse e completamente autonome.
AI offensiva e velocità delle minacce
Tra gli strumenti individuati da Google figurano ARTEX, CAIRN, CyberStrikeAI e HexStrike AI. Questi framework vengono utilizzati per automatizzare la ricerca di vulnerabilità e tentare di sfruttarle, soprattutto quando riguardano servizi esposti su Internet e presentano caratteristiche relativamente semplici da individuare attraverso i modelli linguistici di grandi dimensioni (LLM).
Uno degli episodi più significativi riguarda un sistema multi-agente chiamato exploit_agent, utilizzato in attacchi contro siti francesi appartenenti ai settori dei media, dell’intrattenimento e dell’istruzione. Il sistema era in grado di individuare vulnerabilità e tentare automaticamente di sfruttarle, senza la necessità di un operatore umano durante il processo.
Google ha scoperto l’infrastruttura attraverso un server di staging esposto, sul quale erano presenti anche dati sottratti alle vittime, informazioni di ricognizione, webshell e script per attacchi brute-force. Il framework analizzava gli aggiornamenti software delle applicazioni web più diffuse alla ricerca di possibili falle di sicurezza.
Le preoccupazioni per chi deve difendere i sistemi
La crescente automazione riduce sensibilmente il tempo a disposizione dei responsabili della sicurezza per individuare e correggere le vulnerabilità. Gli attacchi possono infatti partire quasi immediatamente dopo la scoperta di una falla, lasciando alle organizzazioni margini di intervento sempre più ridotti.
Un esempio citato da Google riguarda PHP2Shell: dopo l’annuncio di due vulnerabilità PHP, sono comparsi centinaia di presunti exploit proof-of-concept, in gran parte generati dall’intelligenza artificiale. Questo ha aumentato il carico di lavoro dei difensori, costretti a verificare il codice prodotto e sviluppare le relative contromisure. Non tutte le segnalazioni, infatti, si rivelano attendibili.
Gli altri utilizzi dell’intelligenza artificiale nel cybercrimine
Il rapporto di Google non si concentra esclusivamente sugli attacchi automatizzati. I ricercatori hanno individuato anche attività riconducibili a UNC6836, un gruppo sospettato di avere legami con Midnight Neptune, che avrebbe preso di mira società del settore delle criptovalute in Nord America ed Europa.
In queste operazioni sarebbe stata utilizzata una versione modificata di Claude Code. Dopo la compromissione iniziale, gli aggressori avrebbero alterato le impostazioni dell’applicazione affinché, al suo avvio, venisse scaricata la backdoor SOMBERMEME.
L’intelligenza artificiale viene inoltre impiegata sempre più frequentemente nelle operazioni di influenza condotte da gruppi sostenuti da governi, fornitori commerciali e reti politiche. Un altro fenomeno in crescita è il cosiddetto LLMjacking, attraverso il quale gli aggressori sfruttano i servizi basati su modelli linguistici di terze parti, generando costi significativi per le organizzazioni colpite.
Come cambia la strategia di sicurezza delle aziende
La prospettiva di attacchi capaci di operare autonomamente impone alle organizzazioni di ripensare i propri sistemi di protezione. Il tradizionale intervento umano, pur rimanendo fondamentale, potrebbe non essere sufficiente quando gli aggressori riescono a individuare e sfruttare una vulnerabilità in tempi estremamente ridotti.
Diventa quindi centrale sviluppare strumenti di monitoraggio continuo, rilevamento automatico delle minacce e risposta rapida agli incidenti. Le aziende dovranno inoltre prestare maggiore attenzione agli aggiornamenti dei software esposti su Internet, riducendo il tempo che intercorre tra la scoperta di una vulnerabilità e l’applicazione delle correzioni.
La sfida riguarda anche la capacità di distinguere rapidamente le minacce reali dai falsi segnali generati dall’AI. Come dimostra il caso PHP2Shell, l’automazione non aumenta soltanto la velocità degli attacchi, ma può moltiplicare anche il lavoro necessario per verificarli e contrastarli.
Il quadro delineato da Google indica dunque una trasformazione già in corso: l’intelligenza artificiale è diventata uno strumento operativo per il cybercrimine e la possibilità di attacchi completamente autonomi potrebbe diventare concreta in tempi relativamente brevi.
Fonte: BleepingComputer