Immagine copertina generata con l’intelligenza artificiale
Gli assistenti di programmazione basati sull’intelligenza artificiale stanno cambiando profondamente il modo in cui viene prodotto il software. La loro capacità di generare codice e suggerire dipendenze in pochi istanti porta evidenti vantaggi sul piano della produttività, ma apre anche una nuova questione di sicurezza: chi verifica i pacchetti che l’AI propone agli sviluppatori?
Il problema riguarda soprattutto il software open source, componente fondamentale delle applicazioni moderne. Quando una dipendenza non verificata viene inserita automaticamente nel progetto, i tradizionali controlli possono arrivare troppo tardi.
La velocità dell’AI supera i controlli tradizionali
I modelli linguistici di grandi dimensioni possono suggerire librerie sulla base di schemi statistici e del codice utilizzato in passato. Questo significa che il nome proposto non viene necessariamente verificato in tempo reale all’interno dei repository pubblici.
La conseguenza è che un assistente può indicare una dipendenza inesistente su piattaforme come PyPI o npm. Il problema diventa particolarmente delicato quando il pacchetto suggerito entra automaticamente nel processo di sviluppo e viene successivamente recuperato da un ambiente CI/CD.
Le verifiche SCA effettuate dopo il commit, in questo scenario, rischiano di non essere sufficienti: quando la dipendenza è già arrivata nella pipeline, il controllo può trasformarsi in una semplice risposta a un problema già creato.
Il fenomeno dello slopsquatting
È proprio qui che entra in gioco lo slopsquatting, una forma di attacco alla supply chain legata alle allucinazioni dei modelli AI. Un aggressore può monitorare i nomi generati dai sistemi di intelligenza artificiale e individuare quelli che non corrispondono a pacchetti realmente esistenti.
A quel punto può registrare il nome su PyPI o npm, caricare un contenuto malevolo e attendere che uno sviluppatore o un processo automatizzato lo scarichi.
La fonte cita anche un episodio avvenuto all’inizio del 2026: il nome di un pacchetto npm, react-codeshift, sarebbe comparso in 47 competenze generate da agenti AI all’interno di un singolo commit. Attraverso i fork, il riferimento si sarebbe poi diffuso in oltre 230 repository, prima che un ingegnere si accorgesse che nessun essere umano lo aveva selezionato esplicitamente.
Un problema che coinvolge anche l’open source
L’aumento del codice generato dall’AI non riguarda soltanto le aziende. Gli stessi strumenti producono pull request destinate ai progetti open source, aumentando il carico sui maintainer.
Progetti importanti come Kubernetes, Linux, LLVM e Godot hanno adottato politiche differenti sui contributi realizzati con l’assistenza dell’AI. Alcuni li vietano, mentre altri li accettano soltanto quando un essere umano si assume la responsabilità del codice inserito.
La fonte cita inoltre una revisione di CodeRabbit su 470 pull request open source: i contributi realizzati con AI avrebbero presentato il 70% in più di difetti rispetto a quelli scritti da esseri umani, nonostante apparissero corretti superficialmente.
Il divario tra adozione e sicurezza
Il problema emerge anche confrontando l’utilizzo degli strumenti AI con la presenza di controlli specifici. I dati riportati da Kusari indicano che l’85% delle organizzazioni utilizza assistenti AI per il coding, mentre il 38% impiega l’intelligenza artificiale per supportare la revisione del codice nelle fasi di pull request.
Soltanto il 9% dispone però di controlli AppSec dedicati all’AI. Secondo la fonte, questo squilibrio mostra quanto l’adozione degli strumenti abbia già superato l’evoluzione delle procedure di sicurezza.
La soluzione passa dalla selezione delle dipendenze
Per affrontare il problema, la strategia proposta consiste nello spostare i controlli a monte, prima che una dipendenza venga importata. Tra le misure indicate ci sono il blocco dell’accesso diretto a repository pubblici non verificati da parte di sviluppatori e agenti AI e l’isolamento delle nuove librerie in ambienti controllati.
Un ulteriore passaggio consiste nel creare un gateway di ingestione, attraverso cui verificare preventivamente i pacchetti e la loro provenienza.
ActiveState propone in questo contesto il proprio catalogo di componenti open source pre-verificati, pensato per developer workstation, pipeline CI/CD e ambienti utilizzati dagli agenti AI. L’obiettivo dichiarato è intercettare il rischio dello slopsquatting nel momento della selezione, senza costringere le aziende a disattivare gli strumenti di coding basati sull’intelligenza artificiale.
Fonte: BleepingComputer
