La regolamentazione dell’intelligenza artificiale si sta sviluppando sempre più. Già più di una dozzina di Paesi nel mondo hanno pubblicato delle linee guida per garantire lo sviluppo di sistemi AI sicuri, e a prova di criminalizzazione.
Ma cosa prevedono, e quali sono gli obiettivi di queste nuove linee guida?
In arrivo le nuove linee guida per le AI sicure: cosa prevedono
Il Regno Unito e gli Stati Uniti, insieme a partner internazionali di altri 16 Paesi, hanno pubblicato nuove linee guida per lo sviluppo di sistemi di intelligenza artificiale (AI) sicuri. A confermare la notizia sono:
- la Cybersecurity and Infrastructure Security Agency (CISA) degli Stati Uniti,
- il Centro nazionale per la sicurezza informatica del Regno Unito.
L’obiettivo è aumentare i livelli di sicurezza informatica dell’AI e contribuire a garantire che la tecnologia sia progettata, sviluppata e distribuita in modo sicuro.
Le linee guida più recenti aiuteranno gli sviluppatori a garantire che la sicurezza informatica sia un prerequisito essenziale per la sicurezza dei sistemi di intelligenza artificiale e parte integrante del processo di sviluppo da dall’inizio e per tutto, noto come un approccio “secure by design“.
Ciò comprende progettazione sicura, sviluppo sicuro, implementazione sicura e funzionamento e manutenzione sicuri. Tutto ciò andrà a coprire le aree significative all’interno del ciclo di vita dello sviluppo del sistema IA. Si richiederà che le organizzazioni modellino le minacce ai loro sistemi e salvaguardino le loro catene di approvvigionamento e infrastruttura.
Le linee guida si basano inoltre sui continui sforzi del governo degli Stati Uniti per gestire le nuove tecnologie. In questo caso, i rischi posti dall’intelligenza artificiale, garantendo che i nuovi strumenti siano testati adeguatamente prima del rilascio al pubblico.
Maggior tutela alla privacy e alla cybersecurity
Con queste nuove linee guida, si introducono misure di protezione per affrontare i danni sociali, come pregiudizi, discriminazioni e problemi di privacy. E questo creando metodi solidi per consentire ai consumatori di identificare il materiale generato dall’intelligenza artificiale.
Oltre a ciò, l’obiettivo è anche combattere gli attacchi avversari mirati ai sistemi di intelligenza artificiale e di machine learning (ML) che mirano a causare alterazioni. Come ad esempio influenzare la classificazione di un modello, o consentire agli utenti di eseguire azioni non autorizzate ed estrarre informazioni sensibili.
Come riporta il New York Times, esistono molti modi per ottenere questi effetti, ad esempio attacchi di tipo prompt injection nel dominio LLM (Large Language Model) o corrompere deliberatamente i dati di addestramento o il feedback degli utenti (noto come ‘avvelenamento dei dati’).
Gli impegni richiedono inoltre che le aziende si impegnino a facilitare la scoperta e la segnalazione di vulnerabilità da parte di terzi nei loro sistemi di intelligenza artificiale. E questo attraverso un sistema di bug bounty in modo che possano essere trovati e risolti rapidamente.
