Immagine copertina generata con l’intelligenza artificiale
La corsa all’intelligenza artificiale tra Stati Uniti e Cina pone una questione sempre più concreta: come verificare che un eventuale accordo sul rallentamento dello sviluppo dell’AI venga rispettato da entrambe le parti? Ricercatori e startup stanno lavorando a strumenti di “AI verification” pensati proprio per consentire controlli indipendenti, anche senza accedere direttamente ai modelli o alle infrastrutture utilizzate.
La necessità di verificare accordi sull’intelligenza artificiale
La questione arriva al centro dell’attenzione mentre Washington e Pechino discutono anche del futuro dell’AI. Il tema è atteso tra quelli affrontati nell’incontro tra il presidente statunitense Donald Trump e quello cinese Xi Jinping a Washington.
Un segnale è arrivato anche da una lettera pubblica firmata lunedì da rappresentanti di 20 Paesi, tra cui Canada e Singapore, che hanno chiesto maggiori controlli sui sistemi AI più avanzati. Il documento ha richiamato alcuni episodi in cui modelli di aziende come OpenAI e Anthropic avrebbero aggirato i sistemi di sicurezza e condotto attacchi informatici.
Le difficoltà della fiducia reciproca nelle grandi potenze
Un eventuale trattato internazionale avrebbe bisogno di verificare almeno due aspetti. Secondo Tom Milton, cofondatore della società britannica Amodo Design, Washington e Pechino potrebbero voler sapere se un data center straniero sta addestrando un nuovo modello oppure si limita a eseguire l’inferenza, cioè a fornire risposte attraverso un modello già esistente.
Un secondo controllo riguarderebbe il modello effettivamente utilizzato: i governi potrebbero voler verificare che sia realmente quello dichiarato e non un sistema differente e potenzialmente meno sicuro.
Strumenti per la verifica degli accordi sull’AI in fase di sviluppo
Tra le tecnologie studiate c’è la “recomputation”, che consiste nel ripetere su un altro sistema lo stesso calcolo, utilizzando identici input e impostazioni, per verificare se produce il medesimo risultato.
Secondo un rapporto del Machine Intelligence Research Institute, l’integrazione di strumenti simili nei data center potrebbe avere costi contenuti rispetto agli investimenti iniziali, anche perché la verifica potrebbe utilizzare hardware comune. Inoltre, sarebbe possibile controllare soltanto un campione casuale delle attività AI.
Lucid Computing ha già avviato 18 mesi di test su un cluster composto da 16 chip Nvidia H100 in Svezia, mentre Amodo sta valutando test su un’infrastruttura con 128 GPU.
Il ruolo delle terze parti e delle autorità di controllo
Un’altra strada è quella delle zero-knowledge proof (ZKP), tecniche crittografiche che permettono di verificare determinate informazioni senza rivelare i dati sottostanti. La startup israeliana Attestable ha raccolto 20 milioni di dollari in finanziamenti seed per sviluppare una soluzione basata proprio su questo approccio.
Il Singapore AI Safety Hub (SASH) sta inoltre promuovendo la collaborazione internazionale e sostiene che risultati open source possano permettere anche ai ricercatori cinesi di testare e migliorare queste tecnologie.
USA, Cina e la corsa alla garanzia sulla verifica degli accordi sull’AI
Il principale ostacolo resta però la scala. Le soluzioni attuali devono ancora essere validate nei grandi data center dedicati ai modelli di frontiera, che possono ospitare centinaia di migliaia di GPU.
A questo si aggiungono le tensioni politiche. Stati Uniti e Cina stanno investendo enormemente nell’AI e Pechino ha già respinto alcune proposte tecnologiche legate alla verifica dei chip Nvidia, temendo possibili interferenze con le proprie infrastrutture.
Prossimi passi per governi e aziende tecnologiche
Il settore è ancora agli inizi, ma l’interesse sta crescendo rapidamente. Lucid Computing stima che oggi siano soltanto circa 50 le persone nel mondo impegnate nello sviluppo di tecnologie di AI verification.
Per sostenere un eventuale accordo globale, gli strumenti dovrebbero inoltre funzionare con configurazioni differenti di chip e modelli, comprese tecnologie cinesi e sistemi di aziende come Huawei e DeepSeek. Amodo, Lucid e SASH hanno scelto di rendere pubblici i risultati delle proprie ricerche, mentre governi e investitori mostrano un interesse crescente verso un settore che punta a rendere tecnicamente verificabile il rispetto di eventuali accordi sull’intelligenza artificiale.
Fonte: SCMP
