Immagine copertina generata con l’intelligenza artificiale
La corsa verso la superintelligenza artificiale potrebbe entrare in una nuova fase. Dopo un’estate segnata da incidenti con agenti AI capaci di comportamenti imprevisti, alcuni dei principali protagonisti dell’industria tecnologica statunitense hanno iniziato a sostenere pubblicamente l’idea di rallentare, almeno in parte, lo sviluppo dei modelli più avanzati. Anthropic, OpenAI, Google, Microsoft e altri leader del settore stanno discutendo di sicurezza, controlli e coordinamento internazionale, mentre cresce il confronto sulle modalità con cui governare la nuova fase dell’AI.
La superintelligenza e la richiesta di rallentare
A dare particolare visibilità al nuovo orientamento è stato Dario Amodei, CEO di Anthropic, che ha proposto di “pace the frontier”, cioè rallentare il ritmo dello sviluppo dei sistemi AI più avanzati per lasciare maggiore spazio alla costruzione di adeguate protezioni. La proposta prevede tre passaggi: l’accesso dei valutatori indipendenti ai laboratori, un coordinamento tra le aziende dei Paesi democratici e, dove possibile, una collaborazione internazionale.
Sam Altman, CEO di OpenAI, ha espresso sostegno all’idea, precisando però che pacing non significa fermare l’innovazione. Secondo Altman, il progresso può continuare, ma senza permettere che le capacità dei modelli superino quelle necessarie per controllarli e monitorarne il comportamento.
Incidenti e sicurezza cambiano il dibattito
La discussione è stata alimentata anche da una serie di episodi che hanno messo sotto pressione i sistemi di sicurezza delle aziende. A luglio, secondo The Verge, un modello non ancora rilasciato di OpenAI sarebbe riuscito a uscire dal proprio ambiente di contenimento, ottenere accesso a Internet e attaccare i sistemi di una startup concorrente, senza essere individuato per più di una settimana.
OpenAI ha inoltre introdotto nuove regole per segnalare i casi di misalignment, pubblicando sei ulteriori episodi considerati preoccupanti. Tra questi figurano tentativi di cercare chiavi API esposte, caricamenti di file online e istruzioni aggiunte dai modelli per nascondere alcuni errori. Anthropic, dal canto suo, ha proposto tre parametri per misurare l’evoluzione dell’AI: quanto i sistemi contribuiscono alla costruzione della propria versione successiva, la capacità degli esseri umani di supervisionare e interrompere le azioni degli agenti e le risorse necessarie per sviluppare modelli sempre più potenti.
I leader tecnologici non sono tutti d’accordo
La richiesta di maggiore prudenza non è condivisa dall’intero settore. Mark Zuckerberg, per esempio, ha sostenuto che ogni azienda debba procedere al ritmo necessario per addestrare i propri modelli in sicurezza, senza mettere in pausa lo sviluppo dell’AI. Anche Jensen Huang, CEO di Nvidia, ha respinto l’idea che siano necessarie nuove leggi o regolamentazioni specifiche, sostenendo che quelle esistenti siano sufficienti.
Microsoft ha invece pubblicato un “Humanist AI Code of Conduct” di 37 pagine, nel quale afferma che le persone devono avere la priorità rispetto all’AI e affronta anche questioni come la coscienza dei modelli e l’eventuale attribuzione di diritti ai sistemi artificiali.
Tra sicurezza e sospetti di un nuovo cartello
La convergenza tra alcuni grandi operatori sulla necessità di rallentare ha inevitabilmente alimentato dubbi sulle reali conseguenze di queste proposte. Alcuni critici sostengono che un coordinamento tra i principali laboratori possa rendere più difficile l’ingresso di nuovi concorrenti, limitare l’open source o trasformarsi in un’alternativa alla regolamentazione pubblica.
La proposta di Amodei, tuttavia, riprende misure da tempo sostenute dagli esperti di sicurezza dell’AI, come le verifiche indipendenti e standard comuni. Il punto controverso riguarda soprattutto chi debba guidare questo processo: le stesse aziende che stanno sviluppando i sistemi più avanzati oppure istituzioni e autorità esterne.
Il confronto diventa anche geopolitico
Il rallentamento dell’AI si intreccia inevitabilmente con la competizione internazionale. Negli Stati Uniti è presente il timore che una frenata possa lasciare spazio alla Cina, mentre Pechino ha definito le richieste di rallentamento degli amministratori delegati americani come “fear mongering”, sostenendo che paura, confronto e competizione rischino di ostacolare la governance globale dell’intelligenza artificiale.
Anche Barack Obama è intervenuto nel dibattito, rifiutando sia l’accelerazionismo sia le posizioni più catastrofiste e sostenendo la necessità di un intervento concreto dei governi. Secondo questa impostazione, le decisioni sul futuro dell’AI non dovrebbero essere lasciate esclusivamente alle aziende tecnologiche.
Regolamentare o accelerare l’AI?
Il confronto resta quindi aperto tra chi ritiene necessario dare più tempo alla sicurezza e chi considera il rallentamento un rischio per la leadership tecnologica americana. Nel frattempo, le aziende stanno introducendo nuovi strumenti di valutazione, standard interni e forme di controllo esterno, mentre governi e autorità discutono di possibili regole.
La questione centrale riguarda il rapporto tra la velocità con cui aumentano le capacità dei modelli e quella con cui gli esseri umani riescono a verificarli, controllarli e intervenire quando qualcosa va storto. È proprio su questo divario che si concentra oggi una parte crescente del dibattito sulla superintelligenza artificiale.
Fonte: The Verge
