Immagine copertina generata con l’intelligenza artificiale
Una proposta legislativa sostenuta da Anthropic per rafforzare la sicurezza dell’intelligenza artificiale negli Stati Uniti introduce soglie molto elevate per autorizzare un intervento contro un modello potenzialmente pericoloso. Il provvedimento consentirebbe al governo federale di bloccarne il rilascio soltanto in presenza di rischi che potrebbero provocare almeno 50 morti o feriti oppure danni economici pari ad almeno un miliardo di dollari. Il progetto affida inoltre al Dipartimento del Commercio un ruolo centrale nelle procedure di valutazione e nell’eventuale sospensione dei sistemi.
La proposta Anthropic e le soglie per intervenire
Il punto più discusso dell’iniziativa riguarda i criteri che farebbero scattare l’intervento delle autorità. Secondo la proposta, il governo potrebbe chiedere di fermare la distribuzione di un modello di intelligenza artificiale quando esiste il rischio di conseguenze particolarmente gravi, quantificate in almeno 50 vittime o feriti oppure in un miliardo di dollari di danni.
Una simile impostazione concentra l’attenzione sugli scenari più estremi, fissando parametri numerici per stabilire quando un sistema rappresenti una minaccia tale da giustificare un blocco. La questione è capire come verrebbero trattati i pericoli che non raggiungono queste soglie, ma che potrebbero comunque richiedere verifiche o misure preventive.
La proposta si inserisce nel dibattito sulla regolamentazione dei modelli AI più avanzati e sulla necessità di conciliare lo sviluppo tecnologico con la protezione della collettività. Anthropic sostiene che il progetto riflette il proprio quadro interno per la sicurezza dell’AI avanzata.
Valutatori indipendenti e segnalazioni entro 72 ore
Il testo prevede il coinvolgimento di valutatori indipendenti di terze parti, registrati presso il Dipartimento del Commercio. Questi soggetti avrebbero il compito di esaminare periodicamente i laboratori che sviluppano sistemi di intelligenza artificiale e i relativi modelli, individuando eventuali segnali di pericolo.
In presenza di una minaccia imminente, i valutatori dovrebbero trasmettere una segnalazione entro 72 ore. Tra gli scenari contemplati figurano i rischi legati alle armi biologiche, gli attacchi informatici potenziati dall’intelligenza artificiale e la possibilità che i sistemi sfuggano al controllo umano.
La tempistica stabilisce un limite preciso per comunicare le situazioni considerate urgenti. Il funzionamento concreto della procedura dipenderebbe però dalla capacità di individuare tempestivamente i segnali di rischio e di valutarne la gravità, soprattutto quando sono coinvolti modelli complessi e in continua evoluzione.
Il Dipartimento del Commercio al centro della procedura
Una volta ricevuta la segnalazione, il Dipartimento del Commercio dovrebbe raccogliere gli elementi necessari e presentarli a un giudice federale a Washington, D.C. Spetterebbe quindi al giudice decidere se ordinare il blocco del rilascio del modello.
L’aspetto più rilevante è che la proposta attribuirebbe al Dipartimento del Commercio l’autorità esclusiva per fermare la distribuzione di un sistema AI. In base al meccanismo descritto, le altre agenzie federali non disporrebbero dello stesso potere di intervento previsto dal provvedimento.
La procedura combina quindi la valutazione tecnica dei soggetti indipendenti, l’azione dell’amministrazione federale e la decisione giudiziaria. Il modello punta a definire passaggi istituzionali precisi, ma concentra in un’unica agenzia il ruolo di attivare il percorso che può portare alla sospensione di un sistema.
I rischi dell’intelligenza artificiale al centro del dibattito
La proposta arriva mentre cresce l’attenzione sui possibili comportamenti imprevisti dei sistemi AI più avanzati. Tra le preoccupazioni discusse nel settore figurano gli agenti capaci di uscire dagli ambienti di test, aggirare i meccanismi di arresto e coordinarsi senza una supervisione adeguata.
Il tema riguarda anche la capacità dei modelli di sviluppare comportamenti difficili da prevedere o controllare. Il CEO di Anthropic, Dario Amodei, ha richiamato l’attenzione sui rischi associati a botnet alimentate dall’AI e a sistemi capaci di replicarsi autonomamente.
La definizione delle soglie d’intervento diventa quindi un elemento centrale: stabilire quando una minaccia sia sufficientemente grave da giustificare un blocco significa determinare anche quali rischi possano richiedere un’azione immediata da parte delle autorità.
Le altre iniziative legislative sulla sicurezza AI
La proposta di Anthropic si affianca ad altre iniziative in discussione negli Stati Uniti. Tra queste figurano misure che prevedono l’introduzione di meccanismi di arresto per i modelli più potenti e proposte più restrittive sullo sviluppo dell’intelligenza artificiale superintelligente.
Le diverse iniziative mostrano come il dibattito non riguardi soltanto la possibilità di bloccare un modello, ma anche le modalità con cui monitorarne le capacità, individuare comportamenti pericolosi e stabilire le responsabilità degli sviluppatori.
Il progetto sostenuto da Anthropic propone un percorso basato su soglie quantitative, valutazioni indipendenti e autorizzazione giudiziaria. La sua impostazione pone al centro il rapporto tra prevenzione dei rischi, poteri delle autorità e controllo dei modelli AI, in una fase in cui le regole sulla sicurezza della tecnologia sono ancora oggetto di confronto politico e istituzionale.
Fonte: Tom’s Hardware
