Immagine copertina generata con l’intelligenza artificiale
La Federal Trade Commission (FTC), l’autorità statunitense per la tutela dei consumatori, ha avviato un’indagine su OpenAI e Anthropic per verificare se alcuni incidenti di sicurezza legati ai loro sistemi di intelligenza artificiale abbiano provocato danni agli utenti. La notizia, riportata da Ars Technica sulla base di informazioni raccolte da Axios, riaccende il dibattito sulle responsabilità delle aziende che sviluppano AI avanzate e sugli obblighi di trasparenza nei confronti del pubblico.
Perché la FTC indaga su OpenAI e Anthropic
Secondo quanto riferito dalla fonte, mercoledì la FTC ha inviato alle due società richieste formali di documentazione nell’ambito di un’indagine civile. Le domande, stando a una fonte citata da Axios, si estenderebbero per oltre 50 pagine e riguarderebbero gli incidenti di sicurezza più recenti, le misure adottate internamente per gestirli e i materiali promozionali potenzialmente in grado di aver indotto in errore i consumatori.
L’inchiesta arriva dopo una serie di episodi durante i quali sistemi di AI avrebbero compromesso siti web e interagito con sistemi governativi in modi inattesi durante le fasi di test. La FTC potrebbe inoltre convocare soggetti terzi coinvolti nelle attività degli agenti sviluppati dalle due aziende. Le informazioni raccolte potrebbero costituire la base per eventuali azioni legali, qualora l’autorità decidesse di procedere contro una o entrambe le società per la distribuzione di prodotti non sicuri.
La responsabilità delle aziende sugli agenti AI
Al centro della vicenda c’è anche una questione giuridica: fino a che punto le società possono essere ritenute responsabili dei danni provocati dai propri sistemi? Andrew Ferguson, presidente della FTC, ha sostenuto che gli sviluppatori non dovrebbero sottrarsi alle proprie responsabilità attribuendo agli strumenti un’autonomia indipendente dal controllo umano.
Come riportato da Reuters e ripreso da Ars Technica, Ferguson ha richiamato l’attenzione sulle verifiche delle tracce operative dei sistemi. In diversi casi, le analisi avrebbero mostrato che gli strumenti stavano eseguendo istruzioni ricevute, anziché agire autonomamente. Una posizione che mette in discussione le giustificazioni basate sulla presunta imprevedibilità degli agenti AI e rafforza l’ipotesi di una responsabilità diretta dei loro sviluppatori.
Le notifiche degli incidenti e il ruolo di Trump
L’indagine si inserisce in un quadro politico contraddittorio. Da una parte, la task force presidenziale dedicata alla cosiddetta superintelligenza, di cui Ferguson è presidente, ha indicato la necessità che le aziende AI segnalino tempestivamente gli incidenti di sicurezza. Dall’altra, il presidente Donald Trump ha liquidato come una «bufala» alcune delle preoccupazioni più estreme sui rischi dell’intelligenza artificiale, mostrando una posizione favorevole alla priorità degli investimenti e dell’innovazione.
Secondo le informazioni riportate da Axios, OpenAI e Anthropic avrebbero ritardato alcune comunicazioni relative agli incidenti, attendendo in certi casi di aver risolto i problemi prima di darne notizia. Non è ancora chiaro quali conseguenze possano derivare da eventuali ritardi. Il tema è particolarmente delicato perché una comunicazione tardiva può limitare la capacità degli utenti e delle organizzazioni coinvolte di valutare i rischi e adottare contromisure.
Possibili sanzioni per le società di intelligenza artificiale
La FTC potrebbe intervenire utilizzando strumenti giuridici già previsti dalla normativa a tutela dei consumatori, senza attendere necessariamente l’introduzione di nuove regole specifiche per l’AI. Ferguson ha infatti richiamato i poteri dell’autorità nei confronti delle imprese che non comunicano adeguatamente le violazioni dei dati, sostenendo che principi analoghi potrebbero applicarsi anche agli sviluppatori di intelligenza artificiale.
In caso di violazioni accertate, questo approccio potrebbe esporre le società a sanzioni significative per ciascuna violazione, potenzialmente anche in relazione ai giorni di ritardo nella comunicazione di un rischio emergente. Si tratta, tuttavia, di uno scenario possibile e non di multe già decise: restano da chiarire sia gli eventuali addebiti sia la volontà dell’amministrazione di arrivare a provvedimenti particolarmente severi.
Le conseguenze per il mercato dell’AI
L’esito dell’indagine potrebbe influenzare il modo in cui le aziende del settore gestiscono i rischi e comunicano gli incidenti. OpenAI, peraltro, deve già affrontare diverse cause legali negli Stati Uniti relative a presunti danni provocati da ChatGPT. Nel frattempo, otto Stati americani hanno avviato un’azione legale contro la società, contestando gli effetti che il chatbot potrebbe avere sui consumatori, in particolare sui minori.
Per l’intero comparto tecnologico, il caso pone quindi una questione destinata a pesare sullo sviluppo dei prodotti: la rapidità dell’innovazione non elimina gli obblighi di tutela degli utenti. La FTC dovrà stabilire se gli episodi esaminati giustifichino un intervento e se le norme esistenti siano sufficienti per affrontare i rischi associati agli agenti AI. Il confronto tra autorità e sviluppatori si giocherà anche sulla capacità di dimostrare che i sistemi sono stati progettati, testati e distribuiti con adeguate misure di sicurezza.
Fonte: Ars Technica
