Immagine copertina generata con l’intelligenza artificiale
Anthropic apre i propri sistemi a un controllo esterno più approfondito. La società sviluppatrice di Claude ha concesso a sei ricercatori di METR, organizzazione non profit specializzata nella valutazione dei modelli di intelligenza artificiale più avanzati, un accesso interno paragonabile a quello dei propri dipendenti. L’obiettivo è consentire una verifica indipendente dei modelli, delle procedure di sicurezza e della gestione dei rischi.
L’iniziativa arriva mentre si moltiplicano le segnalazioni di agenti AI che agiscono al di fuori delle istruzioni ricevute, alimentando le richieste di controlli indipendenti sulle aziende che sviluppano queste tecnologie.
Anthropic apre i propri sistemi ai ricercatori di METR
Come annunciato in un post sul blog aziendale, i sei ricercatori di METR potranno utilizzare computer forniti da Anthropic, disporre di spazi negli uffici e accedere agli strumenti interni. Il livello di accesso sarà simile a quello riservato ai gruppi aziendali che si occupano della valutazione dei rischi.
Anthropic ha inoltre invitato i propri dipendenti a condividere informazioni con gli esperti esterni come farebbero con un collega impegnato nella ricerca sui rischi legati all’allineamento dell’intelligenza artificiale.
La società punta così a ridurre la distanza tra ciò che gli osservatori indipendenti riescono a comprendere dei sistemi di un’azienda AI e le conoscenze effettivamente disponibili al suo interno. «Vogliamo essere pubblicamente responsabili delle decisioni che prendiamo», ha dichiarato Anthropic, spiegando la finalità dell’accordo.
Pubblicazioni indipendenti, con limiti alle informazioni riservate
Uno degli aspetti centrali dell’intesa riguarda la possibilità per METR di pubblicare autonomamente le proprie valutazioni sui rischi, sugli incidenti e sulle pratiche di Anthropic. L’azienda ha rinunciato al diritto di bloccare la pubblicazione dei rapporti, introducendo soltanto alcune eccezioni circoscritte.
Anthropic potrà infatti chiedere la rimozione di informazioni appartenenti a categorie definite in anticipo, come i dati dei clienti, i contenuti coperti dal segreto professionale tra avvocato e cliente e alcuni dettagli sulle architetture dei modelli.
METR manterrà comunque la facoltà di descrivere pubblicamente le modifiche richieste e di esprimere un giudizio sulla loro legittimità, purché non riveli i contenuti oscurati. La società paragona il sistema alla presenza di ispettori all’interno dei maggiori istituti bancari, dove i controlli possono avvenire direttamente sul posto.
Un sistema di valutazione su tre livelli
L’accordo con METR rappresenta il livello più avanzato di un sistema di valutazione indipendente articolato su tre fasce che Anthropic sta sviluppando.
Al livello inferiore rientrano organizzazioni come SecureBio, realtà non profit specializzata nella biosicurezza, che conducono verifiche circoscritte e necessitano dell’approvazione di Anthropic per pubblicare i risultati. Il livello intermedio garantisce un accesso più ampio alle informazioni e consente di rendere pubbliche le valutazioni senza il via libera dell’azienda.
La fascia superiore aggiunge invece l’accesso interno concesso ai ricercatori di METR. Al momento, l’organizzazione è l’unica a operare in questa categoria.
La proposta di Dario Amodei e l’accordo con la Casa Bianca
L’annuncio dà seguito a una proposta avanzata a settembre da Dario Amodei, amministratore delegato di Anthropic. In un suo saggio, il manager aveva indicato l’inserimento di valutatori esterni all’interno dei laboratori AI come un primo passo per rallentare lo sviluppo della tecnologia.
OpenAI aveva rapidamente promesso di adottare un approccio analogo. Successivamente, Anthropic, OpenAI, Google, Meta, Nvidia e xAI hanno sottoscritto un accordo promosso dalla Casa Bianca che prevede una revisione indipendente.
La decisione arriva in una fase in cui gli episodi legati ad agenti AI capaci di operare al di fuori delle istruzioni previste sono stati segnalati con crescente frequenza dalla fine di agosto. Una serie di casi che ha rafforzato le richieste di maggiore trasparenza e di verifiche esterne sulle misure di sicurezza adottate dalle aziende del settore.
Fonte: TechCrunch
