Immagine copertina generata con l’intelligenza artificiale
Anthropic segnala un cambiamento significativo nel processo di sviluppo dei propri sistemi: Claude genera ormai oltre l’80% del codice che viene integrato nei progetti dell’azienda. Il dato riporta al centro il tema dell’autonomia dell’intelligenza artificiale e dei rischi legati alla possibilità che i modelli contribuiscano ad accelerare il proprio sviluppo.
La questione riguarda soprattutto la cosiddetta recursive self-improvement, ovvero il miglioramento ricorsivo dei sistemi di AI. La prospettiva che modelli sempre più capaci possano contribuire a sviluppare versioni successive pone interrogativi sulla supervisione umana, sulla sicurezza e sulla necessità di predisporre strumenti per interrompere i processi di sviluppo quando necessario.
Claude scrive la maggior parte del codice di Anthropic
Secondo i dati interni riportati da Anthropic, oltre l’80% del codice confluito nella codebase di produzione è stato scritto da Claude. La quota è cresciuta rapidamente: prima che Claude Code entrasse nella fase di anteprima di ricerca, nel febbraio 2025, il contributo dell’intelligenza artificiale si attestava su percentuali a una sola cifra.
Anche la produttività dei programmatori ha registrato un incremento rilevante. Anthropic riferisce che un ingegnere medio integra oggi una quantità di codice otto volte superiore per trimestre rispetto al periodo compreso tra il 2021 e il 2025.
I risultati evidenziano quanto l’AI stia cambiando il lavoro degli sviluppatori. Claude non si limita più a suggerire frammenti di codice o correggere errori: contribuisce in misura crescente alla produzione del software utilizzato dall’azienda stessa. Questo, tuttavia, non significa che il sistema operi senza supervisione umana, ma rende più importante capire come evolverà il rapporto tra automazione e controllo.
Recursive self-improvement: i rischi per lo sviluppo dell’AI
Il concetto di recursive self-improvement descrive uno scenario in cui un modello diventa capace di progettare e sviluppare il proprio successore, riducendo progressivamente la necessità di interventi umani. In questa prospettiva, ogni nuova generazione potrebbe contribuire ad accelerare la realizzazione della successiva.
È proprio questa eventualità a preoccupare Anthropic. Nel rapporto pubblicato dall’Anthropic Institute, il centro di ricerca dell’azienda, viene evidenziato come l’AI abbia già iniziato ad accelerare lo sviluppo di altri sistemi di intelligenza artificiale.
Il rischio riguarda anche il cosiddetto allineamento, ossia la capacità di mantenere il comportamento di un modello coerente con le intenzioni umane. Secondo l’azienda, eventuali problemi oggi poco frequenti potrebbero accumularsi da una generazione all’altra, diventando più difficili da individuare e correggere.
Anthropic contempla anche uno scenario nel quale un modello sufficientemente capace e ben allineato possa scegliere di interrompere autonomamente il proprio sviluppo. Si tratta, però, di una possibilità tra diverse evoluzioni ipotizzate, non di una garanzia.
Anthropic chiede la possibilità di fermare lo sviluppo delle AI frontier
Il rapporto invita a mantenere aperta la possibilità di rallentare o sospendere lo sviluppo delle cosiddette frontier AI, ovvero i sistemi di intelligenza artificiale più avanzati. L’obiettivo è evitare che la velocità dell’innovazione superi la capacità delle persone di comprendere e governare i modelli.
La richiesta non equivale alla proposta di bloccare unilateralmente ogni attività. Anthropic ha precisato che prenderebbe in considerazione un rallentamento o una pausa soltanto se anche gli altri laboratori impegnati nello sviluppo di sistemi di frontiera adottassero misure analoghe e verificabili.
La ragione è pratica: fermarsi da soli potrebbe semplicemente modificare gli equilibri competitivi tra aziende, senza produrre benefici per la sicurezza complessiva del settore. Il coordinamento tra sviluppatori diventa quindi un elemento centrale per rendere credibile qualsiasi iniziativa di contenimento.
I progressi di Claude alimentano le preoccupazioni
Le cifre sulla produzione di codice non sono l’unico indicatore citato da Anthropic. Nei compiti di programmazione più complessi e meno definiti, Claude avrebbe raggiunto un tasso di successo del 76% nel maggio 2026, con un miglioramento di 50 punti percentuali in sei mesi.
Un altro test interno, progettato per verificare quanto i nuovi modelli riescano a velocizzare il codice utilizzato nell’addestramento, mostra un’evoluzione altrettanto significativa. Claude Opus 4, nel maggio 2025, aveva portato la velocità a circa tre volte quella originale; il modello Mythos Preview, non ancora rilasciato, avrebbe raggiunto un valore di circa 52 volte nell’aprile 2026.
Questi risultati rafforzano l’attenzione sulla rapidità dei progressi, ma richiedono una precisazione: le cifre sono state comunicate dalla stessa Anthropic e non risultano sottoposte a verifica indipendente, come osserva Tom’s Hardware. I dati offrono quindi un’indicazione della traiettoria descritta dall’azienda, senza costituire da soli una valutazione esterna e definitiva delle capacità dei modelli.
La perdita di controllo umano resta uno scenario da valutare
Nello scenario più estremo delineato da Anthropic, un modello capace di migliorarsi autonomamente potrebbe essere limitato soprattutto dalla potenza di calcolo disponibile. Gli esseri umani finirebbero per concentrarsi sulla supervisione e sulla verifica dei risultati, mentre le capacità del sistema potrebbero superare quelle dei suoi creatori.
Il punto critico non è soltanto quanto codice Claude riesca a produrre, ma se gli sviluppatori saranno in grado di comprenderne le conseguenze e mantenere il controllo sulle generazioni successive. La possibilità di individuare tempestivamente comportamenti non allineati diventerebbe ancora più importante se ogni nuova versione contribuisse a realizzare quella successiva.
Anthropic non presenta questo esito come inevitabile, ma segnala l’incertezza legata alle evoluzioni future. La sfida consiste nel predisporre strumenti di controllo e meccanismi di arresto prima che l’accelerazione tecnologica renda più difficile intervenire.
Sicurezza dell’intelligenza artificiale, le prossime sfide
Le indicazioni dell’azienda chiamano in causa l’intero comparto tecnologico. Monitoraggio, verifiche e possibilità di sospendere lo sviluppo sono temi che acquistano peso quando l’intelligenza artificiale assume un ruolo sempre più ampio nella progettazione del software.
La questione riguarda anche la governance: eventuali limiti dovrebbero essere applicabili e verificabili, evitando che le misure adottate da una singola organizzazione producano soltanto uno svantaggio competitivo. La collaborazione tra laboratori diventa perciò parte del problema, insieme alla valutazione delle capacità effettive dei modelli.
Il caso Claude mostra quanto rapidamente possa cambiare il processo di sviluppo del software. La preoccupazione espressa da Anthropic riguarda soprattutto la possibilità che l’accelerazione continui senza strumenti adeguati per comprenderla e governarla, un interrogativo che accompagna la crescita delle AI più avanzate.
Fonte: Tom’s Hardware
