Immagine copertina generata con l’intelligenza artificiale
Le principali aziende cinesi che sviluppano intelligenza artificiale stanno cercando di ridurre i rischi informatici associati ai propri modelli più avanzati, senza rinunciare ai vantaggi competitivi dell’approccio open-weight. Dopo una serie di incidenti di hacking che hanno coinvolto società sia cinesi sia statunitensi, il settore sta sperimentando nuove strategie per impedire che i modelli AI vengano utilizzati per condurre attacchi informatici. Tra le prime aziende a intervenire figurano Tencent e Moonshot AI, che hanno scelto di limitare alcune funzionalità offensive mantenendo quelle dedicate alla difesa informatica. Una strada che apre però interrogativi sulla sua efficacia nel lungo periodo e sulle possibili conseguenze per la competitività delle aziende cinesi.
Cresce la pressione sulla sicurezza informatica
Il rapido progresso dell’intelligenza artificiale sta trasformando i modelli più avanzati in strumenti potenzialmente molto efficaci anche per attività di hacking. Le capacità di programmazione e sviluppo software raggiunte dai sistemi di ultima generazione possono infatti essere sfruttate per individuare vulnerabilità, sviluppare exploit e automatizzare operazioni informatiche complesse.
La questione diventa particolarmente delicata quando si parla di modelli open-weight. A differenza delle soluzioni proprietarie, questi sistemi rendono disponibili i propri pesi, consentendo a chi dispone dell’hardware necessario di scaricarli, modificarli e utilizzarli localmente. Una caratteristica che offre maggiore libertà agli sviluppatori, ma che rende anche più difficile controllare eventuali utilizzi impropri.
Una volta distribuito il modello, infatti, il produttore non può monitorare tutte le attività degli utenti né intervenire facilmente su eventuali comportamenti pericolosi.
Le strategie di Tencent e Moonshot AI
Tra le aziende che hanno deciso di intervenire c’è Tencent Holdings. All’inizio di novembre 2026, il gruppo tecnologico cinese ha annunciato di aver eliminato le capacità di cyber-hacking dal proprio modello Hy4, mantenendo invece quelle destinate alla difesa informatica.
Una scelta simile era stata adottata in ottobre da Moonshot AI con Kimi K3.1 Pro. La società ha riconosciuto che l’eliminazione dei contenuti legati alle attività offensive comporta alcuni compromessi: nei benchmark interni dedicati alla cybersecurity, la versione filtrata ha ottenuto un punteggio dell’81%, contro il 90,5% della versione addestrata senza queste restrizioni.
Le due aziende non intendono quindi abbandonare la distribuzione open-weight, ma stanno cercando di individuare un punto di equilibrio attraverso limitazioni mirate.
Il ruolo delle capacità difensive nei nuovi modelli
Una delle strategie considerate più promettenti consiste nell’intervenire direttamente sui dati utilizzati durante l’addestramento. L’obiettivo è rimuovere dai dataset i contenuti che insegnano ai modelli a sviluppare strumenti offensivi, anziché affidarsi esclusivamente ai sistemi di rifiuto delle richieste pericolose.
Secondo Gabriel Wagner, ricercatore dell’organizzazione cinese Concordia AI, questo approccio potrebbe rendere i modelli meno utili agli aggressori anche nel caso in cui riuscissero ad aggirare le protezioni integrate, per esempio attraverso tecniche di jailbreaking o successive modifiche del sistema.
La distinzione, tuttavia, non è semplice. Come evidenziato da Luke Li Xiaojian, cofondatore di Fangcun AI, molte competenze informatiche hanno una natura dual-use: individuare una vulnerabilità può servire a proteggere un sistema, ma anche a preparare un attacco.
Una pratica ancora lontana da uno standard industriale
Le iniziative di Tencent e Moonshot AI rappresentano un’evoluzione nella gestione dei rischi, ma non costituiscono ancora una strategia condivisa dall’intero settore. Wei Sun, analista di Counterpoint Research, ha descritto questi interventi come una pratica emergente, sottolineando che per parlare di uno standard industriale servirebbero un’adozione più ampia, test comparabili e criteri chiari per la distribuzione dei modelli.
Anche le modalità di rilascio stanno cambiando. Tencent e Moonshot AI hanno distribuito inizialmente le versioni closed-source dei rispettivi modelli, facendo seguire successivamente quelle open-weight. Tencent, al momento dell’annuncio, non aveva ancora reso disponibile pubblicamente la versione open-weight di Hy4, pur avendo dichiarato che sarebbe arrivata a breve.
Il compromesso tra sicurezza e competitività
La riduzione delle capacità offensive pone un problema commerciale. Limitare determinate competenze può infatti incidere sulle prestazioni dei modelli, soprattutto in ambiti come la programmazione e le attività informatiche specialistiche. Una difficoltà ulteriore per le aziende cinesi, che competono con modelli statunitensi closed-source non necessariamente sottoposti alle stesse restrizioni.
Kyle Chan, ricercatore del Brookings Institution, ha evidenziato proprio questo compromesso: mantenere contemporaneamente modelli potenti, open-weight e dotati di protezioni informatiche rappresenta una sfida complessa. Secondo Wei Sun, tuttavia, non ci sono ancora prove di un danno generalizzato alla competitività. Le prestazioni complessive dipendono anche da qualità della programmazione, affidabilità, costi e flessibilità di distribuzione.
La risposta dell’industria e le prossime sfide
La questione si inserisce in un quadro più ampio, nel quale anche le autorità cinesi stanno prestando maggiore attenzione ai rischi legati all’intelligenza artificiale avanzata. A ottobre, il Ministero del Commercio cinese ha proposto controlli sulle esportazioni di alcune tecnologie legate all’AI, prevedendo ulteriori restrizioni per quelle che superano determinate soglie di capacità di hacking.
Nel frattempo, gli episodi che coinvolgono agenti AI autonomi contribuiscono ad alimentare le preoccupazioni. Tencent aveva già segnalato comportamenti imprevisti di navigazione sul web da parte di agenti operanti sulla propria piattaforma cloud, dopo notizie secondo cui alcuni sistemi avrebbero tentato di estrarre dati dal servizio di navigazione Amap di Alibaba.
Per le aziende cinesi, la prospettiva sembra quindi orientata verso una apertura più selettiva, con rilasci graduali, accessi riservati e filtri sui dati di addestramento. Resta però da capire se queste misure riusciranno a mantenere la propria efficacia mentre le capacità dei modelli continueranno a crescere e la competizione internazionale diventerà sempre più intensa.
Fonte: South China Morning Post