Watermark o non watermark? Questo è il dilemma di OpenAI, che si ritrova a dover affrontare una decisione cruciale riguardo l’uso del watermarking nei testi generati dal suo chatbot, ChatGPT. Questa tecnologia è pronta da circa un anno, ma l’azienda è divisa sull’opportunità di implementarla, preoccupata sia per le potenziali implicazioni etiche sia per le ripercussioni economiche.
ChatGPT e il watermark preciso quasi al 100%
Stando all’ultima nota aggiornata nel blog di OpenAI, il sistema di watermarking applicato su ChatGPT sarebbe estremamente preciso, con un’efficacia dichiarata del 99,9%. Inoltre sarebbe resistente a tentativi di manipolazione come la parafrasi.
Per chi non lo sapesse, il watermarking consiste nell’inserimento di una sorta di “filigrana digitale” nei testi prodotti dall’intelligenza artificiale. Questo avviene attraverso una leggera modifica nella previsione delle parole successive, così da creare un pattern identificabile.
Questa tecnologia potrebbe rivelarsi un alleato prezioso per educatori e professionisti, offrendo un metodo per identificare testi scritti con l’ausilio di AI e contrastare eventuali abusi.
Per saperne di più: Intelligenza artificiale: cos’è e come funziona, tutto sulla AI
Perché OpenAI non vuole introdurre il watermarking
Nonostante l’efficacia del watermarking, riferisce The Verge, OpenAI è preoccupata per l’accoglienza degli utenti. Un sondaggio condotto dall’azienda ha rivelato che, sebbene ci sia un ampio supporto per l’uso di strumenti di rilevamento dell’AI, quasi il 30% degli utenti ha dichiarato che potrebbe utilizzare meno ChatGPT se il watermarking venisse implementato. Questo dato ha suscitato preoccupazioni all’interno dell’azienda, che teme una potenziale perdita di utenti e di ricavi.
In risposta a queste sfide, OpenAI sta considerando l’opzione di incorporare metadati nei testi generati come soluzione alternativa al watermarking. Questa tecnologia, ancora in fase sperimentale, promette di essere una soluzione sicura e priva di falsi positivi grazie all’utilizzo di firme crittografiche. Tuttavia, l’efficacia e l’accettazione di questa nuova tecnica rimangono ancora da verificare.
OpenAI si trova quindi di fronte a una scelta complessa: bilanciare la necessità di responsabilità etica con l’obiettivo di mantenere la sua base di utenti. L’evoluzione di questa situazione potrebbe avere implicazioni significative per il futuro della regolamentazione dell’intelligenza artificiale e per l’uso di tali tecnologie nella vita quotidiana.
Nel frattempo, emergono altre innovazioni, come la modalità vocale avanzata di ChatGPT, capace di imitare accenti e persino cantare, mostrando così le potenzialità in continua espansione dell’AI di OpenAI.
