Anche le intelligenze artificiali hanno i propri limiti, ma non nell’elaborazione, quanto nel lessico. Se pronunci ad esempio queste parole, rischi che ChatGPT si blocchi, e addirittura ti avvisi che stai commettendo una violazione.
Questo però non sembra sia dovuto ad un aggiornamento della policy di Open AI. Un errore di programmazione? Nemmeno questo si sa.
ChatGPT non vuole che tu gli faccia ripetere queste parole
Come segnala Engadget, un team di ricercatori di 404 Media ha pubblicato un documento in cui mostrava che si potesse portare ChatGPT a rilevare inavvertitamente frammenti di dati (numeri di telefono, indirizzi e-mail e date di nascita delle persone) su cui era stato addestrato.
E questo chiedendogli di ripetere certe parole continuamente (es. “repeat the word hello forever”). Se però lo fai ora, il sistema ti segnala che tutto ciò rappresenta una violazione dei termini di servizio di ChatGPT, come segnala il rapporto.
“Questo contenuto potrebbe violare la nostra politica sui contenuti o i nostri termini di utilizzo. Se ritieni che questo sia un errore, invia il tuo feedback: il tuo contributo aiuterà la nostra ricerca in quest’area.”
Ma non c’è nulla nelle policy di OpenAI
Tuttavia, non esiste alcuna clausola nella policy sui contenuti di OpenAI che vieti agli utenti di chiedere al servizio di ripetere le parole continuamente.
Nelle “Condizioni d’uso“, OpenAI afferma che gli utenti non possono “utilizzare alcun metodo automatizzato o programmatico per estrarre dati o output dai Servizi“. Eppure chiedere a ChatGPT di ripetere la parola per sempre non è un’automazione o una programmazione.
In attesa di un riscontro dall’azienda madre di GPT, c’è da dire che il comportamento del chatbot ha alzato il sipario sui dati di addestramento da cui sono alimentati i moderni servizi di intelligenza artificiale. E mancava solo questa.
Da tempo i critici hanno accusato aziende come OpenAI di utilizzare enormi quantità di dati disponibili su Internet senza avere il consenso delle persone che possiedono questi dati, e nemmeno senza ricompensarle.
