L’utente dice di sì, OpenAI dice di no. Alla fine ci troviamo in un vero e proprio cul-de-sac. Con tanto di dati che non si sa se siano davvero stati davvero compromessi su ChatGPT.
L’unica certezza è che bisogna assolutamente evitare di includere dettagli personali nelle conversazioni con ChatGPT e servizi simili. Ma già da tempo si ripete questa storia.
OpenAI, fuga di dati? No, furto di account
Intanto partiamo con quanto riportato da Ars Technica in merito alla dichiarazione di alcuni responsabili di OpenAI. Secondo loro, le cronologie ChatGPT segnalate da un utente sono dovute dalla compromissione del suo account ChatGPT. Anche perché gli accessi non autorizzati provenivano dallo Sri Lanka, mentre l’utente accede al suo account da Brooklyn, New York.
Il problema è che l’utente, riferisce ad Ars, aveva usato tutti gli accorgimenti più utili per ridurre il rischio, come una password di nove caratteri con lettere maiuscole e minuscole e caratteri speciali. Riferisce comunque che le cronologie delle chat appartenenti ad altre persone sono apparse tutte insieme lunedì mattina durante una breve pausa dall’utilizzo del suo account.
La spiegazione di OpenAI probabilmente significa che il sospetto originale che ChatGPT abbia divulgato la cronologia delle chat a utenti non correlati è sbagliato. Tuttavia, sottolinea che il sito non fornisce alcun meccanismo per utenti come Whiteside nel proteggere i propri account utilizzando 2FA o nel tenere traccia di dettagli come la posizione IP degli accessi correnti e recenti.
Ma cosa è successo a ChatGPT?
Riassume Ars Technica, di recente alcuni utenti hanno segnalato come ChatGPT avesse fatto trapelare conversazioni private che includono credenziali di accesso e altri dettagli personali di utenti non correlati.
Oltre al linguaggio schietto e alle credenziali, la conversazione trapelata include il nome dell’app che il dipendente sta risolvendo e il numero del negozio in cui si è verificato il problema. I risultati sono apparsi lunedì mattina poco dopo che il lettore Whiteside aveva utilizzato ChatGPT per una query non correlata.
Altre conversazioni trapelate a Whiteside includono il nome di una presentazione su cui qualcuno stava lavorando, i dettagli di una query inedita e uno script che utilizza il linguaggio di programmazione PHP. Gli utenti di ciascuna conversazione trapelata sembravano diversi e non correlati tra loro. La conversazione riguardante il portale di prescrizione includeva l’anno 2020. Nelle altre conversazioni non apparivano le date.
Serve maggior protezione nei dettagli
Ma cosa potrebbe aver prodotto un simile errore? Il sito suppone che le cause precise di questo tipo di errore di sistema potrebbe riguardare il fatto che siano coinvolti dispositivi “middlebox”, che si trovano tra i dispositivi front-end e back-end.
Per migliorare le prestazioni, i middlebox memorizzano nella cache alcuni dati, comprese le credenziali degli utenti che hanno effettuato l’accesso di recente. Quando si verificano discrepanze, le credenziali di un account possono essere mappate su un account diverso.
Sottolinea Ars, è doveroso per le aziende tech eliminare i dettagli personali, come nel caso di OpenAI con le domande effettuate a ChatGPT e ad altri servizi di intelligenza artificiale.
Già lo scorso marzo, OpenAI, produttore di ChatGPT, ha messo offline il chatbot AI dopo che un bug faceva sì che il sito mostrasse i titoli della cronologia chat di un utente attivo a utenti non correlati.
A novembre, i ricercatori hanno pubblicato un documento che descriveva come hanno utilizzato le query per indurre ChatGPT a divulgare indirizzi e-mail, numeri di telefono e fax, indirizzi fisici e altri dati privati inclusi nel materiale utilizzato per addestrare il modello linguistico di grandi dimensioni ChatGPT.
