Il testo è scritto dall’AI o da un umano? Te lo dice OpenAI Text Classifier

OpenAI presenta il suo nuovo (e imperfetto) classificatore per capire se un testo è stato scritto dall’uomo o dall’intelligenza artificiale

Redazione
FLEFF 2023: tavola rotonda sull'intelligenza artificiale

Arriva OpenAI Text Classifier il nuovo algoritmo in grado di classificare un testo a seconda che sia stato scritto da una macchina di intelligenza artificiale o un umano.

L’algoritmo OpenAI Text Classifier

Il nuovo algoritmo OpenAI Text Classifier, che si occupa di capire se un testo è stato scritto dall’uomo o dalla tecnologia AI, è stato appena lanciato ma sarà in continuo aggiornamento dato che, come ha sottolineato la società stessa, non è completamente affidabile.

“Il classificatore mira ad aiutare a mitigare le false affermazioni secondo cui il testo generato dall’intelligenza artificiale è stato scritto da un essere umano. Tuttavia, ha ancora una serie di limitazioni, quindi dovrebbe essere utilizzato come complemento ad altri metodi per determinare la fonte del testo invece di essere lo strumento decisionale principale “, si legge su TechCrunch.

Parlando in numeri, l’algoritmo è in grado di identificare correttamente il 26% del testo scritto dall’intelligenza artificiale (veri positivi) come “probabilmente scritto dall’IA“, mentre etichetta erroneamente il testo scritto dall’uomo come il 9% scritto dall’IA il tempo (falsi positivi). L’affidabilità del classificatore, però, pare migliorare con l’aumentare della lunghezza del testo di input.

Tra le altre limitazioni dell’algoritmo OpenAI Text Classifiervi sono:

– Funziona soprattutto per i testi in inglese mentre al momento è inaffidabile sul resto delle lingue;

– un testo prevedibile, invece, non può essere identificato. Ad esempio, è impossibile prevedere se un elenco dei primi 1.000 numeri primi sia stato scritto dall’IA o dall’uomo;

– i testi sotto i 1.000 caratteri sono più difficili da etichettare.

Per saperne di più: Intelligenza Artificiale, cos’è e come funziona. Tutto sulla AI

“Il nostro classificatore ha una serie di limitazioni importanti. Non dovrebbe essere utilizzato come strumento decisionale primario , ma come complemento ad altri metodi per determinare la fonte di una parte di testo”, spiega OpenAI in una nota.

La società, però, ha anche affermato che, se paragonato al precedente classificatore, questa versione è più aggiornata e affidabile.

Sebbene sia da perfezionare, il classificatore è già disponibile al pubblico. In questo modo sarà più semplice per la società ricevere i feedback e utilizzarli per migliorare il prototipo.

Federico Morgantini Editore

Iscriviti alla newsletter

Non inviamo spam! Leggi la nostra Informativa sulla privacy per avere maggiori informazioni.