fbpx

OpenAI cerca uno specialista in materia di sicurezza dei bambini

Il team Child Safety di OpenAI cresce e, ora, è in cerca di uno specialista in materia di sicurezza dei bambini

Redazione
openAI, CriticGPT

In un momento in cui, più di altre volte, la sicurezza dei giovani online è sotto l’occhio di tutti, OpenAI ha annunciato che sta formando un team dedicato proprio allo studio della sicurezza online per le sue piattaforme AI, che sono sempre più usate anche dai giovanissimi.

OpenAI per la sicurezza dei giovani

Il team per la sicurezza dei giovani pare che esistesse già da tempo ed è nato proprio per “garantire che le tecnologie di OpenAI non vengano utilizzate in modo improprio o abusato in modi dannosi per le popolazioni minorenni. Attraverso una stretta collaborazione con i nostri colleghi dell’ufficio legale, delle politiche della piattaforma e delle indagini, questo team gestisce processi, incidenti e revisioni per proteggere il nostro ecosistema online. Il team gestisce anche i principali impegni e relazioni esterne“. Presto nel team entrerà anche il nuovo specialista in materia di sicurezza dei bambini, che sarà responsabile dell’applicazione delle politiche di OpenAI nel contesto dei contenuti generati dall’intelligenza artificiale e lavorerà sui processi di revisione relativi ai contenuti “sensibili” (presumibilmente relativi ai bambini).

Per saperne di più: Intelligenza artificiale: cos’è e come funziona, tutto sulla AI

Nello specifico lo specialista dovrà: esaminare i contenuti che violano le norme e processi di revisione e risposta; garantire che le operazione di moderazione dell’azienda funzionino senza problemi; rispondere alle alle escalation assumendo la responsabilità o assistendo nelle indagini e nei processi successivi; collaborare con team tecnici, politici e di ricerca per migliorare gli strumenti, le nostre politiche e la comprensione dei contenuti offensivi.

La ricerca di questo nuovo profilo arriva anche contando il fatto che i giovani si rivolgono sempre più agli strumenti GenAI per ricevere aiuto non solo con i compiti scolastici ma anche per le questioni personali. Secondo un sondaggio del Center for Democracy and Technology, il 29% dei ragazzi riferisce di aver utilizzato ChatGPT per gestire ansia o problemi di salute mentale, il 22% per problemi con gli amici e il 16% per conflitti familiari.

Iscriviti alla newsletter

Non inviamo spam! Leggi la nostra Informativa sulla privacy per avere maggiori informazioni.