Diversi utenti hanno cominciato ad abusare di DALL-E 3, trovando addirittura una scappatoia nelle protezioni dello strumento. Il risultato è nella generazione di immagini disturbanti, con temi ancora oggi molto delicati per il pubblico.
Al momento Microsoft non ha spiegato come procedere all’eventuale installazione di filtri anti-violenza, e non ha commentato se abbia recentemente bloccato tutti questi contenuti.
DALL-E 3 alla mercé di utenti dal dubbio gusto
Come riportato da The Verge, molti internauti hanno generato con DALL-E 3 immagini con diversi personaggi animati amati, e sullo sfondo le Torri Gemelle. Grazie proprio alla recente integrazione di DALL-E 3 con Bing, hanno utilizzato gli strumenti per creare foto di SpongeBob SquarePants, Kirby, i piloti di Neon Genesis Evangelion e molti altri che volano su un aereo.
Dentro le Torri Gemelle. Le persone sono state in grado di creare foto davvero sconvolgenti utilizzando generatori di immagini AI, alcuni con personaggi protetti da copyright.
Per saperne di più: Intelligenza artificiale: cos’è e come funziona, tutto sulla AI
Microsoft sembra aver bloccato suggerimenti come “torri gemelle” e “world trade center”, sebbene il generatore continuerà a produrre le torri con alcune modifiche alle parole. Gli sviluppatori di DALL-E 3 hanno ammesso apertamente che le sue misure di sicurezza “non sono perfette” e vengono costantemente aggiornate.
I limiti nella generazione di immagini AI
Negli ultimi tempi i generatori di immagini IA sono finiti nei guai a causa di rivendicazioni di copyright e deepfake, per questo gli sviluppatori sono stati più attenti nel consentire alle persone di utilizzare i loro strumenti per creare foto discutibili.
Dopo questa prima scoperta, Microsoft ha cominciato a bloccare tutti i prompt che potessero ricondurre alle “Torri Gemelle”, con tanto di avviso sul contenuto che diceva che il messaggio potrebbe violare le politiche sui contenuti.
Ma forse il danno è già stato fatto. Riporta 404media che su siti come 4chan sono apparsi immagini create proprio dagli strumenti gratuiti come Bing Chat e Stable Diffusion. Immagini purtroppo razziste. E come al solito, puoi aggirare i filtri dei prompt con modifiche alle parole.
