I deepfake non sono sempre divertenti, se chi viene ritratto non ha dato il suo consenso. O se addirittura viene messo di mezzo in qualche truffa informatica, a suo discapito. In tutto ciò però sembra che piattaforme come Civitai non vogliano far nulla per arginare questa deriva.
Anzi, sempre Civitai di recente ha infatti introdotto una funzionalità che incoraggi la sua comunità a creare deepfake accettabili di persone reali.
Il progetto di Civitai per deepfake accettabili
Quando parliamo di Civitai, ci riferiamo a un mercato online per la condivisione di modelli di intelligenza artificiale. Nel grande caos dei deepfake, molti dei quali non autorizzato, la piattaforma ha appena introdotto una nuova funzionalità chiamata “boundies” per incoraggiare la sua comunità a sviluppare deepfake accettabili di persone reali.
Chiunque inventi il miglior modello di intelligenza artificiale ottiene una valuta virtuale chiamata “Buzz” che gli utenti possono acquistare con denaro reale.
Per saperne di più: Intelligenza artificiale: cos’è e come funziona, tutto sulla AI
Molti dei premi pubblicati sul sito chiedono agli utenti di ricreare le sembianze di celebrità e influencer dei social media, la maggior parte dei quali donne. Questo è il genere di cose che proliferano su Internet da anni e anni, ma l’intelligenza artificiale consente un risultato finale più realistico.
Troppo realistico. E già ci sono stati diversi casi di abuso di deepfake, addirittura a danno delle vittime. Perché non poche si sono trovate in mezzo a guai legali, con la loro immagine utilizzata in alcune truffe.
Ma così si gioca col fuoco
Secondo la società di mercato Andreessen Horowitz, Civitai è attualmente la settima piattaforma di intelligenza artificiale generativa più popolare. Ma questo giocando con la privacy delle persone rappresentate.
Come racconta Engadget, un utente di Civitai ha rifiutato la ricompensa per il suo lavoro di deepfake con la motivazione che “chiedeva problemi legali in futuro”. In effetti, lo Stato della Virginia (USA) ha appena aggiornato le sue leggi sul revenge porn per punire i creatori di deekfake con fino a un anno di prigione. Perché a volte i deepfake vengono usati anche in questo.
Civitai afferma che questi premi non dovrebbero essere utilizzati per creare immagini sessuali non consensuali di persone reali generate dall’intelligenza artificiale. Eppure, sempre Engadget riporta, la piattaforma consente sia immagini sessuali di personaggi rivolti al pubblico che immagini non sessuali di persone normali.
Inoltre, 404 Media (la società proprietaria di Civitai) ha riscontrato che alcune richieste di privati non presentano una vera e propria presenza online significativa, il che rende la cosa ancora più inquietante.
