Nonostante le potenziali applicazioni positive, i deepfake rappresentano un rischio significativo in ambito informativo, dato che possono essere utilizzati per creare contenuti ingannevoli. Per questo è necessario sviluppare tecnologie in grado di rilevare queste falsificazioni. Un esempio è CoDE, il modello AI sviluppato dall’Unimore (Università di Modena e Reggio Emilia). Presentato alla European Conference on Computer Vision (ECCV) 2024, questo progetto si inserisce nel contesto del programma europeo ELSA, che mira a garantire sicurezza e trasparenza nell’era dell’intelligenza artificiale.
Il sistema CoDE: un baluardo contro i deepfake
Come riferisce l’agenzia AGI, CoDE (Contrasting Deepfakes Diffusion via Contrastive Learning) si basa su un’architettura di apprendimento contrastivo, progettata per analizzare non solo l’intera immagine, ma anche specifici pixel o parti manipolate, in modo da rendere il riconoscimento robusto alle trasformazioni volontarie o involontarie delle immagini stesse quando vengono compresse, trasmesse e pubblicate.
Grazie inoltre al contributo di Leonardo S.p.A, che ha permesso l’impiego del supercomputer Da Vinci, è stato possibile creare un database composto da ben 9 milioni di immagini artificiali. Con questo ampio database per l’addestramento, il sistema CoDE ha raggiunto una precisione di identificazione superiore al 97%: un valore ben al di sopra del 60% che un essere umano potrebbe raggiungere.
Oltre a identificare un’immagine come vera o falsa, CoDE fornisce anche una valutazione della percentuale di affidabilità del risultato e una rappresentazione dello spazio in cui l’immagine si colloca. Il sistema mostra infatti una mappa grafica che indica se l’immagine è vera o fake, fornendo anche indicazioni su quale sistema di AI generativa abbia prodotto il contenuto visivo.
Per saperne di più: Intelligenza artificiale: cos’è e come funziona, tutto sulla AI
Sfide e limiti del sistema CoDE
Nonostante i risultati straordinari, CoDE non è privo di limiti. Uno dei principali problemi riscontrati è la difficoltà nel rilevare manipolazioni successive. Infatti il sistema può incontrare difficoltà nel riconoscere immagini con forti compressioni o rielaborazioni digitali.
Un’altra sfida è rappresentata dalla generalizzazione del sistema. Precisa sempre l’AGI, non si sa ancora quanto CoDE sia capace di generalizzare su tutti i modelli generativi sviluppati negli ultimi due o tre anni.
Inoltre, la rapida evoluzione delle tecnologie di generazione delle immagini richiede un continuo aggiornamento del sistema. Così da garantire la sua efficacia anche nei confronti di modelli più recenti.
