Ricercatori dell’università di Buffalo hanno sviluppato uno strumento che identifica le foto deepfake analizzando i riflessi di luce negli occhi.
La tecnologia deepfake, che sfrutta l’intelligenza artificiale, è salita alla ribalta negli ultimi anni proprio con la diffusione quasi consumer dell’AI. Creare un deepfake significa ricreare un’immagine identica alla realtà in modo verosimile, talmente preciso da trarre l’occhio in inganno. E non è una mera questione di intrattenimento: i deepfake sono utilizzati anche da hacker e criminali del web per portare a termine truffe online.
Il grado di precisione si sta talmente affinando che è sempre più difficile riconoscerli e dunque sfuggire a potenziali problematiche. Un aiuto arriva però dall’università di Buffalo, dove alcuni ricercatori hanno sviluppato uno strumento che identifica automaticamente le foto deepfake analizzando i riflessi di luce negli occhi. Lo strumento si è dimostrato efficace al 94% su un campione di foto simili a ritratti.
“La cornea è quasi come una semisfera perfetta ed è molto riflettente“, afferma l’autore principale, Siwei Lyu, SUNY Empire Innovation Professor presso il Dipartimento di Informatica e Ingegneria. “Quindi, tutto ciò che arriva agli occhi con una luce emessa da sorgenti avrà un’immagine sulla cornea.
“I due occhi dovrebbero avere schemi riflettenti molto simili perché vedono la stessa cosa. È qualcosa che di solito non notiamo quando guardiamo un volto“, afferma Lyu, eperto di medicina legale multimediale e digitale.
Le piccole differenze negli occhi
Quando guardiamo qualcosa, l’immagine di ciò che vediamo si riflette nei nostri occhi. In una foto o in un video reale, i riflessi sugli occhi generalmente sembrano avere la stessa forma e colore.
Tuttavia, la maggior parte delle immagini generate dall’intelligenza artificiale, comprese le immagini della rete generativa avversaria (GAN), non riescono a farlo in modo accurato o coerente, probabilmente a causa delle varie foto che vengono combinate per generare l’immagine fake.
Lo strumento sviluppato dall’Università di Buffalo sfrutta questa lacuna individuando minuscole deviazioni nella luce riflessa negli occhi, visibili nelle immagini deepfake.
Per condurre gli esperimenti, il team di ricerca ha ottenuto immagini reali da Flickr Faces-HQ, nonché immagini false da www.thispersondoesnotexist.com, un archivio di volti generati dall’intelligenza artificiale che hanno la peculiarità di sembrare estremamente realistici. Tutte le immagini analizzate erano simili a un ritratto (persone reali e persone fake che guardavano direttamente nella fotocamera con una buona illuminazione) e una risoluzione di 1.024 per 1.024 pixel.
Lo strumento funziona mappando ogni volto. Quindi esamina gli occhi, seguiti dai bulbi oculari e infine la luce riflessa in ciascun bulbo oculare. Ed è in grado di confrontare con dettagli incredibili le potenziali differenze di forma, intensità della luce e altre caratteristiche della luce riflessa.
Sebbene promettente, la tecnica di Lyu ha dei limiti.
Per prima cosa, occorre avere una fonte di luce riflessa. Inoltre, durante la modifica dell’immagine, è comunque possibile correggere i riflessi di luce degli occhi non corrispondenti. Inoltre, la tecnica guarda solo i singoli pixel riflessi negli occhi, non la forma dell’occhio, le forme all’interno degli occhi o la natura di ciò che si riflette negli occhi.
Infine, la tecnica confronta i riflessi all’interno di entrambi gli occhi. Se al soggetto manca un occhio o l’occhio non è visibile, la tecnica fallisce.
Lyu, che ha studiato progetti di machine learning e visione artificiale per oltre 20 anni, ha precedentemente dimostrato che i video deepfake tendono ad avere tassi di lampeggiamento incoerenti o inesistenti per i soggetti ripresi in video.
