fbpx

Facebook: un nuovo progresso nella lotta ai deepfake

Il nuovo software di Facebook esegue deepfake attraverso una rete per cercare le imperfezioni lasciate durante il processo di produzione.

Redazione
Facebook

Facebook ha sviluppato un software di intelligenza artificiale che identifica le immagini “deepfake”. Non solo, il software è anche in grado di capire da dove provengono tali immagini.

Il deepfake è una tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale, usata per combinare e sovrapporre immagini e video esistenti con video o immagini originali, tramite una tecnica di apprendimento automatico, conosciuta come rete antagonista generativa.

Come riporta TechXplore, i ricercatori di Facebook Tal Hassner e Xi Yin hanno affermato che il loro team ha lavorato con la Michigan State University per creare un software in grado di decodificare le immagini deepfake per capire come sono state realizzate e da dove hanno avuto origine.

Il nostro metodo faciliterà il rilevamento e il tracciamento dei deepfake in ambienti reali, dove l’immagine deepfake stessa è spesso l’unica con cui i rilevatori di informazioni devono lavorare“, hanno affermato gli scienziati in un post sul blog del social.

Questo lavoro fornirà a ricercatori e professionisti strumenti per indagare meglio sugli incidenti di disinformazione coordinata utilizzando i deepfake, oltre ad aprire nuove direzioni per la ricerca futura“, hanno aggiunto.

Ed è un passo importante nella lotta alla disinformazione: i deepfake sono utilizzati per fuorviare e ingannare l’interlocutore, che spesso non è in grado di dirimere l’origine artificiale del soggetto che si trova davanti. Il nuovo software di Facebook cerca le imperfezioni lasciate durante il processo di produzione, che secondo gli scienziati alterano l'”impronta digitale” di un’immagine.

Nella fotografia digitale, le impronte digitali vengono utilizzate per identificare la fotocamera digitale utilizzata per produrre un’immagine“, hanno affermato gli scienziati.

Simile alle impronte digitali del dispositivo, le impronte digitali delle immagini sono modelli unici lasciati sulle immagini che possono essere utilizzati per identificare il modello generativo da cui proviene l’immagine. La nostra ricerca spinge i confini della comprensione nel rilevamento dei deepfake“.

Microsoft alla fine dello scorso anno ha presentato un software che può aiutare a individuare foto o video deepfake, aggiungendosi a un arsenale di programmi progettati per combattere le immagini difficili da rilevare in vista delle elezioni presidenziali statunitensi.

Iscriviti alla newsletter

Non inviamo spam! Leggi la nostra Informativa sulla privacy per avere maggiori informazioni.