McAfee ha lanciato Project Mockingbird, un’innovativa soluzione basata sull’intelligenza artificiale volta a rilevare i deepfake audio, un fenomeno in crescita utilizzato per frodi e manipolazioni.
Presentato al CES 2024, l’evento tecnologico di Las Vegas, il progetto si propone di proteggere i consumatori dalle frodi informatiche che coinvolgono l’utilizzo di audio manipolato tramite intelligenza artificiale per diffondere notizie false.
Project Mockingbird, la risposta di McAfee ai cloni vocali AI
McAfee ha annunciato che il Project Mockingbird sarà integrato in prodotti futuri per garantire una protezione più completa agli utenti, offrendo loro la capacità di valutare l’autenticità dei contenuti online. La società ha dimostrato l’efficacia della tecnologia al CES 2024, anticipando la sua implementazione nelle soluzioni di sicurezza per il consumatore.
Project Mockingbird utilizza avanzati modelli di rilevamento basati sull’intelligenza artificiale, combinando approcci contestuali, comportamentali e categorici. La tecnologia ha dimostrato di raggiungere un tasso di precisione superiore al 90% nell’identificazione e nella protezione da audio alterato dannoso nei video.
Grobman ha sottolineato l’importanza di fornire agli utenti strumenti per distinguere tra contenuti autentici e manipolati, specialmente in un contesto di crescente cyberbullismo, disinformazione e frodi basate su deepfake.
In termini di ecosistema del crimine informatico, Grobman ha affermato che il team di ricerca sulle minacce di McAfee ha scoperto l’uso di account legittimi registrati per reti pubblicitarie, in piattaforme come Meta ad esempio.
Come funziona la truffa dei cloni vocali AI
La truffa si svolge attraverso la creazione di video in cui un oratore legittimo, come un noto giornalista, viene manipolato per pronunciare parole mai effettivamente dette, generando così un deepfake sia audio che video.
A Venturebeat, il Chief Technology Officer (CTO) di McAfee, Steve Grobman, ha sottolineato l’accelerazione del ricorso all’intelligenza artificiale generativa da parte dei criminali informatici e la necessità di affrontare questa minaccia. Ha evidenziato il rischio associato alla manipolazione audio deepfake, che può essere utilizzata per scopi come disinformazione e manipolazione durante le campagne elettorali.
Creare deepfake di celebrità nei video a luci rosse è stato un problema per un po’. Ma la maggior parte di questi sono limitati ai siti di video deepfake. È relativamente facile per i consumatori evitare tali truffe. Ma con i trucchi audio deepfake, il problema è più insidioso. A titolo d’esempio, in un caso che coinvolge un video di truffa crittografica, i malintenzionati vogliono che un utente scarichi un’app o si registri su un sito web.
Per questo, la tecnologia di McAfee viene vista come un passo significativo nel garantire trasparenza e sicurezza agli utenti. E questo perché contribuisce a proteggere la loro privacy, identità e benessere online.
