Il team di Google DeepMind propone un nuovo strumento per rilevare ciò che è stato creato dall’intelligenza artificiale. Si chiama SynthID ed è progettato essenzialmente per filigranare un’immagine generata dall’intelligenza artificiale in un modo che sia impercettibile all’occhio umano ma facilmente rilevabile da uno strumento di rilevamento IA dedicato.
Così, nel futuro, anche se la filigrana sarà ancora meno percepibile dagli esseri umani ma ancora più facilmente rilevabile dagli strumenti di DeepMind.
Google DeepMind ti segnala le immagini IA con SynthID
Il primo lancio di SynthID è avvenuto durante la conferenza Cloud Next di Google, in cui l’azienda racconta ai suoi clienti aziendali le nuove funzionalità dei prodotti Cloud e Workspace di Google. Col timore di ritrovarsi sempre più con deepfake su Internet, Google DeepMind ha deciso di venire incontro ai propri clienti, sviluppando una tecnologia capace di individuarli rispetto all’occhio umano.
Per saperne di più: Intelligenza artificiale: cos’è e come funziona, tutto sulla AI
La filigrana di SynthID è incorporata nei pixel dell’immagine, ma non cambierà nulla né dell’immagine, né la sua qualità o l’esperienza che ne deriva. Sarà resistente a varie trasformazioni: ritaglio, ridimensionamento e tutte le altre possibili modifiche.
SynthID potrebbe eventualmente essere offerto come estensione di Chrome o addirittura integrato nel browser in modo che possa identificare le immagini generate su tutto il web.
Una mossa in controtendenza
Il lancio di qualsiasi strumento di rilevamento dell’intelligenza artificiale sarà sicuramente l’inizio di una corsa agli armamenti. E per certi versi già questa mossa è in controtendenza. Come segnala The Verge, OpenAI ha già rinunciato a uno strumento destinato a rilevare il testo scritto dal proprio chatbot ChatGPT.
Se SynthID prende piede, ispirerà solo hacker e sviluppatori a trovare modi creativi per aggirare il sistema, il che costringerà Google DeepMind a migliorare il sistema, e continueranno ad andare avanti. Ma è un problema lontano, l’intero sistema di creazione, utilizzo e rilevamento delle immagini AI è controllato da Google DeepMind. Per il momento.
