Il deepfake è la perfetta dimostrazione di come la tecnologia giunga ad approdi sempre più entusiasmanti. E che sempre più facilmente si possono piegare a usi perversi.
Il deepfake è una tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale, che permette di creare video e immagini facciali e corporee sfruttandone altre preesistenti.
Gli utilizzi possono essere svariati: al di là di quelli parodistici, pensiamo – ne abbiamo scritto in un articolo – a come i film doppiati potrebbero apparire più verosimili.
Ma non solo: rimanendo nell’ambito del cinema, si possono far recitare grandi star senza averle davvero sul set, come già è capitato a Bruce Willis nello spot pubblicitario per un’azienda di telefonia mobile russa.
E qui nascono, o potrebbero nascere, non banali problemi etici.
I rischi del deepfake
Già, perché, se è vero che Bruce Willis ha accettato che si usassero le sue fattezze per la già citata pubblicità, altrove non si è chiesto il consenso agli attori per l’utilizzo delle proprie immagini.
Nella saga Star Wars, ad esempio, è stato fatto “recitare” lo scomparso Carrie Fisher.
Ma non solo: pullulano le pubblicità con deepfake non autorizzati di personaggi come Elon Musk, Leonardo DiCaprio e Tom Cruise. Il rischio è evidente, dal momento che con il deepfake si può far pronunciare qualunque frase a chiunque.
Celebre, in questo senso, il falso Volodymyr Zelensky che la scorsa primavera – in un video poi rimosso – avrebbe invitato le truppe ucraine ad arrendersi.
Insomma: con il deepfake il pericolo, come per le fake news, è che il già labile confine tra falso e vero diventi ancora più fumoso.
E dal momento che questa tecnologia va affinandosi, la domanda è: come riconoscere il deepfake?
Una risposta sembra arrivarci da Intel, che ha appena presentato la tecnologia FakeCatcher: scopriamo di cosa si tratta.
FakeCatcher, la tecnologia per riconoscere il deepfake
L’azienda statunitense Intel ha fatto sapere sul proprio sito ufficiale di aver inventato una tecnologia in grado di riconoscere un deepfake in tempo reale. E di farlo con una precisione del 96%.
La tecnologia prenderà il nome di FakeCatcher. Scopriamo cos’è e come funziona.
Come funziona FakeCatcher
Un gruppo di lavoro di Intel capeggiato da Ilke Demir ha sviluppato FakeCatcher assieme a un pool della Binghamton University di New York guidato da Umur Ciftci. La tecnologia si basa sul machine learning, e agisce scrutando i volti e scovando eventuali incongruenze.
Ma come riesce, con una percentuale di errore appena del 4%, a riconoscere il deepfake? Sfruttando una caratteristiche quasi impercettibile a occhio nudo: il flusso sanguigno.
Riconoscere il deepfake dal flusso sanguigno
Il flusso sanguigno nel volto di una persona, quando insomma il cuore pompa sangue, crea cambiamenti cromatici nelle vene, che si palesano anche nei pixel di un video.
FakeCatcher, appunto, capta i segnali del flusso sanguigno da 32 punti del viso, e i suoi algoritmi li traducono in mappe spazio-temporali. E lo fa sfruttando la tecnica di misurazione ottica PPG (fotopletismografia), nota già dagli anni Settanta del secolo scorso, che misura la quantità di luce assorbita o riflessa dai vasi sanguigni nei tessuti viventi.
Quindi, grazie al deep learning, FakeCatcher sa decidere in tempo reale se il video di una determinata persona sia o meno autentico.
Riconoscere un deepfake, per questa tecnologia, significa dunque riscontrare dati incoerenti sul flusso sanguigno.
- Schick, Nina (Autore)
Virtù e limiti di questa tecnologia
Inutile dire quanto potrebbe essere utile una simile tecnologia per riconoscere i deepfake. In attesa, naturalmente, che sia presto redatta una regolamentazione al riguardo.
Perché contraffare le dichiarazioni di personalità più o meno note può dare luogo a incidenti diplomatici, revenge porn, ritorsioni e addirittura tensioni politiche.
Ricordiamo, per citare una tecnologia affine, che recentemente il nostro Garante ha aperto un’istruttoria su FakeYou, l’app che permette di creare messaggi imitando le voci dei personaggi famosi.
Come accertarsi, ad esempio, che un deepfake in bassa definizione non sfugga a FakeCatcher?
Ilke Medir ha rassicurato in questo senso, dicendo che anche con qualità video scadenti la percentuale di precisione di FakeCatcher non scende sotto il 91%.
Ma cosa accadrà quando la tecnologia del deepfake sarà più evoluta? Anche gli strumenti per riconoscere i deepfake sapranno evolvere alla medesima velocità?
Sembra quasi di trovarci di fronte alla versione contemporanea dell’ormai classica antinomia virus-antivirus.