fbpx
fawkes riconoscimento facciale copertina

Fawkes, la maschera invisibile per evitare il riconoscimento facciale
Modifiche appena visibili alle nostre fotografie ci rendono irriconoscibili ai software come Clearview AI


Fawkes è il nuovo software che permette di modificare impercettibilmente le fotografie per proteggerci dal riconoscimento facciale. Non è la nuova arma sviluppata da un hacker per sfuggire agli 007 ma uno strumento creato dall’Università di Chicago per evitare abusi delle nostre immagini sui social. Un tool che i ricercatori sperano che Facebook e Twitter possano adottare in futuro per difendere la privacy degli utenti.

Fawkes: una tutela contro l’uso sconsiderato del riconoscimento facciale

Il riconoscimento facciale può diventare un serio problema per la privacy, se non ha limiti ben definiti. Sebbene tutti siano d’accordo nell’usarlo per sbloccare il proprio telefono in sicurezza o per riconoscere criminali ricercati partendo dalle foto segnaletiche, la questione si fa più spinosa quando entrano in gioco società come Clearview AI. Quest’azienda ha sviluppato un contestatissimo servizio che racimola fotografie dai social network per sviluppare un database da vendere a forze dell’ordine e agenzie di sicurezza private. Facebook, Twitter, LinkdIn e gli altri social hanno chiesto all’azienda di smettere: la raccolta di fotografie viola le regole interne. Il CEO Hoan Ton-That ha però detto che non ha intenzione di farlo.

Il Sand Lab dell’Università di Chicago ha sviluppato un programma che permette di difendersi da questo uso spropositato del riconoscimento facciale: Fawkes. Questo tool è stato creato dopo un intenso lavoro accademico sulla pericolosità di fornire informazioni agli algoritmi di riconoscimento facciale. L’obiettivo di Fawkes è infatti quello di modificare alcuni parametri dell’immagine in modo che il programma di riconoscimento facciale apprenda i dati sbagliati. Cambiando alcuni dati quasi impercettibili per i nostri occhi fa in modo che i software non riescano a riconoscerci.

Una maschera invisibile per i selfie

Il software sviluppato da Sand Lab (ci hanno lavorato gli studenti Shawn Shan, Emily Wenger, entrambi a capo del progetto, insieme a Jiayun Zhang, Huiying Li e i professori Haitao Zheng e Ben Y. Zhao) prende il nome da Guy Fawkes. Gli amanti dei fumetti ricordano il nome per le maschere di V per vendetta, quelli della Storia per la vicenda della Congiura delle Polveri. L’intento del team di ricerca è decisamente meno rivoluzionario di quei riferimenti.

fawkes team di sviluppo riconoscimento facciale
Il team di sviluppo testa Fawkes sulle proprie foto profilo (Photo Credit: Sand Lab)

Poco tempo fa Sand Lab ha rilasciato anche un applicativo gratuito per Mac e Windows che potete scaricare qui. Con il software, privo di fronzoli e piuttosto semplice, modificate le fotografie e i selfie che volete pubblicare sui social. “Quello che stiamo facendo è usare le fotografie mascherate come dei Trojan Horse per corrompere i modelli non autorizzati [di riconoscimento facciale] perché imparino la cosa sbagliata riguardo quello che distingue il tuo volto da quello di tutti gli altri” ha detto il professor Zhao a The Verge.

Fawkes è riuscito ad ingannare il riconoscimento facciale di software eccellenti come Azure Face di Microsoft, Rekognition di Amazon e Face++ della cinese Megvii. Ma i soggetti delle fotografie rimangono perfettamente riconoscibili agli occhi umani. Fawkes riesce a fregare i software di riconoscimento facciale, non i vostri follower.

Fawkes può fare la differenza? 

“Ci sono miliardi di fotografie non modificate su internet, tutte su diversi domini. In pratica, è quasi certamente troppo tardi per perfezionare una tecnologia come Fawkes e implementarla su larga scala”. Alle domande su Fawkes del New York Times, il CEO di Clearview Hoan Ton-That ha risposto senza battere ciglio. Questo è senza dubbio vero, anche se il team di Sand Lab cerca di ridimensionare la portata di questa dichiarazione. Ci sono miliardi di fotografie per miliardi di persone, alcune con moltissime fotografie reperibili su internet, altri che ne hanno poche. Per la maggior parte degli attori e influencer potrebbe essere tardi ma non tutti hanno la stessa presenza online.

Tuttavia, sembra improbabile che l’impatto delle oltre 100.000 persone che hanno scaricato Fawkes possa far crollare Clearview AI. Ma la situazione potrebbe cambiare se compagnie come Facebook implementassero software come Fawkes. Il professor Zhao pensa che sia nell’interesse delle aziende social di difendere i propri utenti da soprusi di questo tipo. Instagram ha bisogno che le persone condividano fotografie. Se proponesse una modifica come quelle di Fawkes, dopo aver taggato con il proprio riconoscimento facciale le fotografie, rassicurerebbe i suoi clienti più esigenti sotto il profilo della privacy.

fawkes riconoscimento facciale esempi
Esempi dell’uso di Fawkes su persone famose (Photo Credit: Sand Lab)

“L’adozione da parte di queste gradi piattaforme, per esempio Facebook e altre, potrebbe nel tempo avere un effetto atrofizzante su Clearview, rendendo praticamente inefficace la loro tecnologia, che non sarebbe più utile o finanziariamente rilevante” commenta Zhao.

Emily Wenger, studentessa che ha co-creato il progetto, ha spiegato al Times che c’è bisogno di un “approccio doppio” in questi casi, con strumenti tecnologici efficaci per la prevenzione e leggi chiare sui limiti che i software per il riconoscimento facciale devono avere. Ma fino a quando le piattaforme social non entrano in gioco, l’effetto rimane troppo piccolo rispetto alla scala del problema.

Jay Nancarrow, portavoce di Facebook, ha commentato: “Come parte dei nostri sforzi per proteggere la privacy degli utenti abbiamo un team dedicato a esplorare questo tipo di tecnologia e altri metodi per prevenire l’abuso delle fotografie”. Dicono sul serio: l’altro co-autore di Fawkes, Shawn Shan, sta facendo un tirocinio proprio in quel team.

Vale la pena scaricare Fawkes per proteggersi dal riconoscimento facciale in Italia?

Nel nostro Paese le forze dell’ordine utilizzano il software Sari per cercare sospettati e confrontare immagini. Questo programma usa le fotografie prese dagli schedari. Sebbene ci siano dubbi su come questi archivi digitali siano formati, il rischio che lo Stato usi software come Clearview è molto basso. Tuttavia, Clearview avrebbe intenzione di espandersi anche in Europa e in Italia secondo Wired, sia nel settore pubblico che nel privato. Nel Vecchio Continente però dovrebbe avere a che fare con normative più stringenti che negli Stati Uniti.

I più attenti alla privacy possono togliersi un pensiero usando Fawkes, anche se l’unica possibile soluzione di sistema è l’adozione di questi software di oscuramento da parte dei social network. Questo non significa aspettare la benevolenza di Zuckerberg: la ragione per cui i social network stanno investendo nella tutela della privacy è l’attenzione all’argomento degli utenti. Restare informati e attenti su queste tematiche non è un segno di paranoia ma la migliore arma che abbiamo perché le piattaforme ci tutelino.  Oppure possiamo indossare una maschera di gomma di Guy Fawkes e rinchiuderci in un eremo senza WiFi ad imparare il kong fu, per noi va bene uguale.

Xiaomi Mi 10 Smartphone 16,9 cm (6.67") 8 GB 256 GB 5G USB...
  • Qualcomm snapdragon 865 di nuova generazione
  • Raffreddamento a liquido vc
  • Ridefinisce i limiti della tecnologia di rete entra nell'era del 5g la velocità di download super veloce è solo...

Stefano Regazzi

Il battere sulla tastiera è la mia musica preferita. Nel senso che adoro scrivere, non perché ho una playlist su Spotify intitolata "Rumori da laptop": amo la tecnologia, ma non fino a quel punto! Lettore accanito, nerd da prima che andasse di moda.
                   










 
Sì, iscrivimi alla newsletter!
close-link