Apple scansionerà le tue foto contro la pedopornografia

Chiara Crescenzi

3 anni fa

Apple scansionerà le tue foto contro la pedopornografia thumbnail

In questi mesi Apple sta lavorando duramente per garantire la sicurezza dei minori. Proprio ieri, la compagnia ha annunciato l’intento di aggiungere ai suoi dispositivi un software di scansione delle immagini archiviate, al fine di “limitare la diffusione di materiale pedopornografico“. Il sistema si chiamerà neuralMatch, e sarà reso disponibile su iPhone, iPad, Mac e Apple Watch in Autunno, con il rilascio dei nuovi sistemi operativi. A quel punto, il software “avviserà in modo proattivo un team di revisori umani se ritiene che vengano rilevate immagini illegali”. Questi contatteranno poi le forze dell’ordine, che procederanno con la verifica delle foto di Apple. Un sistema ben studiato, che sarà lanciato per la prima volta negli Stati Uniti.

Apple: le foto pedopornografiche saranno rilevate da un nuovo software

Questa volta Apple sta andando ben oltre il campo della tecnologia, prendendosi l’impegno di contribuire a limitare la diffusione della pedopornografia. Un obiettivo nobile, ma anche difficile al tempo stesso. L’intento della compagnia, infatti, è quello di identificare i materiali di abuso sessuale su minori archiviati tra le foto dei dispositivi Apple. E questo sarà il compito di neuralMatch, che riuscirà a rilevare queste immagini con il supporto di un database fornito dal National Center for Missing and Exploited Children. “Progettato pensando alla privacy degli utenti“, il sistema scansionerà il dispositivo Apple prima dell’archiviazione delle foto su iCloud.

“Secondo le persone informate sui piani, ogni foto caricata su iCloud negli Stati Uniti riceverà un buono di sicurezza che indica se è sospetta o meno. Una volta contrassegnato come sospetto un certo numero di foto, Apple consentirà di decrittografare tutte le foto sospette e, se apparentemente illegali, di trasmetterle alle autorità competenti“. Così commenta il Financial Times a proposito di neuralMatch. Ma questo non sembrerebbe essere il solo intervento di Apple per migliorare la sicurezza dei minori.

La compagnia ha annunciato che aggiornerà Siri e le funzionalità di ricerca per fornire a genitori e figli informazioni utile per trovare supporto in “situazioni non sicure“. E anzi, il sistema interverrà anche quando gli utenti cercano argomenti legati alla pedopornografia. Infine, sembra anche i dispositivi invieranno un avviso “sensibile” – forse tramite pop-up – all’invio di foto sessualmente esplicite attraverso l’App Messaggi. Insomma, Apple ha davvero messo a punto una tecnologia che potrà limitare la diffusione di contenuti pornografici di minori. Nonostante questo, la preoccupazione che neuralMatch possa finire nelle mani sbagliate è enorme.

E se la tecnologia di Apple finisse nelle mani sbagliate?

neuralMatch ha un grande potenziale, ma anche un’enorme responsabilità. Cosa succedere, infatti, se finisse nelle mani sbagliate? Questo è il dubbio sollevato da Matthew Green, Professore e crittografo della John Hopkins University. “Questo tipo di strumento può essere un vantaggio per trovare materiale pedopornografico nei telefoni delle persone. Ma immaginate cosa potrebbe fare nelle mani di un governo autoritario?“. Così ha commentato l’esperto su Twitter. “Anche se credi che Apple non permetterà che questi strumenti vengano utilizzati in modo improprio, c’è ancora molto di cui preoccuparsi“.

But even if you believe Apple won’t allow these tools to be misused 🤞there’s still a lot to be concerned about. These systems rely on a database of “problematic media hashes” that you, as a consumer, can’t review.
— Matthew Green (@matthew_d_green) August 5, 2021

In fondo, Apple già controlla i file cloud rispetto alle immagini pedopornografiche, come fa qualunque altro provider di servizi cloud. Ma neuralMatch andrebbe ben oltre questo, consentendo l’accesso all’archiviazione locale. In ogni caso, per il momento non si hanno ancora informazioni dettagliate sul sistema, che potrebbero però essere rilasciate dalla compagnia proprio nei prossimi giorni. Quello che però già sappiamo è che, a differenza del sistema usato da Facebook o Microsoft, la compagnia di Cupertino eseguirà la scansione delle foto sul dispositivo, anzichè dopo che queste sono caricate sul cloud. A questo punto, la preoccupazione di alcuni esperti del settore è più che chiara. Ma chissà come la risolverà Apple.