Deepfake: in rete foto di studentesse spagnole create con l’intelligenza artificiale

È la cronaca che, a ritmo quasi frenetico, risponde ai nostri dubbi teorici su quali e quanti ambiti di applicazione possa avere l’intelligenza artificiale generativa.

E soprattutto, è la cronaca che risponde indirettamente alla domanda: l’IA è buona o cattiva? E proprio la disparità delle risposte mostra come l’importante sia, come per ogni strumento, l’uso che se ne fa.

Abbiamo letto di recente come ChatGPT sia stata in grado di fornire una diagnosi medica precisa, là dove 17 medici avevano fallito.

Ma c’è anche il rovescio della medaglia. Se ci concentriamo sull’IA generativa che produce immagini, ecco che entriamo in un territorio pericoloso: quello del deepfake. Lo sanno bene alcune studentesse spagnole, che hanno visto pubblicate in rete loro immagine manipolate, prodotte dall’intelligenza artificiale.

Scopriamo cosa è successo.

Deepfake: in rete foto di studentesse spagnole

È accaduto ad Almendralejo, cittadina di 30.000 abitanti nel sud-ovest della Spagna. Un gruppo di ragazzi giovanissimi, tra i 12 e i 14 anni, è sospettato di aver usato il deepfake ai danni di una ventina di studentesse tra gli 11 e i 17, che frequentano tre istituti della cittadina.

Partendo dalle foto delle ragazze, e manipolandole con l’intelligenza artificiale, i giovani accusati hanno creato nudi realistici. Che hanno poi diffuso ai propri contatti su WhatsApp e Telegram.

Il caso è balzato agli onori delle cronache internazionali perché una ginecologa di Almendralejo, con decine di migliaia di follower su Instagram e TikTok, ha raccontato la vicenda in un video.

Le indagini

Il materiale deepfake ai danni delle studentesse spagnole ha, naturalmente, raggiunto in breve tempo una grande quantità di ragazzi, ed è arrivato anche alle orecchie, e nelle mani, delle stesse giovani prese di mira. Che hanno raccontato l’accaduto ai genitori, i quali hanno immediatamente sporto denuncia.

Scorpi la super offerta NordVPN- Fino a 65% di sconto + 3 mesi EXTRA + Buono Regalo Amazon

I sospettati, dicevamo, sono giovanissimi. Ma tra loro chi ha compiuto 14 anni (età minima, anche in Spagna, per essere imputabili) potrebbe anche rischiare l’incriminazione per diffusione di materiale pedopornografico.

Le indagini stanno coinvolgendo 10 studenti: 3 di loro avrebbero prodotto le immagini manipolate, mentre gli altri 7 le avrebbero solo diffuse.

Si ignora se, oltre a essere circolate in chat, le foto deepfake delle studentesse spagnole siano anche state pubblicate online. Di certo si sa che, una volta che un contenuto circola in rete, è estremamente complicato rimuoverlo del tutto.

Nel frattempo, gli inquirenti stanno indagando anche su un altro aspetto della questione. Una delle ragazze avrebbe scoperto della diffusione delle foto per aver subito un tentativo di estorsione: qualcuno le avrebbe chiesto denaro per non pubblicare le sue immagini manipolate con l’IA su Internet.

I precedenti

Il deepfake ai danni delle studentesse spagnole è solo l’ultimo caso di manipolazione delle immagini che ha avuto una certa eco.

Tralasciamo gli scoop di qualche tempo fa, per cui abbiamo potuto vedere Trump incarcerato o Papa Francesco che indossava un piumino alla moda.

Ci sono state anche operazioni assai meno innocenti. Come quella che, in modo simile a quanto accaduto ad Almendralejo, ha avuto come vittime inconsapevoli Scarlett Johansson ed Emma Watson. E già allora, lo scorso marzo, ci domandavamo se non fossero i primi segnali di una possibile violenza digitale.

C’è poi il più recente allarme, che abbiamo riportato in un articolo, lanciato dall’FBI. Quello della crescita del fenomeno del cosiddetto “sextortion”, l’estorsione sessuale, che – come abbiamo scritto – sarebbe proprio ciò che è successo a una delle studentesse della cittadina spagnola. Si creano immagini o video di nudo col deepfake, e si chiede denaro per non pubblicare il materiale in rete.

Offerta

Intelligenza artificiale spiegata in modo facile. Guida...

• Hurbans, Rishal (Autore)

35,00 EUR −5% 33,25 EUR

Acquista su Amazon

Come difendersi?

Nonostante il dilagare del fenomeno, e la sua gravità, sembra poco probabile adottare un atteggiamento censorio: è necessaria l’educazione a un corretto e rispettoso utilizzo della rete, un’alfabetizzazione non solo tecnica ma anche etica. Che andrebbe attuata su ogni fascia, sociale e anagrafica, della popolazione. E questa sarebbe l’indispensabile forma di tutela dei potenziali diffusori di deepfake.

Rimani aggiornato seguendoci su Google News!

Seguici!