Dopo il deep fake di Taylor Swift, il nudo di Drake: X modera in ritardo — e fa record di download

X ha raggiunto la vetta dell’App Store di Apple come app gratuita più scaricata — e il proprietario Elon Musk ha subito postato il risultato sul social. Ma si è dimenticato di spiegare perché. Niente nuove funzionalità AI o possibilità per influencer sulla piattaforma: a spingere i download di X, invece è l’hashtag “drakevideo” — perché l’ex Twitter non ha offuscato un video di nudo non consensuale che sembra avere per protagonista il rapper Drake. Una mancata (o tardiva) moderazione dei contenuti, che arriva nemmeno una settimana dopo lo scandalo del deep fake di Taylor Swift.

Il video di Drake nudo porta X al primo posto per download: la mancanza di moderazione premia

Ascolta Drake su Amazon Music, 30 giorni d’uso Gratuito, cancella in qualsiasi momento

Al momento non sappiamo se il video che vede Drake mezzo nudo e nel mezzo di un atto sessuale sia vero, un deepfake o semplicemente un filmato di un’altra persona. Il rapper canadese non ha commentato ancora la vicenda. Quello che è certo è che l’hashtag #drakevideo ieri era trending negli Stati Uniti, dove X ha fatto un salto al vertice dei download per i dispositivi iOS. Ed Elon Musk non ha tardato a vantarsi della cosa.

Musk non solo ha festeggiato la posizione di X in cima all’App Store, ma come riporta The Verge ha anche scritto: “Se avessi un dollaro per ogni volta che i media hanno riferito che una delle mie aziende stava per morire, non avrei mai bisogno di raccogliere fondi“. Tralasciando di cogliere il collegamento fra l’aumento dei download e gli scandali riguardo Drake oggi, e Taylor Swift la settimana scorsa.

Video rubati e il problema della moderazione sempre in ritardo

X (anche quando si chiamava Twitter prima dell’arrivo di Musk) ha sempre permesso di pubblicare contenuti pornografici — uno trai pochi social a permetterlo. Ma solo nel caso in cui siano legali: realizzati da adulti consenzienti, che hanno dato il permesso alla pubblicazione. Invece, tanto il caso dei deep fake di Taylor Swift che nel video trapelato di Drake, sia le policy di X che le normative statunitensi vietano la distribuzione e richiedono la rimozione immediata. Il problema non sta nelle regole, ma nella capacità di X di farle rispettare.

Il portavoce di X, Joe Benarroch, ha risposto agli ultimi eventi, dichiarando che l’app è “completamente impegnata a mantenere un ambiente sicuro e rispettoso per tutti gli utenti“. Ha sottolineato una “politica di tolleranza zero” per la condivisione di immagini di nudo non consensuali. Benarroch ha affermato che X ha già intrapreso azioni su migliaia di post in violazione, e la società “sta monitorando attivamente” la situazione per rimuovere ulteriori post offensivi.

Tuttavia, la validità di queste affermazioni è stata messa in dubbio da The Verge, che ha scoperto sette post contenenti il presunto video di nudo di Drake, alcuni con milioni di visualizzazioni, nonostante le dichiarazioni ufficiali di X. La risposta tardiva, come nel caso di Taylor Swift, ha fatto sì che moltissimi altri utenti scaricassero e condividessero il video anche su altre piattaforme: forum, chat Telegram. Forse, anche con una risposta immediata di X il video sarebbe circolato. Ma la tardiva moderazione ha reso il lavoro più facile a chi voleva condividere il video non consensuale.

Il ruolo di Musk nella moderazione mancata o tardiva

C’è più di una ragione per cui le immagini di Drake siano circolate su X e non su altri social. La prima riguarda l’impiego dell’intelligenza artificiale: le altre piattaforme non permettono il porno, quindi hanno bot che riconoscono nudi espliciti e atti sessuali, che mettono subito online. Non sono perfetti, possono sbagliare. Ma fanno una prima scrematura.

La seconda invece riguarda la forza lavoro umana. Dopo aver comprato l’allora Twitter nel 2022, Elon Musk ha presto tagliato i team responsabili della moderazione dei contenuti e delle funzionalità di sicurezza del sito. Dei 7.500 dipendenti licenziati in un colpo solo a novembre 2022, gran parte moderavano il discorso sulla piattaforma. Musk all’epoca disse che l’AI sarebbe bastato. Oggi sembra evidente che non sia così.

In due settimane, due grandi star della musica hanno visto circolare video di nudi non consensuali (almeno uno dei quali un deep fake), e hanno dovuto vedere la risposta tutt’altro che rapida di X. Se nemmeno casi così eclatanti ricevono una risposta immediata, cosa succede nei casi di revenge porn e deep fake le cui vittime sono persone comuni? Forse Musk dovrebbe celebrare l’aver raggiunto il primo posto sull’App Store assumendo nuovi moderatori. Sempre che la diffusione di nudi non consensuali non diventi la nuova strategia di marketing del social.

Deep Fakes and the Infocalypse: What You Urgently Need To...

• Schick, Nina (Autore)

10,87 EUR

Acquista su Amazon

Rimani aggiornato seguendoci su Google News!

Seguici!