La piattaforma di AI generativa Midjourney ha di recente bannato un utente che ha generato immagini di politici che tradivano i propri partner. Il presidente americano Joe Biden, gli ex-presidenti Barack Obama e Donald Trump, oltre al candidato alle presidenziali Ron DeSantis, apparivano nell’atto di baciare una persona in una camera di motel. Tutte immagini fasulle, generate dall’AI, prima che l’utente fosse bannato dalla piattaforma.
Midjourney banna un utente, generava immagini di politici mentre tradivano i coniugi
L’AI generativa rischia di semplificare la creazione di fake news: se prima c’era bisogno di sapere utilizzare i software di modifica fotografica per creare finte immagini compromettenti, ora basta chiederlo all’intelligenza artificiale.
Un utente ha infatti recentemente utilizzato Midjourney per creare immagini false di politici che tradiscono i loro coniugi, con l’intento di evidenziare il problema della disinformazione generata dall’intelligenza artificiale. Tuttavia, questa persona è stata bandita da Midjourney.
Il creatore delle immagini, Justin Brown, un editor di video, ha scritto su Twitter di aver subito il ban da Midjourney AI per aver generato immagini realistiche di politici che tradiscono le loro mogli per una serie chiamata “L’AI rivoluzionerà l’industria del ricatto”.
Il ban dalla piattaforma
Questa operazione di Brown voleva dimostrare quanto fosse facile diffondere fake news, ma anche ricattare una persona con immagini false. Ma Midjourney ha preso una posizione netta e ha preso misure proattive bloccando il suo account. Qualcosa di particolarmente interessante, soprattutto in vista delle elezioni presidenziali americane del 2024.
Infatti, nei fake creati da Brown su Midjourney ci sono diverse figure politiche, tra cui alcuni candidati alla corsa presidenziale del 2024, come l’attuale presidente Joe Biden, l’ex presidente Donald Trump, l’ex governatore del New Jersey Chris Christie e il governatore della Florida Ron DeSantis.
Nonostante le immagini non potrebbero superare un’analisi attenta (posizioni innaturali, contorni delle figure non perfetti), potrebbero avere l’effetto di screditare un candidato prima che arrivi una smentita credibile. Qualcosa di pericoloso per la democrazia americana – e anche per tutte le altre.
Il ban arriva, ma le immagini sono online
È importante sottolineare che Midjourney ha esiliato Brown solo dopo la pubblicazione delle immagini su Reddit e Twitter. Noi abbiamo aggiunto la scritta “Fake” in rosso per scrupolo, ma sembra chiaro che con poche modifiche le immagini potrebbero già circolare online. Il ban evita che lo stesso account possa generare immagini più volte, ma non impedisce di diffondere quelle già create.
“La serie ha guadagnato una certa visibilità su Reddit, ma è stata rimossa dai moderatori e poco dopo è arrivato il divieto da parte di Midjourney“, ha dichiarato Brown a PetaPixel. “In passato mi sono imbattuto in avvisi di blocco per parole offensive o figure controverse, ma non ero mai stato bandito prima”.
Sebbene sia positivo che Midjourney stia prendendo provvedimenti riguardo alle immagini generate dall’intelligenza artificiale, servono controlli più rigidi per impedire la generazione di immagini potenzialmente pericolose. Le immagini e le voci false rappresentano una crescente minaccia per il processo democratico.
Un sano scetticismo da parte di noi utenti resta importante, ma forse servono regole chiare per evitare che le immagini false diventino fuorvianti per le prossime elezioni – non solo in America.
Rimani aggiornato seguendoci su Google News!
Da non perdere questa settimana su Techprincess
🚪 La pericolosa backdoor di Linux, disastro sventato da un solo ricercatore
🎶Streaming Farms: il lato oscuro della musica, tra ascolti falsi e stream pompati
✈️Abbiamo provato DJI Avata 2: sempre più divertente!
✒️ La nostra imperdibile newsletter Caffellattech! Iscriviti qui
🎧 Ma lo sai che anche Fjona ha la sua newsletter?! Iscriviti a SuggeriPODCAST!
📺 Trovi Fjona anche su RAI Play con Touch - Impronta digitale!
💌 Risolviamo i tuoi problemi di cuore con B1NARY
🎧 Ascolta il nostro imperdibile podcast Le vie del Tech
💸E trovi un po' di offerte interessanti su Telegram!
