OpenAI ha scoperto e bloccato account legati a un’operazione di influenza dall’Iran, che utilizzava ChatGPT per generare contenuti su temi politici sensibili, inclusa la campagna presidenziale USA.
ChatGPT al centro di un tentativo di manipolazione da parte dell’Iran
L’azienda creatrice di ChatGPT ha individuato un gruppo noto come Storm-2035 che sfruttava l’intelligenza artificiale per produrre materiale su diversi argomenti di attualità. Questo tentativo di influenzare l’opinione pubblica non ha però ottenuto il seguito sperato.
Come riporta Mashable, il gruppo iraniano ha utilizzato ChatGPT per creare contenuti su:
- Candidati presidenziali USA di entrambi gli schieramenti
- L’invasione israeliana di Gaza
- I diritti delle comunità latinx negli Stati Uniti
- La politica venezuelana
- L’indipendenza scozzese
Storm-2035 ha anche generato articoli su moda e bellezza, probabilmente per apparire più autentico e costruire un seguito.
OpenAI ha bloccato gli account coinvolti nell’operazione non appena li ha scoperti. L’azienda ha dichiarato: “Prendiamo sul serio qualsiasi tentativo di utilizzare i nostri servizi in operazioni di influenza straniera, nonostante la mancanza di un coinvolgimento significativo del pubblico risultante da questa operazione.”
Secondo OpenAI, l’iniziativa di Storm-2035 non ha raggiunto un pubblico significativo. La maggior parte dei post sui social media ha ricevuto pochi o nessun like, condivisione o commento. Non ci sono indicazioni che gli articoli web siano stati ampiamente condivisi sui social media. Insomma: il danno non sembra enorme, OpenAI dovrebbe aver bloccato la disinformazione prima che diventasse pericolosa.
Il fatto che OpenAI abbia bloccato questo tentativo mostra l’attenzione della società per questi casi, ma evidenzia anche i rischi potenziali dell’uso improprio dell’intelligenza artificiale per influenzare l’opinione pubblica. Solleva interrogativi sulla necessità di maggiori controlli sull’utilizzo di strumenti AI come ChatGPT, ma anche sulla necessità di un’educazione degli utenti per riconoscere contenuti generati artificialmente.
Ultimo aggiornamento 2024-08-21 / Link di affiliazione / Immagini da Amazon Product Advertising API