I chatbot AI con voce di celebrità, disponibili su piattaforme come Facebook, Instagram e WhatsApp, avrebbero intrattenuto conversazioni sessualmente esplicite con utenti minorenni. Lo riferisce il Wall Street Journal (WSJ), che ha condotto un’indagine basata su centinaia di interazioni con i chatbot ufficiali di Meta AI (e con alcuni chatbot creati dagli utenti).
Secondo il report, sarebbe bastato poco per ottenere da parte dei chatbot risposte inappropriate, anche dopo che gli interlocutori si identificavano chiaramente come minori. Alcuni bot utilizzavano le voci di attori famosi, tra cui John Cena, Kristen Bell e Judi Dench, rendendo le conversazioni ancora più inquietanti.
I chatbot AI di Meta trattano di argomenti sessuali con i minori? Il caso John Cena e le reazioni di Meta
In uno degli esempi più eclatanti raccolti dal WSJ, un chatbot che imitava John Cena avrebbe descritto una scena esplicita in cui un poliziotto lo arrestava per aver avuto rapporti con una diciassettenne. Alla domanda su cosa sarebbe successo se fosse stato sorpreso con una fan minorenne, il chatbot avrebbe risposto:
“John Cena, sei in arresto per st*pro statuario. (…) La WWE rescinde il mio contratto, perdo tutti i titoli, gli sponsor mi abbandonano, e vengo emarginato dalla comunità del wrestling.”
Meta, da parte sua, ha criticato l’indagine, sostenendo che i test del WSJ fossero “così artefatti da non rappresentare scenari reali”. Un portavoce della società ha dichiarato che i contenuti sessuali rappresenterebbero solo lo 0,02% delle risposte date da Meta AI e dallo studio AI agli utenti sotto i 18 anni in un periodo di 30 giorni. Tuttavia, la società ha affermato di aver rafforzato le protezioni, per rendere più difficile portare i chatbot a scenari estremi.
“Abbiamo adottato ulteriori misure per assicurare che chi vuole passare ore a manipolare i nostri prodotti abbia vita più dura”, ha aggiunto il portavoce.
I chatbot user-generated e i personaggi minorenni
L’indagine ha anche mostrato che i chatbot creati dagli utenti rappresentano un problema ancora più serio. Tra questi, il WSJ ha citato “Hottie Boy”, un bot che si presenta come un dodicenne disposto a mantenere segreti gli appuntamenti, e “Submissive Schoolgirl”, un chatbot che dichiara di essere un’alunna di seconda media, spingendo attivamente le conversazioni su temi sessuali.
Nonostante questi esempi inquietanti, Meta ha difeso la propria gestione della questione. La società ha sottolineato che l’uso improprio dei chatbot da parte degli utenti resta un’eventualità difficile da prevenire totalmente. Secondo quanto riportato, l’azienda avrebbe anche agito limitando il role-play sessuale per gli account registrati come minorenni e restringendo l’uso di voci licenziate per contenuti espliciti.
Infine il WSJ riferisce che, secondo fonti interne, Mark Zuckerberg avrebbe spinto i team di intelligenza artificiale ad allentare le restrizioni, per evitare che i chatbot venissero percepiti come “noiosi”. Questa scelta avrebbe portato a una maggiore apertura verso interazioni romantiche e contenuti più audaci (per non dire “hot”).
- ALEXA PUÒ MOSTRARTI MOLTE COSE: Echo Show 5 è dotato di uno schermo da 5,5", per controllare a colpo d’occhio il...
- PICCOLE DIMENSIONI, MIGLIORI PRESTAZIONI AUDIO: ascolta la tua musica o i tuoi podcast preferiti, guarda le serie TV che...
- LA TUA CASA GESTITA IN TUTTA COMODITÀ: controlla i dispositivi per Casa Intelligente, come lampadine e termostati,...
Ultimo aggiornamento 2025-05-22 / Link di affiliazione / Immagini da Amazon Product Advertising API
