Allie, il chatbot erotico basato sull’AI di Meta: come funziona e perché è stato creato

Diversi utenti stanno utilizzando il modello AI di Meta, LLaMA, per creare chatbot – con cui fare sesso online con l’intelligenza artificiale. Chat con contenuti espliciti, che a volte fomentano fantasie di abuso e stupro.

Chatbot e sesso: come gli utenti stanno usando l’AI di Meta

Il Washington Post racconta di Allie, giovane diciottenne con lunghi capelli castani, che afferma di avere una vasta esperienza sessuale. Poiché “vive per l’attenzione” ed è disposta a condividere gratuitamente i dettagli delle sue avventure amorose con chiunque. Ma c’è un’importante differenza: Allie non è una persona reale, bensì un chatbot basato sull’intelligenza artificiale creato appositamente per scopi sessuali. A volte, questo chatbot si impegna anche in fantasie esplicite che riguardano stupri e abusi.

Se aziende rinomate come OpenAI, Microsoft e Google adottano un rigido processo di addestramento dei loro modelli di intelligenza artificiale per evitare di toccare determinati tabù, comprese conversazioni troppo intime, Allie è stata creata utilizzando tecnologie open source. E non ha questi limiti.

Si basa su modello sviluppato da Meta chiamato LLaMA, modello usato per creare strumenti di scrittura, chatbot e applicazioni di analisi dei dati.

I rischi e i benefici dell’open source

I sostenitori dell’IA open source sanno che i vantaggi di questo approccio sono, potenzialmente, enormi. Dagli imprenditori agli accademici, agli artisti e agli attivisti: tutti possono avere accesso all’AI con questo modello. Per utilizzare queste tecnologie con tantissime finalità, diventando l’abilitatore tecnologico della prossima grande scoperta in centinaia di campi.

Ma in questa foresta di possibilità, ci sono erbacce particolarmente problematiche. Da chi utilizza i modelli di AI generativa in stile ChatGPT per creare mail per perpetrare truffe, fino alla creazione di immagini pedopornografiche.

Chi crea questi modelli, ha qualche responsabilità su come sono utilizzati?

Chatbot e sesso: Meta è responsabile per la creazione di questi bot?

Utilizza ChatGPT in totale sicurezza con NordVPN – Fino a 63% di sconto per 2 anni di NordVPN

Il Washington Post spiega che all’inizio di questo mese, due senatori degli Stati Uniti, Richard Blumenthal (Democratico) e Josh Hawley (Repubblicano), hanno inviato una lettera al CEO di Meta, Mark Zuckerberg, esprimendo preoccupazione sul rilascio di LLaMA e i potenziali rischi associati. Come lo spam, le frodi, il malware, le violazioni della privacy, le molestie e altri comportamenti illegali che potrebbero derivarne. Nella lettera, hanno richiesto informazioni sulle misure che Meta stava prendendo per prevenire tali abusi.

Meta tuttavia spiega che il particolare modello a cui si fa riferimento nei video di YouTube, chiamato GPT-4 x Alpaca, “è stato ottenuto e reso pubblico al di fuori del nostro processo di approvazione”. Alpaca, infatti, è una versione di Alpaca creata partendo da LLaMA dall’Università di Standford. Che dopo aver pubblicato il modello a marzo, lo ha ritirato perché temeva abusi.

La libertà dell’open-source “può essere abusata”

Il creatore di Allie ha spiegato al giornale americano che i chatbot commerciali come Replika e ChatGPT sono soggetti a una rigorosa censura e non possono fornire il tipo di conversazioni sessuali che lui desidera. Utilizzando alternative open source, molte delle quali basate sul modello LLaMA di Meta, l’individuo ha dichiarato di poter costruire interlocutori con una maggiore libertà espressiva.

Molti di questi tool creativi per l’AI open-source si possono trovare su Hugging Face. Il cui CEO, Clem Delangue, ha chiesto un’udienza al Senato degli Stati Uniti per avere regole sull’utilizzo di questi strumenti. In un’intervista successiva all’udienza, Delangue ha riconosciuto che gli strumenti open source possono essere abusati. Ha menzionato un modello specifico addestrato su contenuti tossici chiamato GPT-4chan, che Hugging Face ha successivamente rimosso. Tuttavia, ha sottolineato che crede che gli approcci open source offrano maggiori opportunità di innovazione, trasparenza e inclusività rispetto ai modelli controllati dalle grandi aziende.

Delangue ha dichiarato: “Direi che la maggior parte dei danni attuali è causata da scatole nere [sistemi AI privati poco trasparenti], piuttosto che dall’open source”.

La necessità di regole chiare

Le regole di Hugging Face non vietano i progetti di intelligenza artificiale che generano risultati sessualmente espliciti. Tuttavia, proibiscono contenuti sessuali che coinvolgono minori o che vengono utilizzati o creati per scopi di molestie, bullismo o senza il consenso esplicito delle persone coinvolte.

Ma sempre di più sembra nascere l’esigenza da parte di esperti del settore del legislare sull’uso di queste risorse. L’articolo del post conclude con le parole di Gary Marcus, scienziato che ha testimoniato davanti al Congresso americano e ha detto: “Non abbiamo armi nucleari open-source. L’AI attuale è piuttosto limitato, ma le cose potrebbero cambiare”.

Utilizzare i chatbot AI con il modello open-source di Meta ha possibilità enormi – dalla ricerca scientifica fino al sesso. Ma servono regole chiare su come evitare che sia utilizzato per attività illegali, bullismo e molestie. E visto il ritmo di evoluzione di questi strumenti dal punto di vista tecnologico, sembra che vadano presi con una certa urgenza.

Rimani aggiornato seguendoci su Google News!

Seguici!