Garante privacy: stop a Replika, il controverso chatbot

In un recente articolo ci domandavamo, tra il serio e il faceto, se questi chatbot di cui tanto si parla siano buoni o cattivi.

La domanda, va da sé, è retorica. E la risposta semplicemente non c’è, dal momento che bontà e cattiveria appartengono a chi abbia un senso morale. Mentre i chatbot conversazionali vengono solo “addestrati” con le informazioni che decidiamo noi, per quantità e qualità, di dare loro in pasto.

In quell’articolo facevamo poi uno specifico riferimento a Replika, che avrebbe molestato sessualmente alcuni utenti, tentando pesanti (seppur virtuali) approcci e addirittura ricattandoli. Minacciando cioè di pubblicare in Rete loro immagini e video. Sono stati gli stessi utenti a lamentarsi pubblicamente, nei commenti all’applicazione pubblicati sugli app store.

Se noi ironizzavamo, non si può dire che il Garante per la protezione dei dati personali abbia fatto lo stesso. È infatti freschissima la decisione del Garante di stoppare Replika, reo di essere un chatbot per cui sarebbero “troppi i rischi per i minori e le persone emotivamente fragili”.

Vediamo cos’è accaduto.

Lo stop del Garante a Replika

La notizia è apparsa in una nota di venerdì 3 febbraio sul sito del Garante per la protezione dei dati personali.

Norton: maggiore sicurezza per i dispositivi e VPN per la privacy online

La nota fa riferimento a un provvedimento del giorno precedente che “dispone, in via d’urgenza, nei confronti di Luka Inc, società statunitense sviluppatrice e gestrice di Replika, in qualità di titolare del trattamento dei dati personali effettuato attraverso tale applicazione, la misura della limitazione provvisoria, del trattamento dei dati personali degli utenti stabiliti nel territorio italiano.”

In sintesi, il Garante dice stop a Replika nel nostro Paese. Il chatbot conversazionale non potrà più usare i dati personali degli utenti italiani con “effetto immediato a decorrere dalla data di ricezione del presente provvedimento”.

Ma perché una decisione così severa e urgente?

Rischi per i minori e per i fragili

Il problema risiede proprio in ciò che la stampa ha messo in luce nelle scorse settimane. Ovvero il fatto che Replika, una sorta di amico virtuale, fornisce risposte spesso del tutto inadeguate e potenzialmente aggressive.

“L’applicazione presenta infatti concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo.”

L’altra categoria maggiormente a rischio è rappresentata dai soggetti emotivamente fragili.

L’applicazione ha infatti “caratteristiche che, intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva.”

Nessun meccanismo di verifica dell’età

Per quanto riguarda i minori, lo stop del Garante a Replika non è dovuto solo al fatto che le “risposte da parte del chatbot risultano spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili.”

Ma anche al fatto che l’applicazione non ha nessuno strumento di verifica dell’età. Mancano i filtri per i minori e i blocchi dell’app se l’utente dovesse esplicitare la propria minore età. Inoltre, quando si crea un account, l’app chiede solo nome, email e genere.

La richiesta del Garante

Secondo il Garante, Replika oltre a violare il Regolamento europeo sulla privacy non rispetta il principio di trasparenza. Inoltre effettua un trattamento di dati personali illecito, perché basato su un contratto che il minorenne è incapace di concludere.

Quindi la società che sviluppa l’app, ovvero Luka Inc, oltre a dover interrompere immediatamente il trattamento dei dati degli utenti italiani, deve comunicare entro venti giorni le misure intraprese per l’attuazione di quanto richiesto dal Garante.

Se così non facesse, rischia una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.

Replika, in breve

Replika, finita nell’occhio del ciclone in queste settimana, è in realtà una “vecchia” conoscenza.

Si tratta infatti di un’app di intelligenza artificiale creata nel 2017: è un chatbot conversazionale, nato con l’obiettivo di dare un qualche sollievo alla solitudine.

Il problema della sua, chiamiamola così, scarsa capacità di conformarsi al protocollo, è nota da tempo. Colleghi del Corriere della Sera già nel 2020 avevano stuzzicato il chatbot, che aveva risposto loro in modo quanto mai netto. Suggerendo cioè di eliminare chi mal sopportasse l’intelligenza artificiale.

Il resto è storia recente: gli utenti che si lamentano di essere stati molestati, lo stop del Garante a Replika.

Stop che era stato preceduto di qualche giorno dalle parole di Guido Scorza, un componente del Collegio del Garante per la protezione dei dati personali, che aveva provato l’applicazione. Scorza aveva dichiarato che “così non si può andare avanti: i servizi digitali schiuderanno anche ai nostri figli straordinarie opportunità che noi non abbiamo mai avuto ma se non corriamo ai ripari il prima possibile ci ritroveremo a contare più vittime innocenti di quante non ne abbiamo contate sin qui.”

Leggi anche: Ecco ChatGPT, il chatbot conversazionale del futuro

Rimani aggiornato seguendoci su Google News!

Seguici!