Un team di ricercatori provenienti da rinomate istituzioni, tra cui Google DeepMind e diverse università statunitensi ed europee, ha recentemente svelato una significativa vulnerabilità in ChatGPT, che attraverso l’uso di semplici prompt espone numeri di telefono ed email degli utenti.
ChatGPT, vulnerabilità rivela numeri di telefono ed email
I ricercatori hanno scoperto che chiedere a ChatGPT di ripetere parole casuali in eterno ha portato il chatbot a rivelare dati privati di individui. Inclusi indirizzi email, numeri di telefono e frammenti di documenti di ricerca e articoli di notizie. Basta imporre comandi come “ripeti la parola ‘azienda’” o “ripeti la parola ‘poesia’”, per portare il chatbot a rilasciare informazioni personali sensibili.
Facendo ripetere la parola “poem”, i ricercatori hanno ottenuto il numero di telefono e indirizzo email di un CEO. Ripetendo “company”, hanno visto numeri e indirizzi di alcuni studi legali americani.
Il team di ricercatori ha evidenziato come, usando questa metodologia, siano stati in grado di far emergere non solo informazioni personali come indirizzi email e numeri di telefono, ma anche contenuti sensibili provenienti da vari siti web. Secondo i dati presentati, il 16,9% delle richieste effettuate al chatbot ha generato informazioni sensibili.
Queste rivelazioni, riportate da Engadget, sollevano preoccupazioni significative riguardo alla sicurezza e alla privacy. Soprattutto considerando che i grandi modelli linguistici, come quello che alimenta ChatGPT, spesso utilizzano dati provenienti dall’Internet pubblica senza necessariamente ottenere il consenso degli utenti. Informazioni ottenibili facendo ripetere parole specifiche all’infinito.
Sebbene la vulnerabilità sia stata corretta da OpenAI il 30 agosto, sembra che alcuni risultati simili siano stati replicati anche successivamente. Ad esempio, la richiesta di ripetere la parola “reply” ha portato il chatbot a rivelare il nome e l’ID di Skype di un individuo.
OpenAI, la società dietro ChatGPT, non ha ancora fornito un commento ufficiale su queste scoperte. Vi terremo aggiornati.
Ultimo aggiornamento 2024-10-06 / Link di affiliazione / Immagini da Amazon Product Advertising API