OpenAI ha sviluppato una tecnologia di filigrana per identificare i testi generati da ChatGPT, ma esita a rilasciarla. L’azienda valuta attentamente i potenziali impatti di questa innovazione sul mondo dell’intelligenza artificiale generativa, mentre cerca anche alternative. Soprattutto perché teme che questa tecnologia potrebbe creare problemi ai suoi potenziali clienti.
La filigrana ChatGPT, che però OpenAI esita a lanciare
OpenAI conferma di aver creato un metodo di filigrana testuale per ChatGPT, dopo i report del Wall Street Journal. Questa tecnologia permette di mostrare i contenuti generati con l’intelligenza artificiale, qualcosa che potrebbe ridurre la diffusione di fake news ed evitare che gli studenti la usino per copiare i testi. Ma per OpenAI, potrebbe limitare altri usi legittimi del suo chatbot.
Il sistema di filigrana, inoltre, sebbene identifichi con elevata precisione i testi generati da ChatGPT, mostra debolezze contro manipolazioni più sofisticate. In particolare, non riesce a riconoscere tecniche avanzate di elusione (traduzioni, riformulazioni con altri modelli). E potrebbe avere un potenziale impatto negativo su gruppi specifici di utenti, per esempio potrebbe stigmatizzare l’uso dell’IA come strumento di scrittura per non madrelingua.
Naviga in sicurezza con Nord VPN – Ottieni da questo link il 69% di Sconto
L’azienda sta valutando approcci diversi. Per esempio, l’uso di classificatori per il rilevamento dei testi IA e l’implementazione di metadati per tracciare la provenienza dei contenuti.
L’azienda starebbe, inoltre, lavorando allo sviluppo di strumenti di autenticazione per contenuti audiovisivi e starebbe cercando soluzioni equilibrate per la provenienza dei testi. Quindi, OpenAI adotta un approccio cauto al rilascio della filigrana ChatGPT. Anche perché, con altri modelli disponibili online, produrre una filigrana potrebbe dimostrarsi uno svantaggio competitivo: questo è il tipo di misura che funziona solo se l’intero settore l’adotta. E, al momento, sembra non ci siano davvero le condizioni per farlo.
- Duval, Bianca (Autore)
Ultimo aggiornamento 2024-08-06 / Link di affiliazione / Immagini da Amazon Product Advertising API