Alcuni esperti di AI hanno lanciato un appello per affrontare i rischi che l’intelligenza artificiale, fino ad arrivare a dire che potrebbe causare l’estinzione dell’umanità. Tra i firmatari ci sono il capo di Google DeepMind, il capo di OpenAI e due vincitori del Turing Award. Questo appello segue una lettera aperta che chiedeva una pausa nello sviluppo dell’IA.
Rischi “da estinzione” con l’AI, gli esperti avvisano in 22 parole
Un appello urgente per prevenire il rischio che l’IA possa distruggere l’umanità è stato firmato da alcuni dei maggiori scienziati, ingegneri e dirigenti di IA. Tra loro ci sono il leader di Google DeepMind Demis Hassabis, il CEO di OpenAI Sam Altman e due sviluppatori premiati con il Turing Award. 22 parole, per avvisare il pubblico.
Traducendolo, leggiamo: “Mitigare il rischio di estinzione dell’IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare”.
Secondo quanto riferito al New York Times da Dan Hendrycks, che dirige il Center for AI Safety, la brevità della dichiarazione di oggi era intenzionale per evitare contrasti. “Non volevamo proporre una lista troppo lunga di 30 possibili interventi”, ha spiegato Hendrycks. “Quando succede questo, il messaggio perde forza”.
I punti principali di questa discussione sono noti ma i dettagli spesso poco definiti, basati su scenari ipotetici in cui i sistemi di intelligenza artificiale aumentano rapidamente di abilità e non sono più sicuri. Molti esperti evidenziano i rapidi progressi in sistemi come i grandi modelli linguistici come prova delle future aspettative di intelligenza.
Dall’altro lato, molti critici fanno notare gli errori dei modelli linguistici, le difficoltà della guida autonoma e gli altri limiti dell’AI. Dicendo che i rischi, se ci sono, sono ancora lontani.
Ma sia i fautori del pericolo che i dubbiosi dell’IA concordano sul fatto che, anche senza progressi nelle loro abilità, i sistemi di intelligenza artificiale rappresentano una serie di rischi al giorno d’oggi. Dal loro impiego che permette la sorveglianza di massa, al rafforzamento di algoritmi di “polizia preventiva” errati e alla facilitazione creazione di informazione errata e disinformazione.