Bello l’open source ma cosa succede quando viene utilizzato per creare un AI con applicazioni in campo militare?
È una domanda che è giunto il momento di porsi visto che, secondo quanto riportato da Reuters, un gruppo di ricercatori cinesi avrebbe utilizzato il modello Llama di Meta, disponibile pubblicamente, per sviluppare uno strumento di IA con potenziali applicazioni militari.
La creazione di ChatBIT
In un documento di giugno esaminato da Reuters, sei ricercatori cinesi appartenenti a tre istituzioni diversi, tra cui due sotto l’egida dell’organismo di ricerca principale dell’Esercito Popolare di Liberazione (EPL), l’Accademia di Scienze Militari (ASM), hanno spiegato come siano arrivati alla creazione di “ChatBIT” partendo dai modelli Llama di Meta, nello specifico Llama 2 13B, rilasciato da Meta a febbraio 2023.
Il gruppo ha incorporato i propri parametri per costruire uno strumento di IA per uso militare con l’obiettivo di raccogliere ed elaborare informazioni e offrire informazioni accurate e affidabili con cui prendere decisioni operative.
Nello specifico ChatBIT è stato perfezionato e “ottimizzato per attività di dialogo e risposta a domande in ambito militare”, afferma il documento, evidenziando per altro che le prestazioni raggiunte dallo strumento erano superiori a quelle di altri modelli AI.
Non è tutto: “In futuro, attraverso il perfezionamento tecnologico, ChatBIT non sarà applicato solo all’analisi dell’intelligence, ma saranno esplorati anche la pianificazione strategica, l’addestramento alla simulazione e il processo decisionale di comando”, afferma il documento.
I limiti del modello Llama
“È la prima volta che ci sono prove sostanziali che esperti militari dell’EPL in Cina hanno sistematicamente cercato di sfruttare la potenza degli LLM open-source, in particolare quelli di Meta, per scopi militari”, ha affermato Sunny Cheung, ricercatore associato presso la Jamestown Foundation e specializzato nelle tecnologie emergenti.
Ma non è tutto: se venisse ufficialmente confermato ChatBIT violerebbe i termini di licenza open source del modello di Meta che vieta esplicitamente l’uso di Llama per “industrie o applicazioni militari, belliche, nucleari, spionaggio” e altre attività soggette ai controlli sulle esportazioni del Dipartimento della Difesa degli Stati Uniti, nonché per lo sviluppo di armi e di contenuti destinati a “incitare e promuovere la violenza”.
La Cina avrebbe quindi violato i termini d’uso, come ha confermato a Reuters Molly Montgomery, direttore delle politiche pubbliche di Meta, in un’intervista telefonica: “Qualsiasi utilizzo dei nostri modelli da parte dell’Esercito Popolare di Liberazione non è autorizzato ed è contrario alla nostra politica di utilizzo accettabile”.
L’open source era la scelta giusta?
Di fronte a questa ricerca viene da chiedersi se sia giusto rendere open source i grandi modelli linguistici come Llama, cosa di cui Meta sembra convinta nell’ottica di favorire lo sviluppo globale dell’AI grazie al contributo e alla collaborazione di tutti quanti.
Le istituzioni non paiono d’accordo, con il presidente degli Stati Uniti Joe Biden che già l’anno scorso aveva firmato un ordine esecutivo che evidenziava i rischi per la sicurezza di questi modelli; a Washington inoltre si starebbe lavorando per finalizzare una serie di nuove regole volte a frenare gli investimenti statunitense in Cina in diversi settori tecnologici, tra cui l’AI.
- Aresu, Alessandro (Autore)
Ultimo aggiornamento 2024-10-06 / Link di affiliazione / Immagini da Amazon Product Advertising API