Non ci stupisce troppo, eppure continua a inquietarci. Che la Cina abbia una macchina della censura ben oliata lo sappiamo da tempo, ma con l’AI le cose sembrano raggiungere livelli orwelliani. Un database trapelato in rete rivela un sistema avanzatissimo di intelligenza artificiale progettato per censurare ogni contenuto ritenuto sensibile dal governo di Pechino. Insomma, la tecnologia amplia il controllo statale e potrebbe rafforzare la repressione online.
La censura cinese diventa sempre più intelligente con l’AI
Nelle scorse settimane, grazie a un database non protetto ospitato su un server Baidu, è emerso un archivio di 133.000 esempi di contenuti censurabili. Esempi che sono utilizzati dalle AI cinesi per veicolare e censurare le informazioni. In effetti il dataset, analizzato da TechCrunch, dimostra come la Cina abbia sviluppato un sistema di intelligenza artificiale per automatizzare la censura digitale con un livello di dettaglio senza precedenti.
L’obiettivo non è solo bloccare contenuti su argomenti tradizionalmente vietati (come il massacro di Piazza Tiananmen, per esempio) ma anche individuare discussioni più subdole e potenzialmente pericolose per il regime. Secondo Xiao Qiang, ricercatore dell’Università della California, Berkeley, questi dati costituiscono “prove chiare” dell’uso dei modelli linguistici avanzati per rafforzare la repressione online.
A differenza dei sistemi di censura classici, basati su filtri per parole chiave e revisione manuale, l’intelligenza artificiale consente un controllo più preciso e capillare. “Un LLM addestrato con queste istruzioni migliorerebbe notevolmente l’efficienza e la granularità del controllo statale dell’informazione”, ha spiegato Qiang. LLM, per quanti di voi non conoscano il linguaggio tecnico, sta per Large Language Model, in pratica i modelli linguistici alla base di tutti i chatbot AI.
Il database ci rivela che la grande macchina della censura cinese si estende a temi come corruzione politica, inquinamento, frodi finanziarie e proteste sindacali. E poi ancora informazioni su movimenti militari e armamenti, così come qualsiasi riferimento alla politica di Taiwan. Tutte queste tematiche vengono classificate come priorità assoluta, quindi da censurare immediatamente.
Al momento non è chiaro chi abbia creato il dataset, ma i dati più recenti risalgono a dicembre 2024. A quanto pare non esistono nemmeno legami diretti con Baidu o Elasticsearch, i servizi di cloud storage su cui era ospitato il database.
L’AI riconosce anche la dissidenza implicita
E se tutto ciò vi sembra allarmante, aspettate di scoprire il resto. L’AI non si limita a rilevare termini o tematiche ritenute “scomode”, ma identifica anche forme più sottili di dissenso. Un esempio incluso nel dataset è il proverbio cinese “Quando l’albero cade, le scimmie si disperdono”, un modo indiretto di commentare il potere politico e la sua instabilità.
Frasi come questa potrebbero sfuggire a un filtro basato su parole chiave, ma l’AI riesce a coglierne il significato sottinteso. Secondo Michael Caster, analista dell’organizzazione per i diritti umani Article 19, il sistema sembra destinato al “lavoro di opinione pubblica”, termine usato dal governo cinese per indicare il controllo della narrazione online delle vicende politiche.
“Questa evoluzione dell’AI porta la censura a un nuovo livello, con strumenti in grado di affinare continuamente il riconoscimento dei contenuti vietati”, ha affermato Xiao Qiang.
Di uso etico dell’AI, e di derive della tecnologia per controllare le masse, abbiamo parlato al telefono con Maya. Chi è Maya? Beh, Maya è un…AI. Un assistente vocale umanoide realizzato da Sesame. Trovate la nostra intervista qui.
- ALEXA PUÒ MOSTRARTI MOLTE COSE: Echo Show 5 è dotato di uno schermo da 5,5", per controllare a colpo d’occhio il...
- PICCOLE DIMENSIONI, MIGLIORI PRESTAZIONI AUDIO: ascolta la tua musica o i tuoi podcast preferiti, guarda le serie TV che...
- LA TUA CASA GESTITA IN TUTTA COMODITÀ: controlla i dispositivi per Casa Intelligente, come lampadine e termostati,...
Ultimo aggiornamento 2025-04-20 / Link di affiliazione / Immagini da Amazon Product Advertising API
