YouTube ha rimosso un video di uno scacchista, Antonio Radić, perché parlava della lotta fra i pezzi “bianchi e neri” in una partita di scacchi. L’algoritmo per la moderazione del discorso d’odio ha scambiato il colore dei pezzi degli scacchi per quello della pelle delle persone, segnalando il video. Il video è stato pubblicato l’anno scorso a giugno ma solo di recente una ricerca della Carnegie Mellon University ha rivelato l’errore dell’intelligenza artificiale di Google. E ha dimostrato che non è un caso isolato.
YouTube rimuove un video di scacchi credendolo razzista
Antonio Radić. noto online come Agadmator, ha un canale YouTube con oltre un milione di follower. Appassionati di scacchi, che nel giugno scorso hanno potuto guardare un video con il maestro Hikaru Nakamura. Ma solo per 24 ore, perché YouTube ha rimosso la clip perché l’algoritmo per fermare il discorso d’odio ha riconosciuto come pericoloso il parlare di “bianchi e neri”. YouTube ha ripristinato il video dopo poco, probabilmente dopo un controllo da parte del personale che modera la piattaforma.
I limiti degli algoritmi di controllo
Carnegie Mellon University ha deciso sulla base di questo e altri incidenti di valutare l’efficacia dei software comunemente usati per moderare le piattaforme video e social. Hanno sottoposto all’analisi 680.000 commenti raccolti da cinque canali YouTube a tema scacchistico. Fra i commenti segnalati dai vari software, ne hanno controllati 1.000.
Il risultato è allarmante: l’82% non conteneva alcun riferimento al discorso d’odio. La combinazione di parole fra “bianco”, “nero”, “attacco” e “minaccia” ha fermato i commenti perché considerati razzisti. Questo tipo di ricerca (effettuata su un campione selezionato e specifico ma comunque interessante) mette in evidenza i limiti del controllo tramite algoritmi. È evidente che l’intelligenza artificiale non riesce a cogliere il contesto generale del discorso.
Non sappiamo se questo problema sia risolvibile a livello software, implementando regole specifiche per capire quando si sta parlando di scacchi. Ma appare lampante come il controllo umano e le segnalazioni degli utenti siano il metodo più accurato, anche se di certo non altrettanto rapido e pro-attivo. Libertà d’espressione e moderazione sono una realtà complicata, su cui però è doveroso che i social continui a investire in cerca della migliore soluzione possibile.
Potete trovare il canale YouTube di Agadmator qui.