Non possiamo ancora fidarci ciecamente degli algoritmi

Qualche settimana fa è scoppiato un piccolo caso. Una ricerca della Carnegie Mellon University ha portato a galla un caso di ‘censura’ sui social network risalente allo scorso giugno, piuttosto bizzarro. YouTube ha infatti rimosso un video di scacchi perché incitava all’odio razziale, confondendosi sull’uso dei termini “bianchi” e “neri“. Immediatamente sono scoppiate innumerevoli polemiche non troppo giustificate, ma la lezione da imparare c’è comunque: non siamo ancora pronti per affidarci agli algoritmi, anche se ne avremmo bisogno.

Scacchi, YouTube e censura, quando il politicamente corretto non c’entra

Come detto, l’emergere della notizia ha immediatamente causato una levata di scudi da parte di gran parte dei commentatori sul web. Spesso fermandosi solo ai titoli degli articoli circolati, molti utenti dei social network si sono subito scagliati contro la ‘dittatura del politicamente corretto’, rea di essersela presa con gli innocenti scacchi nella sua caccia alle streghe razziste. Non è quello che è successo.

Innanzitutto, come si sottolineava in apertura, si è trattato di un caso di diversi mesi fa, riemerso solo perché spunto di una nuova ricerca scientifica. Secondariamente non c’è stato alcun desiderio di mettere sotto accusa gli scacchi. Si è trattato di un semplice fraintendimento da parte dei meccanismi automatici di YouTube che analizzano le discussioni sotto i video.

Un errore di comprensione che peraltro è parzialmente giustificabile: se leggessimo di “bianchi“, “neri“, “minaccia” e “attacco” senza un contesto, anche noi probabilmente potremmo cadere in errore. Ma su questo ci torniamo più avanti.

È bene infatti ricordare che dopo poco tempo, il video è tornato online. Con tutta probabilità la piattaforma ha analizzato meglio il contesto, forse con il coinvolgimento diretto di un controllo umano, e resasi conto dell’errore è tornata sui propri passi. Quello che questa storia (e la ricerca della Carnegie Mellon University) racconta non è quindi una storia di oppressione politicamente corretta. Quello che ci insegna è quanto ancora gli algoritmi debbano evolversi, nonostante il grande bisogno che abbiamo di loro.

Perché vagliare alla censura i video di scacchi su YouTube?

Come sa bene chiunque abbia vissuto l’era dei forum tra fine ’90 e inizio ’00, qualsiasi community sul web ha bisogno di sistemi di moderazione. Il filtro dello schermo e della tastiera può generare un senso di invulnerabilità negli utenti e questo degenera rapidamente. La necessità di una moderazione è evidente e negli ultimi tempi forse lo è diventata ancora di più.

D’altro canto, non è più possibile affidarsi solo al controllo umano, per pure ragioni matematiche. I dati disponibili sul traffico del web 2.0 variano da social a social, ma possiamo comunque farci un’idea. Ogni giorno su Facebook arrivano 350 milioni di nuove foto. Su Twitter si parla di circa 500 milioni di contenuti quotidiani. Instagram già nel 2016 ogni giorno toccava quasi 100 milioni di post. Attenzione: post, non Stories, quelle sono probabilmente molte di più.

Se andiamo a vedere il dato che ci interessa di più nello specifico ci rendiamo conto di quanto effettivamente un controllo automatico sia necessario. Su YouTube infatti si caricano circa 500 ore di video ogni minuto.  Una cifra impressionante che non può, per evidenti ragioni, passare da un vaglio umano. Soprattutto se consideriamo che oltre ai video andrebbero controllati anche commenti, post, descrizioni, immagini e molto altro…

Insomma, la censura è spesso antipatica, ma almeno a un qualche livello è necessaria. Il dibattito è ancora aperto su dove piazzare la metaforica asticella e le risposte possono essere molte, ma è indispensabile che ci sia. Allo stesso tempo, è fondamentale che si sviluppino sistemi di controllo che vadano oltre le persone, perché ormai generiamo troppo contenuto per controllarlo tutto ‘a mano’.

Il problema, come dimostra la ricerca della Carnegie Mellon University, è che ancora siamo troppo lontani da quell’obiettivo.

Gli automi hanno tanto da imparare

Sia chiaro, non è che non si siano fatti grandi passi avanti negli ultimi anni. Come tanti altri aspetti della tecnologia, i meccanismi di analisi del linguaggio si sono incredibilmente evoluti nel recente passato. Però ancora non basta.

Il linguaggio è forse una delle attività più strettamente collegate al modo umano di elaborare le informazioni che (non stupirà nessuno) è completamente diverso da quello di un software. Ci sono tantissimi parametri da tenere in considerazione e a volte anche anche noi entriamo in confusione. Vi siete mai trovati bloccati davanti a un messaggio su WhatsApp chiedendovi se il vostro interlocutore stesse scherzando o fosse serio? Questo è più o meno quello che può accadere anche agli algoritmi, se non di più.

Noi trasmettiamo una buona quantità di informazioni tramite le parole e il loro significato, ma non sono l’unico veicolo. Una parte del messaggio si sviluppa anche tramite il tono della voce, la gestualità, il contesto e molti altri fattori. Tutti questi sono fondamentali per distinguere i casi di ambiguità e per noi è un processo naturalissimo. Se siamo su un campo da calcio e sentiamo parlare di una “squadra” non penseremo a uno strumento per disegnare e viceversa se ci troviamo in uno studio di architetti.

Il punto è che noi abbiamo l’abilità di guardarci intorno, di capire il contesto. Un meccanismo talmente automatico che non ci accorgiamo di quando lo utilizziamo. Anche per questo quindi diventa davvero complesso da tradurre in formule precise, che possano poi essere passate a un automatismo. L’intuito umano è capace di risolvere rapidamente i problemi che possono bloccare eternamente una macchina.

E quindi? Che si fa con gli scacchi su YouTube?

La verità è che dobbiamo prendere atto del fatto che, al momento, non esiste una soluzione definitiva al problema tecnico del controllo dei social. Dobbiamo continuare ad affiancare esseri umani che passino al vaglio eventuali errori sfuggiti agli algoritmi. Sempre più persone dovranno essere impiegate in questo campo, coprendo più lingue possibili, perché i contenuti che ogni giorno arrivano sul web continuano a crescere e ad aprirsi a sempre più Nazioni e comunità.

Al contempo è necessario proseguire nella ricerca e nello sviluppo di questi sistemi, per renderli sempre più efficaci e precisi. E ancora, mentre tutto questo avanza, dobbiamo portare avanti un serio dibattito, che sia costruttivo e non semplicemente un muro contro muro, sui limiti da porre, su cosa è lecito e cosa no, su quali sono le conseguenze.

Fino a quando non arriveremo a una situazione ideale, dovremo accettare ogni tanto che un video di scacchi su YouTube sia confuso con una discussione razzista. E magari, imparare ad approfondire quello che si legge, andando oltre il titolo di un pezzo.

Rimani aggiornato seguendoci su Google News!

Seguici!