Twitch combatterà i troll con il machine learning

Ancora aggiornamenti dall’App di Twitch, che sta intensificando gli sforzi per ridurre le molestie agli streamer causate dai troll che ne invadono le chat. Questa volta, infatti, la piattaforma ha scelto di avvalersi del supporto del machine learning per rilevare gli utenti che potrebbero non rispettare il suo regolamento. Il nuovo strumento è denonimato “Suspicious User Detection“, ed ha lo scopo di identificare le persone “probabili” o “possibili” che hanno eluso i divieti dal canale di uno streamer.

Twitch: App limiterà l’azione dei troll con il supporto del machine learning

L’App di Twitch ricorre all’utilizzo del machine learning per identificare utenti che non seguono un comportamento corretto sulla piattaforma. E per farlo ne valuta le caratteristiche e il comportamento dell’account, e poi li confronta con quelli degli account banditi dal canale di uno streamer. In questo modo, il sistema permetterà agli streamer di leggere i messaggi degli utenti “sospetti”, ma senza che questi siano visibili sulla chat pubblica. Volendo, gli streamer possono monitorare un account “molesto”, aggiungendolo ad un apposito elenco di persone sospette. In questo caso, i messaggi degli ipotetici troll saranno visibili nella chat del canale, ma lo streamer avrà la possibilità di bloccarli e/o eliminarli.

Dal canto suo, l’App di Twitch attiverà Suspicious User Detection per impostazione predefinita. Ma gli streamer possono modificare o disattivare la funzione a proprio piacimento, con la possibilità di selezionare manualmente il monitoraggio degli utenti sospetti. “Questo strumento è stato ispirato in gran parte dal feedback della community sulla necessità di avere modi migliori per frenare gli evasori dei ban“, ha commentato Alison Huffman, direttore del prodotto per la salute della comunità di Twitch. “Quando stavamo parlando con i mod dei loro problemi, abbiamo capito che può essere difficile distinguere se un utente che scrive qualcosa che ha violato le norme del loro canale fosse un molestatore dannoso e ripetuto o solo un nuovo spettatore che non aveva imparato ancora le abitudini del canale“.

E così conclude Huffman: “Pertanto abbiamo progettato questo strumento per fornire a mod e creatori maggiori informazioni sui potenziali evasori di ban in modo che possano prendere decisioni più efficienti e informate all’interno del loro canale“. D’altronde, è innegabile che rilevare gli utenti potenzialmente molesti possa essere una buona soluzione per garantire la sicurezza degli streamer dell’App di Twitch. Soprattutto se aggiungiamo questa nuova funzione a quella che permette agli streamer di richiedere ai partecipanti alla chat la verifica della propria identità. Resta solo da capire, a questo punto, quanto questi strumenti saranno efficaci. E soprattutto se i troll riusciranno a non aggirarli.