“Il bianco attacca il nero”, YouTube blocca per razzismo il canale degli scacchi

Spesso si è portati a pensare che sulla rete tutto è possibile, ma una notizia riportata dall’Independent ha dimostrato l’esatto contrario.

Quasi un paradosso che ha portato YouTube a bloccare uno dei più famosi canali di scacchi per presunto razzismo. Una frase come “Il bianco attacca il nero” è stata infatti scambiata dall’intelligenza artificiale, come discriminatoria facendo scattare di conseguenza il blocco del canale.

Questo incredibile fatto è accaduto al giocatore croato di scacchi Antonio Radic, proprietario del canale YouTube Agadmator che è il più famoso al mondo con oltre un milione di iscritti. Secondo quanto riportato dall’Independent, che su questo episodio ha fatto uno studio, i vari riferimenti al bianco e nero, in questo caso il colore degli scacchi, hanno mandato in confusione gli algoritmi addestrati per rilevare frasi razziste o incitamenti all’odio, bloccando di conseguenza l’innocuo canale.

Lo studio è stato portato a termine da due informatici Ashique R. KhudaBukhsh e Rupak Sarkar della Carnegie Mellon University che hanno commentato l’accaduto come possibile. “Non sappiamo quale strumento venga usato da YouTube ma si affidano all’intelligenza artificiale per rilevare il linguaggio razzista, e quindi questo tipo di incidente può accadere” hanno spiegato nell’articolo.

Hanno poi fatto una vera e propria dimostrazione raccogliendo oltre 68mila commenti da cinque diversi canali YouTube dedicati agli scacchi e li hanno forniti ai più noti software programmati per scovare l’”hate speeach”, ovvero l’incitamento all’odio. Ne hanno poi scelti mille che erano stati segnalati come inappropriati da almeno uno dei programmi, e li hanno controllati di persona. Il risultato è stato netto: l’82 per cento non conteneva alcun riferimento razzista, solo il gergo tipico dei giocatori di scacchi.

Nel mondo virtuale di internet non sono comunque solo quelle le parole che mettono in allerta i sistemi di segnalazione. Ne esistono infatti molte altre senza andare a scomodare le più classiche e ovvie come Isis o bomba. Parole come attacco, cattura, minaccia, vengono segnalate anche quando in realtà prese nel contesto della frase possono esprimere infiniti significati anche assolutamente innocui. Per tornare alla notizia sembra che il blocco sia partito durante un video in cui il famoso scacchista croato ha pronunciato la frase “il bianco attacca il nero”, commentando una partita con il Gran Maestro Hikaru Nakamura.