L’intelligenza artificiale di Facebook affronta l’ascesa dei contenuti che incitano all’odio
La sofisticata tecnologia di intelligenza artificiale (AI) di Facebook ha consentito alla piattaforma di rimuovere più incitamento all'odio che mai. La sua intelligenza artificiale che rileva l'odio è riuscita a catturare il 95% dei contenuti che incitano all'odio nel terzo trimestre del 2020.
Il ruolo dell'IA nella guerra contro l'incitamento all'odio
L'ultimo rapporto sull'applicazione degli standard della comunità di Facebook ha rivelato il ruolo principale che l'IA sta giocando nella lotta all'incitamento all'odio sulla piattaforma.
Nel terzo trimestre del 2020, Facebook è riuscito a "rilevare in modo proattivo" circa il 95% dei discorsi di incitamento all'odio. In totale, Facebook ha rimosso 22,1 milioni di contenuti odiosi su Facebook e 6,5 milioni di pezzi su Instagram.
Si tratta di un aumento importante rispetto all'ultimo trimestre del 2017, un periodo in cui Facebook ha rilevato in modo proattivo solo il 24% dei discorsi di incitamento all'odio su Facebook e Instagram.
Sebbene la piattaforma utilizzi "una combinazione di segnalazioni degli utenti e tecnologia" per rimuovere contenuti odiosi, l'enorme salto è stato ampiamente attribuito all'intelligenza artificiale avanzata di Facebook.
Non solo la sua intelligenza artificiale aiuta a rilevare e ad agire sui contenuti odiosi prima ancora che vengano segnalati, ma Facebook lo utilizza anche per risolvere i contenuti più complicati che devono essere rivisti. Facebook ha ulteriormente spiegato il ruolo dell'IA, affermando:
Indipendentemente dal fatto che il contenuto venga rilevato o segnalato in modo proattivo dagli utenti, spesso utilizziamo l'intelligenza artificiale per agire sui casi semplici e dare la priorità ai casi più sfumati, in cui il contesto deve essere considerato, per i nostri revisori.
Inoltre, Facebook ha anche notato un aumento della prevalenza di incitamento all'odio durante il terzo trimestre. Secondo Facebook, determina "la prevalenza dell'incitamento all'odio selezionando un campione di contenuti visti su Facebook e quindi etichettando quanto di esso viola le nostre politiche sull'incitamento all'odio".
Il rapporto ha mostrato che su 10.000 visualizzazioni di contenuti della piattaforma, da 10 a 11 visualizzazioni contenevano incitamento all'odio.
In che modo Facebook definisce l'incitamento all'odio?
Se ti stai chiedendo in che modo Facebook determina esattamente cosa è e cosa non è incitamento all'odio, la piattaforma modifica continuamente la sua definizione. Nell'agosto 2020, Facebook ha aggiornato le sue politiche sull'incitamento all'odio per includere teorie del complotto antisemita e blackface. Facebook osserva che "mentre la parola continua ad evolversi nel tempo, continuiamo a rivedere le nostre politiche per riflettere le mutevoli tendenze sociali".
In questo momento, Facebook definisce l'incitamento all'odio "come qualsiasi cosa che attacca direttamente le persone in base a caratteristiche protette, tra cui razza, etnia, origine nazionale, appartenenza religiosa, orientamento sessuale, sesso, genere, identità di genere o grave disabilità o malattia".
Cosa aspettarsi in futuro
Nel corso del 2020, Facebook ha dovuto affrontare una serie di sfide per quanto riguarda i contenuti controversi.
All'inizio dell'anno, la piattaforma ha dovuto combattere la disinformazione sulla pandemia COVID-19. In seguito, ha anche dovuto occuparsi di informazioni fuorvianti sulle elezioni presidenziali statunitensi. Ciò ha portato la piattaforma a schiaffeggiare etichette su determinati post o a rimuoverle del tutto.
Poiché l'intelligenza artificiale di Facebook continua ad evolversi, possiamo solo aspettarci altri takedown in futuro.
