Deep learning e hate meme: il contest di Facebook

Facebook mette in campo gli algoritmi di deep learning contro gli hate meme e avvia un contest per spingere gli sviluppatori a creare algoritmi di deep learning contro gli hate meme (DeepFake Detection Challenge).

Per questo motivo ha creato un data set di 10.000 hate meme e offre premi agli sviluppatori che riescono ad utilizzarlo per rilevare le espressioni di odio nei meme.

La principale difficoltà di analisi viene dal contenuto “multimodale” dei meme contenente sia immagini che parole. Infatti, se due elementi di un meme possono essere accettabili individualmente, la combinazione potrebbe non esserlo, il che significa che i due elementi devono essere analizzati insieme.

Ad esempio, una frase positiva sovrapposta all’immagine di una rosa non è odiosa, ma le stesse parole con l’immagine di una puzzola non veicolano lo stesso messaggio.

Facebook definisce i contenuti di odio come un attacco diretto o indiretto basato su caratteristiche come etnia, razza, nazionalità, stato di immigrazione, religione, casta, sesso, identità di genere, orientamento sessuale e disabilità o malattia.

In queste categorie Facebook fa rientrare gli attacchi con linguaggio violento o disumanizzante (per esempio paragonando le persone ad animali) e inviti all’esclusione o alla segregazione. Anche deridere il crimine d’odio è considerato discorso d’odio, secondo Facebook.

Sono emerse numerose critiche nei confronti di Facebook che con le proprie regole sostituisce leggi emanate dai parlamenti. A tale riguardo i portavoce di Facebook sottolineano la richiesta di Mark Zuckerberg per un maggiore intervento del governo nella moderazione dei contenuti e la convinzione della società che la censura online è necessaria per “proteggere le persone”.

Facebook e gli algoritmi di deep learning possono essere utilizzati contro gli hate meme ma potrebbero essere utilizzati anche in circostanze diverse.

Secondo alcune critiche i social media avrebbero dovuto inaugurare una nuova era di libertà di espressione in tutto il mondo, eliminando la censura del governo. Invece, il web non ha solo radicato quella censura, ma ha concesso a una manciata di aziende un controllo quasi assoluto su ciò che costituisce “verità” e “idee accettabili” online.

Altri articoli sul tema Algoritmi del web