HATE SPEECH: cos’è e come si combatte

Riconoscere un discorso d’odio: le cause, i meccanismi con cui opera e che cosa si può fare a riguardo.

È un fenomeno da sempre esistito anche nelle vetuste epoche pre-social: insulti razzisti, omofobi, misogini o simili sono un must nei discorsi pubblici, dal bar al Parlamento. Il fenomeno tuttavia con l’invenzione dei social network si è sicuramente acuito, raggiungendo una diffusione e una potenza preoccupante.

Per poter capire meglio come i discorsi d’odio hanno avuto una così ampia diffusione e tutte le conseguenze cui hanno portato è necessario prima fare un po’ di chiarezza su che cosa questi discorsi siano. 

La verità è che non esiste una definizione univoca per indicare l’hate speech ma essa varia in relazione a molteplici fattori: alcuni paesi come l’India, la Cina o la Corea del Sud potrebbero ritenere alcuni discorsi violenti o istigatori alla violenza sulla base di standard differenti rispetto a quelli Statunitensi, a loro volta differenti da quelli Europei, proprio in relazione alle ideologie politiche, all’etica, alla legislazione vigente, alle tradizioni culturali o simili.

Secondo la definizione del consiglio Europeo:

«si intende per discorso dell’odio il fatto di fomentare, promuovere o incoraggiare, sotto qualsiasi forma, la denigrazione, l’odio o la diffamazione nei confronti di una persona o di un gruppo, nonché il fatto di sottoporre a soprusi, insulti, stereotipi negativi, stigmatizzazione o minacce una persona o un gruppo e la giustificazione di tutte queste forme o espressioni di odio testé citate, sulla base della “razza”, del colore della pelle, dell’ascendenza, dell’origine nazionale o etnica, dell’età, dell’handicap, della lingua, della religione o delle convinzioni, del sesso, del genere, dell’identità di genere, dell’orientamento sessuale e di altre caratteristiche o stato personale»

Come precedentemente detto, non in tutti gli Stati ci si approccia alla questione nello stesso modo. Negli Stati Uniti la libertà di parola viene anteposta a qualsiasi tipo di violenza collaterale, in nome dell’autonomia di pensiero e alla possibilità di esprimerlo. Per questo motivo gli USA non hanno in alcun modo regolamentato l’hate speech.

Non disponendo di un’unica versione, nel discorso d’odio quindi sarà prudente includere qualsiasi forma di incitazione esplicita o implicita all’odio o alla violenza. 

Le forme  di hate speech non sono sempre palesi ed esplicite come si può credere. La maggior parte anzi fanno uso di forme linguistiche ed extralinguistiche implicite o indirette per inviare un messaggio negativo e risultano dunque complesse da individuare dalle intelligenze artificiali.

Tra gli esempi più diffusi troviamo l’uso di metafore, di termini neutri in un contesto negativo (coso, amico…), di falsi nessi logici dati dalla giustapposizione di frasi sconnesse l’una con l’altra in modo da creare un rapporto di consequenzialità (es. «Milioni di bambini muoiono in Africa. Ma milioni ne muoiono in Italia quindi prima gli italiani.» Queste due affermazioni non sono collegate da un processo logico, le leggiamo solo una dopo l’altra) o di polarizzazioni noi-loro. 

Anche se queste affermazioni non sono d’odio attrarranno commenti già polarizzati. 

Un po’ come lo definiva Hannah Arendt insomma, il male non è mai perverso e brutale ma piuttosto “banale”, insulso e piatto spesso nascosto.

I discorsi offensivi nei confronti degli altri non sono nati con Internet di certo, ma i Social costituiscono un terreno perfetto per la loro diffusione. 

Su Instagram, ad esempio, hai la totale libertà di commentare con un profilo che (almeno per gli altri utenti) non riporta alcun tipo di informazione personale in totale anonimato. Inoltre l’informazione viaggia molto velocemente e raggiunge un enorme fetta di pubblico. 

Tra gli argomenti più caldi in Italia sulle piattaforme online sicuramente abbiamo la “minaccia dei migranti”, il terrorismo e questione generali di ordine pubblico. Tutte questioni abilmente maneggiate da politici e da alcune testate giornalistiche in modo da poter suscitare nei cittadini un sentimento fondamentale nel processo di polarizzazione, la paura. 

La paura del diverso o l’insicurezza in una situazione infonde ovviamente un sentimento negativo nel singolo, che dunque cerca appiglio dove la base sembra più sicura. Solo attraverso la legittimazione del gruppo e l’identificazione in esso si riesce a trovare forza. Un caso evidente è stato quello del Covid: una situazione emergenziale, con un virus dilagante dalle cause sconosciute, senza una cura e senza un colpevole. È stata proprio l’assenza di una causa certa e la mancanza di un capro espiatorio a determinare la diffusione di odio verso particolari categorie (es. il popolo cinese) e di fake news correlate. 

Che fare dunque? Gli attori determinanti nella lotta contro questo tipo di violenza sono tre: gli utenti, i proprietari delle piattaforme Social e gli enti nazionali ed internazionali.

L’utente può agire in molteplici modi per cercare di combattere e scoraggiare commenti violenti.

L’opzione più semplice e intuitiva è quella di segnalare un commento o un contenuto perché offensivo o lesivo di qualche determinato diritto. Da parte sua il social network dovrebbe impegnarsi a eliminare subito quel contenuto, ma purtroppo non è così semplice. La tutela della policy e delle norme di ciascun paese non sono solamente controllate grossolanamente da un algoritmo (che infatti molto spesso sbaglia), ma da più team di esperti in India. Il gruppo di specialisti però, nonostante conosca le norme del Social per cui lavora e la lingua di cui verifica i contenuti, spesso incorre in errori. Questo perché oltre ad una semplice parolaccia si possono utilizzare modi di dire o codici linguistici con una forte connotazione culturale che giustamente un tecnico nato e cresciuto in un paese diverso non sempre riesce a cogliere.

Esiste inoltre il counter speech, ovvero intervenire direttamente su chi commenta e perpetra hate speech cercando di portarlo alla riflessione. Senza prenderci troppo in giro, questa tattica non è sempre utilizzabile e non funziona sempre ovviamente, ma in determinati momenti può rivelarsi vincente.

Parole O_stili offre un utile Vademecum di comportamento sui Social per l’Italia, adattato persino al settore scolastico, alle aziende, alla politica… Sotto ne riporto il Manifesto:

1. Virtuale è reale

Dico e scrivo in rete solo cose che ho il coraggio di dire di persona.

2. Si è ciò che si comunica

Le parole che scelgo raccontano la persona che sono: mi rappresentano.

3. Le parole danno forma al pensiero

Mi prendo tutto il tempo necessario a esprimere al meglio quel che penso.

4. Prima di parlare bisogna ascoltare

Nessuno ha sempre ragione, neanche io. Ascolto con onestà e apertura.

5. Le parole sono un ponte

Scelgo le parole per comprendere, farmi capire, avvicinarmi agli altri.

6. Le parole hanno conseguenze

So che ogni mia parola può avere conseguenze, piccole o grandi.

7. Condividere è una responsabilità

Condivido testi e immagini solo dopo averli letti, valutati, compresi.

8. Le idee si possono discutere.
   Le persone si devono rispettare

Non trasformo chi sostiene opinioni che non condivido in un nemico da annientare.

9. Gli insulti non sono argomenti

Non accetto insulti e aggressività, nemmeno a favore della mia tesi.

10. Anche il silenzio comunica

Quando la scelta migliore è tacere, taccio.

 Tra gli altri metodi, quello di richiedere dati concreti, fonti e approfondimenti a coloro che superficialmente commentano o stereotipizzano un fenomeno. 

Come detto queste strategie di attivismo non sono sufficienti se non accompagnate da sanzioni e punizioni concrete nei confronti di chi opera hate speech, ma sicuramente l’educazione rappresenta un fondamentale punto di partenza per le generazioni successive. 

Hanno poi un ruolo fondamentale le nazioni, che devono obbligare i social a sottostare a determinate regole e censurare tutto ciò che di fatto non rappresenta libertà di pensiero ma solamente vile insulto. 

L’Unione Europea sembra finalmente essersi mossa in tal senso il 16 novembre del 2022 attraverso l’entrata in vigore del DSA (Digital Services Act), con cui l’UE si è finalmente imposta sulle grandi multinazionali della rete, imponendo controlli più stretti e consacrando l’idea di “illegale offline=illegale online”.

Il DSA in particolare prevede lo stop ai dark patterns e dunque l’impossibilità di creare pubblicità mirata sulla base di orientamento sessuale, etnia o religione (anche se solo alle aziende online). 

Il funzionamento degli algoritmi di raccomandazione dovrà  inoltre essere reso noto a tutti gli utenti, come ad esempio l’ordine con cui i contenuti vengono proposti nel feed. 

Agli utenti dovrà inoltre essere offerta un’ interfaccia non più basata sulla profilazione ma su altri criteri. 

Tali servizi saranno poi tenuti a dare spiegazione per la rimozione di un contenuto in modo da dare la possibilità di fare ricorso.

In generale il disegno di legge ha tentato per la prima volta di imporsi sui grandi giganti della tecnologia e della comunicazione, intimando trasparenza, correttezza, vigilanza sulle azioni illegali e repentina rimozione di contenuti non accettabili.

In caso di mancato rispetto delle normative si prevedono sanzioni sino al 6% del fatturato annuo dell’azienda in questione. 

Per ora il solo Social ad essersi sottratto al DSA è Twitter, su decisione del suo nuovo proprietario Elon Musk. 

Un tipo di intervento legislativo da parte delle autorità è ora come ora necessario per ristabilire quelli che da sempre sono stati i confini della libertà di parola e del rispetto nel “mondo reale”, ma che online sembrano essere sempre venuti meno.

Altrettanto importante è però costruire una consapevolezza linguistica in modo basilare e complessa, promossa in primis dalle nazioni.

Come affermato da Vera Gheno, bisognerebbe pensare al proprio profilo social come al balcone di casa: uno spazio semi privato e semi pubblico, dove non si può fare e dire liberamente ciò che si vuole. Si deve tenere in considerazione l’altro e la reazione che si potrebbe suscitare in quest’ultimo.  Non si tratta di perbenismo o di censura ma semplicemente di rispetto, che qualsiasi persona merita in nome della Dichiarazione Universale dei Diritti Umani.

Sofia Seghesio

Leggi anche: Immediatezza comunicativa: la chiave del linguaggio di Berlusconi