Sociologia dell’odio digitale e dello hate speech

Sono ritornato da qualche ora da Rimini, dove si è tenuta l’edizione 2015 del Web Marketing Festival.
Un’organizzazione strepitosa che ha visto oltre 2600 partecipanti, 120 relatori, sessioni parallele dislocate su 22 sale, momenti di networking eccetera.

Io sono stato invitato come ospite in due momenti diversi.
Il primo è stato la sessione plenaria sullo hate speech, dove coordinati dal moderatore Roberto Bonzio, è stato affrontato il tema dell’incitamento all’odio nei social network da parte di Brahim Maarad (giornalista e blogger), Sara Cerretelli (COSPE, qui il loro progetto Stop al razzismo online) e Letizia Materassi (Università di Firenze) oltre al sottoscritto.

2015-06-20-pitch-competition-FOTO-BY-Angelo-Marra
Il secondo momento è stato la mia partecipazione come membro della giuria della pitch competition, che ha visto sei diverse startup in lizza per i premi e che ha visto la vittoria di FriendZ, un servizio per trasformare i contenuti degli utenti dei social in inserzioni pubblicitarie.

Vorrei concentrarmi sul mio intervento relativo allo hate speech o – per i puristi della lingua – all’incitamento all’odio.
Il mio intervento è stato – per forza di cose – breve e didascalico, infatti sono stato l’unico degli intervenuti a parlare con le slide, poichè volevo proporre un modello sociologico per combattere le reazioni verbali vementi che possono verificarsi nella gestione o nella appartenenza ad una community.

Molte delle riflessioni che ho fatto nel mio intervento, sono frutto della analisi fatta qui su Tecnoetica su come è possibile interpretare le reazioni violente e cariche di odio di cui è stato oggetto Pierluigi Bersani quando fu colpito da un ictus.

Il ragionamento che ho seguito, si è dipanato attraverso i seguenti punti.
1. Lo hate speech è un tema della giurisprudenza americana che ha dei rapporti molto delicati con la libertà di espressione (il primo emendamento staunitense) che lo rende molto difficile da normare, anche se l’escalation nello hate speech può provocare il passaggio da frasi violente ad azioni violente.

2015-06-19-plenaria-hate-speech-Bennato-odio-FOTO-BY-Eleonora-Degano
2. Lo scambio cruento di conversazioni sul web esiste da quando esiste la rete (flame, troll eccetera) e da quando i social media sono entrati a far parte della vita quotidiana sembra che il fenomeno stia dilagando, facendo nascere due convinzioni errate: che la rete sia uno spazio maggiormente violento in generale, che questa violenza verbale sia attribuibile all’anonimato online (anonimato? nell’era dei social con nome e cognome?)

2015-06-19-plenaria-hate-speech-Bennato-anonimato-FOTO-BY-Studio-Casaliggi
3. Gli elementi sociologici alla base di un comportamento verbale violento sono essenzialmente tre: l’adesione a valori di intolleranza, la sensazione di appartenere ad un gruppo, la percezione di una forma di legittimazione sociale nella manifestazione di un comportamento violento.

2015-06-19-plenaria-hate-speech-Bennato-filter-bubble-FOTO-BY-Milena-Marchioni
4. Le persone violente nella vita di tutti i giorni sono ANCHE violente verbalmente sul web. I processi socio-tecnici presenti sul web che radicalizzano i comportamenti sono: l’effetto filter bubble (le persone che fruiscono di contenuti violenti ricevono costantemente contenuti violenti a causa della strutturazione di algoritmi di personalizzazione come Google suggest o edgerank), l’omofilia (la regola dei network sociali per cui io violento cerco contatti con persone violente), l’effetto spirale del silenzio (se io ho la percezione – errata  o meno – che tutti la pensano come me, sarò disposto ad espriemere apertamente la mia intolleranza).

2015-06-19-plenaria-hate-speech-Bennato-schema-FOTO-BY-Agnese-Vellar
5. I community manager possono intervenire a moderare i commenti violenti seguendo tre strategie: far percepire al violento un clima di isolamento sociale, lasciare che sia la community a reagire ai comportamenti verbali violenti, nei casi più gravi ventilare il ricorso al banning da parte della piattaforma o in casi estremi al ricorso alle autorità di polizia.


Come sempre qui trovate le mie slide dove il ragionamento di sopra l’ho reso in forma grafica con un gran numero di esempi e screenshot.
Se avete qualcosa da suggerire, criticare, osservare e tutto quanto, fatelo pure nei commenti qui in basso.
Ho in testa di perfezionare questo modello, perciò i vostri commenti mi potrebbero aiutare a migliorarlo.

4 thoughts on “Sociologia dell’odio digitale e dello hate speech

  1. E dire che basterebbe inserire il tanto vociferato tasto “dislike” per creare un primo filtro automatico all’hate speech. Se un soggetto rischia di trovarsi una valanga di feedback negativi, magari ci penserà due volte, prima di esprimere determinati concetti. Si innescherebbe sempre un meccanismo di spirale del silenzio “positiva”. Molto spesso, un utente che non condivide un commento violento, aggressivo, misogino o razzista, non perde tempo a scrivere per esprimere il proprio dissenso, ma potrebbe benissimo esprimerlo con un semplice click!

    1. Perchè il tasto dislike porterebbe a comportamenti non pro-sociali diminuendo il numero medio di contatti individuali di Facebook, mentre la strategia dei social network sites è quella aumentare il numero medio dei contatti per via dell’effetto di lock-in (fidelizzazione alla piattaforma)

  2. Si, in effetti la mia posizione è quella dell’utente che vuole “ripulire” il tipo di commenti e posizioni presenti, ma tale posizione non è ovviamente la stessa di chi gestisce la piattaforma, che ha un interesse “quantitativo” più che “qualitativo”.

Rispondi a Davide Bennato Annulla risposta

L'indirizzo email non verrà pubblicato. I campi obbligatori sono contrassegnati *