El aumento de la incitación al odio en línea es inquietante, tendencia creciente en países de todo el mundo, con graves consecuencias psicológicas y el potencial de impactar, e incluso contribuir a, violencia del mundo real. El contra discurso generado por los ciudadanos puede ayudar a desalentar la retórica de odio en línea, pero ha sido difícil de cuantificar y estudiar. Hasta hace poco, los estudios se han limitado a pequeña escala, esfuerzos etiquetados a mano.

Un nuevo artículo publicado en las actas de la Conferencia de 2020 sobre métodos empíricos en el procesamiento del lenguaje natural (EMNLP) ofrece un marco para estudiar la dinámica del odio en línea y la lucha contra el discurso. El documento ofrece la primera clasificación a gran escala de millones de interacciones de este tipo en Twitter. Los autores desarrollaron un algoritmo de aprendizaje para evaluar datos de una situación única en Twitter alemán, y los hallazgos sugieren que los movimientos organizados para contrarrestar el discurso de odio en las redes sociales son más efectivos que las personas que se lanzan por su cuenta.

Los autores presentarán su trabajo, "Contrarrestar el odio en las redes sociales:clasificaciones a gran escala del odio y el discurso contrario" durante el 20 de noviembre, 2020, Taller sobre Abuso y Daños en Línea, que se ejecuta junto con EMNLP 2020.

"He visto este gran cambio en el discurso civil en los últimos dos o tres años hacia ser mucho más odioso y mucho más polarizado, "dice Joshua Garland, matemático y becario de complejidad aplicada en el Instituto Santa Fe. "Entonces, para mi, una pregunta interesante fue:¿cuál es una respuesta apropiada cuando estás siendo acosado cibernéticamente o cuando estás recibiendo discursos de odio en línea? ¿Respondes? ¿Intentas que tus amigos te ayuden a protegerte? ¿Bloqueas a la persona? "

Para estudiar estas cuestiones científicamente, Los investigadores primero deben tener acceso a una gran cantidad de datos del mundo real tanto sobre el discurso del odio como contra el discurso, y la capacidad de distinguir entre los dos. Que los datos existían y Garland y su colaborador Keyan Ghazi-Zahedi en el Instituto Max Planck en Alemania lo encontraron en una interacción de cinco años que se desarrolló en el Twitter alemán:cuando un grupo de extrema derecha tomó la plataforma con un discurso de odio, un movimiento organizado se levantó para contrarrestarlo.

"La belleza de estos dos grupos es que se autoetiquetan, "explica Mirta Galesic, científico social del equipo y profesor de dinámica social humana en SFI. Ella dice que los investigadores que estudian el contra-discurso generalmente tienen que emplear a cientos de estudiantes para codificar manualmente miles de publicaciones. Pero Garland y Ghazi-Zahedi pudieron ingresar las publicaciones autoetiquetadas en un algoritmo de aprendizaje automático para automatizar grandes franjas de la clasificación. El equipo también se basó en 20-30 codificadores humanos para verificar que las clasificaciones de las máquinas coincidieran con la intuición sobre lo que se registra como odio y contra-discurso.

El resultado fue un conjunto de datos de un tamaño sin precedentes que permite a los investigadores analizar no solo casos aislados de odio y contrarrestar el discurso, pero también compare las interacciones de larga duración entre los dos.

El equipo recopiló un conjunto de datos de millones de tweets publicados por miembros de los dos grupos, utilizando estos tweets autoidentificados para entrenar su algoritmo de clasificación para reconocer el odio y contrarrestar el discurso. Luego, aplicaron su algoritmo para estudiar la dinámica de unos 200, 000 conversaciones que ocurrieron entre 2013 y 2018. Los autores planean publicar pronto un artículo de seguimiento analizando la dinámica revelada por su algoritmo.

"Ahora podemos resolver un conjunto de datos masivo de 2016 a 2018 para ver cómo cambió la proporción de odio y contra-discurso con el tiempo, quién obtiene más me gusta, quién es retuiteado, y cómo se respondieron ", dice Galesic.

La cantidad de datos una tremenda bendición, también lo hace "increíblemente complejo, "Garland señala. Los investigadores están en el proceso de comparar tácticas para ambos grupos y buscar preguntas más amplias como si ciertas estrategias de contra-discurso son más efectivas que otras.

"Lo que espero es que podamos llegar a una teoría social rigurosa que le diga a la gente cómo contrarrestar el odio de una manera productiva y no polarizante". "Garland dice, "y devolver Internet al discurso civil".