Contenido en línea COVID-19 malicioso, incluido contenido racista, desinformación y desinformación:prospera y se difunde en línea sin pasar por alto los esfuerzos de moderación de las plataformas de redes sociales individuales, según una nueva investigación publicada en la revista Informes científicos . Al mapear los grupos de odio en línea en las seis principales plataformas de redes sociales, investigadores de la Universidad George Washington muestran cómo el contenido malicioso explota las rutas entre plataformas, destacando la necesidad de que las empresas de redes sociales reconsideren y ajusten sus políticas de moderación de contenido.

Dirigido por Neil Johnson, profesor de física en GW, el equipo de investigación se propuso comprender cómo y por qué el contenido malicioso prospera tan bien en línea a pesar de los importantes esfuerzos de moderación, y cómo se puede detener. El equipo utilizó una combinación de aprendizaje automático y ciencia de datos en red para investigar cómo las comunidades de odio en línea afilaron el COVID-19 como arma y utilizaron los eventos actuales para atraer nuevos seguidores.

"Hasta ahora, ralentizar la propagación de contenido malicioso en línea ha sido como jugar un juego de whack-a-mole, porque no existía un mapa del multiverso del odio en línea, "Johnson, quien también es investigador en el GW Institute for Data, Democracia y Política, dijo. "No puedes ganar una batalla si no tienes un mapa del campo de batalla. En nuestro estudio, presentamos un mapa de este campo de batalla, el primero en su tipo. Ya sea que esté mirando temas tradicionales de odio, como el antisemitismo o el racismo anti-asiático que rodea al COVID-19, el mapa del campo de batalla es el mismo. Y es este mapa de vínculos dentro y entre plataformas lo que falta para comprender cómo podemos frenar o detener la propagación del contenido de odio en línea ".

Los investigadores comenzaron mapeando cómo los grupos de odio se interconectan para difundir sus narrativas a través de las plataformas de redes sociales. Centrándose en seis plataformas:Facebook, VKontakte, Instagram Charla, Telegram y 4Chan:el equipo comenzó con un grupo de odio determinado y miró hacia afuera para encontrar un segundo grupo que estaba fuertemente conectado con el original. Encontraron que las conexiones más fuertes eran VKontakte en Telegram (40,83% de las conexiones multiplataforma), Telegrama en 4Chan (11.09%), y Gab en 4Chan (10,90%).

Luego, los investigadores centraron su atención en identificar contenido malicioso relacionado con COVID-19. Descubrieron que la coherencia de la discusión sobre COVID-19 aumentó rápidamente en las primeras fases de la pandemia, con grupos de odio que forman narrativas y se unen en torno a los temas y la desinformación de COVID-19. Para subvertir los esfuerzos de moderación de las plataformas de redes sociales, los grupos que envían mensajes de odio utilizaron varias estrategias de adaptación para reagruparse en otras plataformas y / o reingresar a una plataforma, los investigadores encontraron. Por ejemplo, los clústeres cambian con frecuencia sus nombres para evitar ser detectados por los algoritmos de los moderadores, como la vacuna para va $$ ine. Similar, Los grupos antisemitas y anti-LGBTQ simplemente agregan cadenas de 1 o A antes de su nombre.

"Debido a que la cantidad de plataformas de redes sociales independientes está creciendo, Es muy probable que estos clústeres generadores de odio fortalezcan y amplíen sus interconexiones a través de nuevos vínculos. y probablemente explotará nuevas plataformas que se encuentran más allá del alcance de las jurisdicciones de Estados Unidos y otras naciones occidentales ". Johnson dijo." Las posibilidades de que todas las plataformas de redes sociales a nivel mundial trabajen juntas para resolver esto son muy escasas. Sin embargo, nuestro análisis matemático identifica estrategias que las plataformas pueden usar como grupo para ralentizar o bloquear de manera efectiva el contenido de odio en línea ".

Según sus hallazgos, El equipo sugiere varias formas en las que las plataformas de redes sociales pueden ralentizar la propagación de contenido malicioso:

• Alargar artificialmente las rutas que debe seguir el contenido malicioso entre clústeres, aumentando las posibilidades de que los moderadores lo detecten y retrasando la difusión de material urgente, como información errónea de COVID-19 armada y contenido violento.
• Controle el tamaño de la base de apoyo de un grupo de odio en línea poniendo un límite al tamaño de los grupos.
• Introducir no malicioso, contenido generalizado para diluir de manera efectiva el enfoque de un clúster.

"Nuestro estudio demuestra una similitud entre la propagación del odio en línea y la propagación de un virus, "Yonatan Lupu, profesor asociado de ciencias políticas en GW y coautor del artículo, dijo. "Las plataformas de redes sociales individuales han tenido dificultades para controlar la propagación del odio en línea, lo que refleja la dificultad que han tenido países individuales de todo el mundo para detener la propagación del virus COVID-19 ".

Avanzando, Johnson y su equipo ya están utilizando su mapa y su modelo matemático para analizar otras formas de contenido malicioso, incluida la armamentización de las vacunas COVID-19 en las que ciertos países intentan manipular el sentimiento generalizado para obtener ganancias nacionalistas. También están examinando en qué medida los actores individuales, incluidos los gobiernos extranjeros, puede jugar un papel más influyente o controlador en este espacio que en otros.