A las empresas de redes sociales les ha ido bien en las audiencias del Congreso de los Estados Unidos sobre la insurrección del 6 de enero. Se beneficiaron del video transmitido en vivo mientras los alborotadores asaltaban el edificio del Capitolio. Se beneficiaron del brebaje incendiario de desinformación que incitó a miles a viajar a Washington D.C. para la manifestación "Salvemos Estados Unidos". Continúan beneficiándose de sus secuelas. El extremismo de clickbait ha sido bueno para los negocios.

Las imágenes de video filmadas por los propios alborotadores también han sido una importante fuente de evidencia para la policía y los fiscales. El día del ataque al Capitolio, los moderadores de contenido de las principales plataformas de redes sociales se vieron abrumados con publicaciones que violaban sus políticas contra la incitación o la glorificación de la violencia. Los sitios más simpatizantes de la extrema derecha, como Parler, estaban repletos de este tipo de contenido.

Al testificar en las audiencias del Congreso, un ex empleado de Twitter habló de rogar a la empresa que tomara medidas más enérgicas. Desesperada, la noche anterior al ataque, envió un mensaje a sus compañeros de trabajo:"Cuando la gente se dispare mañana, intentaré descansar sabiendo que lo intentamos".

En alusión a los tuits del expresidente Trump, los Proud Boys y otros grupos extremistas, habló de darse cuenta de que “estábamos al antojo de una multitud violenta que estaba encerrada y cargada”.

La necesidad de cambio

En las semanas posteriores a la masacre de Christchurch de 2019, hubo señales esperanzadoras de que las naciones, tanto individual como colectivamente, estaban preparadas para regular mejor Internet.

Las empresas de redes sociales habían luchado duramente contra la aceptación de la responsabilidad por su contenido, citando argumentos que reflejaban las filosofías libertarias de los pioneros de Internet. En nombre de la libertad, argumentaron, las reglas establecidas desde hace mucho tiempo y las normas de comportamiento deben dejarse de lado. Su éxito en influir en los legisladores ha permitido a las empresas evitar sanciones legales, incluso cuando sus plataformas se utilizan para motivar, planificar, ejecutar y transmitir en vivo ataques violentos.

Después de Christchurch, la creciente indignación pública obligó a las principales empresas a actuar. Reconocieron que sus plataformas habían desempeñado un papel en los ataques violentos, adoptaron políticas más estrictas sobre el contenido aceptable, contrataron a más moderadores de contenido y ampliaron su capacidad para interceptar contenido extremo antes de que se publicara.

Parecía impensable en 2019 que no se tomarían medidas reales para regular y moderar las plataformas de redes sociales para evitar la propagación del extremismo violento en línea en todas sus formas. La transmisión en vivo fue un elemento central del ataque de Christchurch, cuidadosamente enmarcada para parecerse a un videojuego y con la intención de inspirar futuros ataques.

Casi dos años después, múltiples plataformas de redes sociales fueron fundamentales para incitar y organizar el ataque violento contra el Capitolio de los EE. UU. que causó múltiples muertos y heridos, y llevó a muchos a temer que una guerra civil estaba a punto de estallar.

De hecho, las redes sociales estuvieron implicadas en todos los aspectos del ataque al edificio del Capitolio, tal como lo habían estado en la masacre de Christchurch. Ambos fueron fermentados por teorías de conspiración salvajes e infundadas que circularon libremente a través de las plataformas de redes sociales. Ambos fueron realizados por personas que se sintieron fuertemente conectadas a una comunidad en línea de verdaderos creyentes.

El proceso de radicalización

El testimonio de Stephen Ayres en las audiencias del Congreso del 6 de enero ofrece una ventana al proceso de radicalización.

Ayres se describió a sí mismo como un "hombre de familia común" que era "intransigente en las redes sociales", y se declaró culpable de un cargo de alteración del orden público por su papel en la invasión del Capitolio. Hizo referencia a sus cuentas en Twitter, Facebook e Instagram como la fuente de su creencia de que las elecciones presidenciales de EE. UU. de 2020 habían sido robadas. Sus fuentes principales fueron publicaciones hechas por el propio expresidente.

Ayres testificó que un tuit del presidente Trump lo había llevado a asistir a la manifestación "Salvemos Estados Unidos". Ejemplificó a los miles de estadounidenses que no eran miembros de ningún grupo extremista, pero que habían sido motivados a través de las principales redes sociales para viajar a Washington D.C.

El papel del expresidente de EE. UU. Trump en el auge del extremismo de derecha, en EE. UU. y más allá, es un tema recurrente en Repensando las redes sociales y el extremismo, que coedité con Paul Pickering. En el momento de la masacre de Christchurch, había amplia evidencia de que las empresas de Internet con sede en EE. UU. proporcionaban plataformas globales para causas extremistas.

Sin embargo, cada vez que la moderación de su contenido se extendió a las voces de la extrema derecha, estas empresas enfrentaron la censura de los conservadores, incluida la Casa Blanca de Trump. El mensaje era claro:permitir la libertad de expresión sin restricciones para la llamada "derecha alternativa" era el precio que las empresas de redes sociales tendrían que pagar por su oligopolio. Aunque el creciente peligro del terrorismo interno era evidente, la amenaza de juicios antimonopolio fue un poderoso desincentivo para la acción corporativa contra los extremistas de derecha.

Las empresas de redes sociales han enfrentado una presión significativa de naciones fuera de los EE. UU. Por ejemplo, a los pocos meses del ataque de Christchurch, los líderes mundiales se reunieron en París para firmar el Llamamiento de Christchurch para combatir el extremismo violento en línea. El documento tenía un tono moderado, pero Estados Unidos se negó a firmarlo. En cambio, la Casa Blanca se duplicó al alegar que la principal amenaza radicaba en la represión de las voces conservadoras.

En 2021, la administración de Biden se suscribió tardíamente al Llamamiento de Christchurch, pero no ha logrado avanzar en ninguna medida a nivel nacional. A pesar de algunas conversaciones duras durante la campaña electoral, el presidente Biden no ha podido aprobar una legislación que regularía mejor a las empresas de tecnología.

Con las próximas elecciones intermedias, elecciones que a menudo van en contra del partido del presidente, hay pocas razones para el optimismo. Las decisiones de los legisladores de EE. UU. seguirán repercutiendo en todo el mundo mientras la propiedad de las redes sociales occidentales siga estando firmemente centrada en EE. UU.

El fracaso de la autorregulación

El espíritu del libertarismo sigue vivo dentro de las empresas que explotaron de nuevas empresas locales a corporaciones de billones de dólares en una década. Su compromiso con la autorregulación convenía a los legisladores, que luchaban por comprender esta tecnología nueva y en constante cambio de forma. El fracaso demostrable de la autorregulación ha demostrado ser letal para los objetivos del terrorismo y ahora se presenta como un peligro para la democracia misma.

En su capítulo en Repensando las redes sociales y el extremismo, Sally Wheeler nos pide que reconsideremos la base de la licencia social que las empresas de redes sociales tienen para operar dentro de las democracias. Ella argumenta que, en lugar de preguntar si sus actividades son legales, podríamos preguntarnos qué reformas se necesitan para garantizar que las redes sociales no causen daños graves a las personas o sociedades.

Las plataformas de redes sociales, que ahora son fundamentales para la provisión de muchos servicios públicos, pueden considerarse servicios públicos y, por esta sola razón, estar sujetas a reglas y expectativas diferentes y más estrictas. Facebook mismo demostró ampliamente, aunque sin querer, este punto cuando bloqueó muchos sitios, incluidos los servicios de emergencia, durante un desacuerdo con el gobierno australiano en 2021. plataforma.

En medio de la protesta nacional que siguió a la masacre de Christchurch, el gobierno australiano introdujo apresuradamente una legislación destinada a aumentar las responsabilidades de las empresas de Internet. Según se informa, redactado en solo 48 horas antes de ser aprobado rápidamente por ambas cámaras del parlamento, el proyecto de ley siempre iba a tener fallas.

Una reforma eficaz exige que primero reconozcamos Internet como un espacio en el que las acciones tienen consecuencias en el mundo real. Las víctimas más visibles son las víctimas directas de las amenazas de violencia extrema, principalmente mujeres, inmigrantes y minorías. Incluso cuando las amenazas no se ejecutan, las personas se sienten intimidadas para que guarden silencio e incluso se autolesionan.

Más insidioso, pero quizás igual de dañino a largo plazo, es el declive general de la civilidad que lleva el discurso público hacia posiciones extremas. En las redes sociales, lo que se conoce como la Ventana de Overton del debate político dominante no ha sido tanto expulsado como pateado.

Existe un amplio acuerdo en que los marcos legales y regulatorios existentes son simplemente inadecuados para la era digital. Sin embargo, incluso cuando la pandemia mundial ha acelerado nuestra dependencia de todo lo digital, hay menos acuerdo sobre la naturaleza del problema y mucho menos sobre los remedios necesarios. Si bien es evidente que se necesita acción, siempre existe el peligro de extralimitarse.

El funcionamiento de una sociedad democrática depende tanto de nuestra capacidad para debatir ideas y expresar disidencia como de la prevención del extremismo violento. Nuestro desafío es equilibrar la libertad de expresión con otros derechos en competencia en Internet, tal como lo hacemos en otros lugares. Es más probable que el enfoque actual de simplemente aumentar las sanciones que enfrentan las empresas de redes sociales incline la balanza en contra de la libertad de expresión. En un panorama de la comunicación que se concentra cada vez más en manos de unas pocas corporaciones importantes, necesitamos más voces y más diversidad, no menos. + Explora más

¿Vuelve Donald Trump a Facebook? Facebook puede levantar la prohibición en enero, dice ejecutivo

Este artículo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el artículo original.