En junio de 2017, Google, Facebook, Twitter y Microsoft anunciaron la formación del Foro Global de Internet para Contrarrestar el Terrorismo (GIFCT). El objetivo de esta iniciativa liderada por la industria es interrumpir la explotación terrorista de sus servicios. Recientemente, Los miembros de GIFCT elogiaron los logros de su primer año de operaciones. Pero, si bien hay que reconocer este progreso, Aún quedan desafíos importantes.

Cada minuto hay una media de 510 000 comentarios y 136, 000 fotos compartidas en Facebook, 350, 000 tweets publicados en Twitter y 300 horas de video subidos a YouTube.

Dado este, las empresas más grandes confían ampliamente en la inteligencia artificial (IA). Los usos de la IA en Facebook incluyen la coincidencia de imágenes. Esto evita que los usuarios carguen una foto o un video que coincida con otra foto o video que haya sido previamente identificado como terrorista. Similar, YouTube informó que el 98% de los videos que elimina por extremismo violento también están marcados por algoritmos de aprendizaje automático.

Progreso hasta ahora

Una dificultad que enfrentan las empresas de redes sociales es que, si un grupo terrorista está bloqueado desde una plataforma, simplemente podría pasar a uno diferente. En respuesta a esto, Los miembros de GIFCT han creado una base de datos industrial compartida de "hashes". Un hash es una huella digital única que se puede utilizar para rastrear la actividad digital. Cuando un miembro de GIFCT elimina el contenido pro-terrorista, su hash se comparte con las otras empresas participantes para permitirles bloquear el contenido en sus propias plataformas.

En su reciente reunión, el GIFCT anunció que hasta la fecha 88, Se han agregado 000 hashes a la base de datos. Por lo tanto, el consorcio está en camino de cumplir su objetivo de 100, 000 hashes a finales de 2018. Especialmente, ahora que otras nueve empresas se han unido al consorcio, incluyendo Instagram, Justpaste.it y LinkedIn.

Sin duda, estos esfuerzos han interrumpido el uso de las plataformas de redes sociales por parte de los terroristas. Por ejemplo, en los 23 meses desde el 1 de agosto, 2015, Twitter ha suspendido casi un millón de cuentas por promover el terrorismo. En la segunda mitad de 2017, YouTube eliminó 150, 000 videos de extremismo violento. Casi la mitad de estos se eliminaron dentro de las dos horas posteriores a la carga.

Futuros retos

Sin embargo, queda mucho trabajo por hacer. En respuesta a la interrupción de su uso de Twitter, Los partidarios del llamado Estado Islámico (EI) han intentado eludir la tecnología de bloqueo de contenido mediante lo que se conoce como outlinking, utilizando enlaces a otras plataformas. Curiosamente, los sitios que se desvinculan con más frecuencia para incluir justpaste.it, sendvid.com y archive.org. Esta parece ser una estrategia deliberada para explotar la falta de recursos y experiencia de las empresas más pequeñas.

Los partidarios de IS también han trasladado sus actividades de construcción comunitaria a otras plataformas, en particular Telegram. Telegram es un servicio de mensajería instantánea basado en la nube que proporciona mensajería encriptada de extremo a extremo opcional. Este cifrado impide que terceros lean los mensajes. Y se ha utilizado ampliamente para compartir contenido producido por canales oficiales de IS.

Esto forma parte de un movimiento más amplio hacia métodos más encubiertos. Otros servicios de mensajería cifrada, incluido WhatsApp, han sido utilizados por yihadistas para la comunicación y la planificación de ataques. Los sitios web también se han trasladado a Darknet. Darknet es una parte oculta de Internet que es de naturaleza anónima y solo se accede a ella mediante un software de cifrado especializado. Un informe de 2018 advirtió que las plataformas Darknet tienen el potencial de funcionar como un "refugio virtual seguro" yihadista.

Además, Una investigación reciente ha encontrado que los partidarios de grupos yihadistas distintos del EI experimentan significativamente menos interrupciones en Twitter. Los partidarios de estos otros grupos pudieron publicar seis veces más tweets, siga cuatro veces más cuentas y obtenga 13 veces más seguidores que las cuentas pro-IS.

También es importante responder a otras formas de extremismo violento. Los grupos de extrema derecha también tienen una presencia significativa en plataformas como YouTube y Facebook. Si bien se han tomado medidas para interrumpir su presencia en línea, como la decisión de Facebook de prohibir a Britain First en su plataforma, parece que estos grupos también están comenzando a migrar a Darknet.

Extralimitarse

Así como existe el problema de llegar a las redes sociales terroristas, también existen desafíos relacionados con la posible extralimitación. No se puede esperar que los algoritmos de aprendizaje automático identifiquen contenido terrorista con una precisión del 100%. Parte del contenido se identificará erróneamente como terrorista y se bloqueará o eliminará. Pero los desafíos aquí van más allá de simplemente aplicar el umbral correctamente. También se refieren a dónde debe trazarse el umbral en primer lugar.

Las dificultades para definir el terrorismo son bien conocidas. Resumido por el lema "El terrorista de una persona es el luchador por la libertad de otra", Uno de los temas de definición más controvertidos es el de la causa justa. ¿Debería una definición de terrorismo excluir a aquellos como los activistas a favor de la democracia en un país gobernado por un régimen opresivo y tiránico? Según muchos países, incluido el Reino Unido, la respuesta es no. Como dijo un juez de la Corte de Apelaciones:"El terrorismo es terrorismo, cualesquiera que sean los motivos de los perpetradores ".

Si las empresas de redes sociales adoptan un enfoque similar, esto podría tener algunas ramificaciones importantes. En efecto, ya hay ejemplos preocupantes. En 2017, miles de videos que documentan las atrocidades en Siria fueron eliminados de YouTube por una nueva tecnología destinada a la propaganda extremista. Estos videos proporcionaron evidencia importante de violaciones de derechos humanos. Algunos existían solo en YouTube, ya que no todos los activistas y medios sirios pueden permitirse un archivo fuera de línea. Sin embargo, la alternativa, tratar de distinguir entre causas justas e injustas, está plagada de dificultades.

En un momento en que las empresas de redes sociales se enfrentan a una presión cada vez mayor para hacer más para abordar la explotación terrorista de sus plataformas, los avances logrados durante el primer año del GIFCT son bienvenidos. Pero es solo el primer paso.

Este artículo se publicó originalmente en The Conversation. Lea el artículo original.