Páginas de un informe confidencial de un denunciante obtenido por The Associated Press, junto con dos páginas impresas de Facebook que estaban activas el martes, 17 de septiembre 2019, son fotografiados en Washington. A Facebook le gusta decir que sus sistemas automatizados eliminan la gran mayoría del contenido prohibido que glorifica al grupo Estado Islámico y al-Qaida antes de que se informe. Pero la denuncia de un denunciante muestra que Facebook mismo ha producido inadvertidamente docenas de páginas a su nombre. (Foto AP / Jon Elswick)
Ante las críticas de que Facebook no está haciendo lo suficiente para combatir los mensajes extremistas, a la compañía le gusta decir que sus sistemas automatizados eliminan la gran mayoría del contenido prohibido que glorifica al grupo Estado Islámico y al-Qaida antes de que se informe.
Pero la denuncia de un denunciante muestra que el propio Facebook, sin darse cuenta, proporcionó a los dos grupos extremistas una herramienta de creación de redes y reclutamiento al producir docenas de páginas con sus nombres.
La empresa de redes sociales parece haber avanzado poco sobre el tema en los cuatro meses desde que The Associated Press detalló cómo las páginas que Facebook genera automáticamente para las empresas están ayudando a los extremistas de Oriente Medio y a los supremacistas blancos en Estados Unidos.
El miércoles, Senadores estadounidenses en el Comité de Comercio, Ciencias, and Transportation interrogará a los representantes de las empresas de redes sociales, incluida Monika Bickert, que dirige los esfuerzos de Facebook para frenar los mensajes extremistas.
Los nuevos detalles provienen de una actualización de una queja a la Comisión de Bolsa y Valores que el Centro Nacional de Denunciantes planea presentar esta semana. La presentación obtenida por AP identifica casi 200 páginas generadas automáticamente, algunas para empresas, otros para escuelas u otras categorías, que hacen referencia directa al grupo Estado Islámico y docenas más que representan a Al Qaeda y otros grupos conocidos. Una página que figura como "ideología política" se titula "Amo el estado islámico". Cuenta con un logotipo de IS dentro de los contornos del famoso ícono de pulgar hacia arriba de Facebook.
En respuesta a una solicitud de comentarios, un portavoz de Facebook le dijo a la AP:"Nuestra prioridad es detectar y eliminar el contenido publicado por personas que violan nuestra política contra personas y organizaciones peligrosas para adelantarnos a los malos actores. Las páginas generadas automáticamente no son como las páginas normales de Facebook, ya que la gente no puede comentar o publicar en ellos y eliminamos los que infrinjan nuestras políticas. Si bien no podemos detectar todos, nos mantenemos alerta en este esfuerzo ".
Facebook tiene una serie de funciones que generan páginas automáticamente a partir del contenido publicado por los usuarios. La queja actualizada analiza una función que está destinada a ayudar a la creación de redes empresariales. Extrae información de empleo de las páginas de los usuarios para crear páginas para empresas. En este caso, puede estar ayudando a los grupos extremistas porque permite a los usuarios dar me gusta a las páginas, potencialmente proporcionando una lista de simpatizantes para los reclutadores.
Páginas de un informe confidencial de un denunciante obtenido por The Associated Press, son fotografiados en Washington, el martes, 17 de septiembre 2019. A Facebook le gusta decir que sus sistemas automatizados eliminan la gran mayoría del contenido prohibido que glorifica al grupo Estado Islámico y al-Qaida antes de que se informe. Pero la denuncia de un denunciante muestra que Facebook mismo ha producido inadvertidamente docenas de páginas a su nombre. (Foto AP / Jon Elswick)
La nueva presentación también encontró que las páginas de los usuarios que promueven grupos extremistas siguen siendo fáciles de encontrar con búsquedas simples usando sus nombres. Descubrieron una página de "Mohammed Atta" con una foto icónica de uno de los seguidores de Al Qaeda, que fue un secuestrador en los ataques del 11 de septiembre. La página enumera el trabajo del usuario como "Al Qaidah" y la educación como "University Master Bin Laden" y "School Terrorist Afganistán".
Facebook ha estado trabajando para limitar la difusión de material extremista en su servicio, hasta ahora con éxito mixto. En marzo, amplió su definición de contenido prohibido para incluir material nacionalista blanco y separatista blanco de EE. UU., así como el de grupos extremistas internacionales. Dice que ha prohibido 200 organizaciones supremacistas blancas y 26 millones de contenidos relacionados con grupos extremistas globales como IS y Al Qaeda.
También amplió su definición de terrorismo para incluir no solo los actos de violencia atendidos para lograr un objetivo político o ideológico, pero también intentos de violencia, especialmente cuando se dirige a civiles con la intención de coaccionar e intimidar. No está claro aunque, qué tan bien funciona la aplicación de la ley si la empresa todavía tiene problemas para deshacerse de su plataforma de conocidos partidarios de organizaciones extremistas.
Pero como muestra el informe, una gran cantidad de material pasa por las grietas y se genera automáticamente.
La historia de AP en mayo destacó el problema de la autogeneración, pero el nuevo contenido identificado en el informe sugiere que Facebook no lo ha resuelto.
El informe también dice que los investigadores encontraron que muchas de las páginas a las que se hace referencia en el informe de AP fueron eliminadas más de seis semanas después, el 25 de junio. el día antes de que Bickert fuera interrogado para otra audiencia en el Congreso.
El problema fue señalado en la queja inicial ante la SEC presentada por el director ejecutivo del centro, John Kostyack, que alega que la empresa de redes sociales ha exagerado su éxito en la lucha contra los mensajes extremistas.
"Facebook quiere que creamos que sus algoritmos mágicos de alguna manera están limpiando su sitio web de contenido extremista, ", Dijo Kostyack." Sin embargo, esos mismos algoritmos son páginas que se generan automáticamente con títulos como 'Amo al Estado Islámico, 'que son ideales para que los terroristas los utilicen para establecer contactos y reclutar ".
© 2019 The Associated Press. Reservados todos los derechos.
