Facebook dice que está prohibiendo los videos "deepfake", los clips falsos pero realistas creados con inteligencia artificial y herramientas sofisticadas, a medida que intensifica los esfuerzos para luchar contra la manipulación en línea. Pero la política deja muchas lagunas.

La red social dijo el lunes por la noche que está reforzando sus políticas para eliminar videos editados o sintetizados de maneras que no son evidentes para la persona promedio. y que podría engañar a alguien haciéndole creer que el sujeto del video dijo algo que él o ella en realidad no dijo.

Creado por inteligencia artificial o aprendizaje automático, Los deepfakes combinan o reemplazan contenido para crear imágenes que pueden ser casi imposibles de decir que no son auténticas.

"Si bien estos videos aún son raros en Internet, presentan un desafío importante para nuestra industria y la sociedad a medida que aumenta su uso, "El vicepresidente de gestión de políticas globales de Facebook, Monika Bickert, dijo en una publicación de blog.

Sin embargo, ella dijo que las nuevas reglas no incluirán parodia o sátira, o clips editados solo para cambiar el orden de las palabras. Las excepciones subrayan el acto de equilibrio que Facebook y otros servicios de redes sociales enfrentan en su lucha por detener la propagación de información errónea y "noticias falsas" en línea, respetando al mismo tiempo la libertad de expresión y defendiéndose de las acusaciones de censura.

La compañía de tecnología de EE. UU. Ha estado lidiando con cómo manejar el aumento de los deepfakes después de enfrentar críticas el año pasado por negarse a eliminar un video manipulado de la presidenta de la Cámara de Representantes, Nancy Pelosi, arrastrando las palabras. que fue visto más de 3 millones de veces. Los expertos dijeron que el clip crudamente editado era más una "falsificación barata" que una deepfake.

Luego, un par de artistas publicaron imágenes falsas del CEO de Facebook, Mark Zuckerberg, que lo mostraban regodeándose por su dominio del mundo por parte de un solo hombre. Facebook también dejó ese clip en línea. La compañía dijo en ese momento que ninguno de los videos violaba sus políticas.

El problema de los videos alterados está adquiriendo una urgencia cada vez mayor a medida que los expertos y los legisladores intentan descubrir cómo evitar que se utilicen deepfakes para interferir con las elecciones presidenciales de Estados Unidos en noviembre.

La nueva política es un "fuerte punto de partida, "pero no aborda problemas más amplios, dijo Sam Gregory, director de programa en Witness, una organización sin fines de lucro que trabaja en el uso de la tecnología de video para los derechos humanos.

"La realidad es que no hay tantos deepfakes políticos en este momento. Son principalmente imágenes sexuales no consensuadas, "y el mayor problema son los videos que se muestran sin contexto o se editan a la ligera, que algunos han denominado "falsificaciones superficiales, ", dijo. Estos incluyen el clip de Pelosi o uno que estuvo en las rondas la semana pasada del candidato presidencial demócrata Joe Biden que fue editado selectivamente para sugerir falsamente que hizo comentarios racistas.

Gregorio cuyo grupo fue uno de los que enviaron comentarios a Facebook sobre la política, dijo que si bien las nuevas reglas parecían sólidas en el papel, Hay dudas sobre la eficacia de la empresa para descubrir videos sintéticos.

Facebook ha creado algoritmos de detección de deepfake y también puede observar el comportamiento de una cuenta para tener una idea de si su intención es difundir desinformación. para que la empresa tenga una ventaja sobre los usuarios o los periodistas a la hora de detectarlos, Dijo Gregory.

Pero esos algoritmos no se han utilizado ampliamente para los deepfakes "en la naturaleza. Por lo tanto, es una pregunta abierta qué tan efectiva será la detección, ", dijo." Este es un tipo algorítmico de juego del gato y el ratón, donde las falsificaciones mejorarán junto con la detección ".

Facebook dijo cualquier video, deepfake o no, también se eliminarán si violan los estándares existentes para la desnudez, violencia gráfica o discurso de odio. Aquellos que no se eliminan aún pueden ser revisados ​​por verificadores de datos independientes y los que se consideren falsos se marcarán como tales para las personas que intenten compartirlos o verlos. lo que Bickert dijo que era un enfoque mejor que simplemente eliminarlos.

"Si simplemente eliminamos todos los videos manipulados marcados por los verificadores de hechos como falsos, los videos seguirían estando disponibles en otros lugares de Internet o del ecosistema de redes sociales, ", Dijo Bickert." Al dejarlos y etiquetarlos como falsos, proporcionamos a las personas información y contexto importantes ".

Gorjeo, que ha sido otro semillero de desinformación y videos alterados, dijo que está "en proceso" de crear una política para "medios sintéticos y manipulados, "que incluiría deepfakes y otros videos manipulados. La compañía ha pedido comentarios del público sobre el tema. Las respuestas que está considerando incluyen poner un aviso junto a los tweets que incluyan material manipulado. Los tweets también podrían eliminarse si son engañosos y podrían causar un daño grave a alguien.

YouTube, mientras tanto, tiene una política contra las "prácticas engañosas", pero no parece prohibir específicamente las deepfakes. Google no respondió de inmediato a un mensaje para hacer comentarios el martes.

© 2020 The Associated Press. Reservados todos los derechos.