Investigadores de la Universidad de Notre Dame están utilizando inteligencia artificial para desarrollar un sistema de alerta temprana que identificará imágenes manipuladas. videos deepfake y desinformación en línea. El proyecto es un esfuerzo para combatir el aumento de campañas coordinadas en las redes sociales para incitar a la violencia, coser discordia y amenazar la integridad de las elecciones democráticas.

El escalable El sistema automatizado utiliza la recuperación de imágenes basada en contenido y aplica técnicas basadas en visión por computadora para erradicar los memes políticos de múltiples redes sociales.

"Los memes son fáciles de crear y aún más fáciles de compartir, "dijo Tim Weninger, profesor asociado en el Departamento de Ingeniería y Ciencias de la Computación de Notre Dame. "Cuando se trata de memes políticos, estos se pueden utilizar para ayudar a obtener el voto, pero también pueden usarse para difundir información inexacta y causar daño ".

Weninger, junto con Walter Scheirer, profesor asistente en el Departamento de Ciencias de la Computación e Ingeniería de Notre Dame, y los miembros del equipo de investigación recopilaron más de dos millones de imágenes y contenido de varias fuentes en Twitter e Instagram relacionados con las elecciones generales de 2019 en Indonesia. Los resultados de esa elección, en el que los de izquierda, el titular centrista obtuvo una mayoría de votos sobre el conservador, candidato populista, desató una ola de protestas violentas que dejaron ocho muertos y centenares de heridos. Su estudio encontró campañas tanto espontáneas como coordinadas con la intención de influir en las elecciones e incitar a la violencia.

Esas campañas consistieron en imágenes manipuladas que mostraban afirmaciones falsas y tergiversaciones de incidentes. logotipos pertenecientes a fuentes de noticias legítimas que se utilizan en historias de noticias fabricadas y memes creados con la intención de provocar a los ciudadanos y simpatizantes de ambas partes.

Si bien las ramificaciones de tales campañas fueron evidentes en el caso de las elecciones generales de Indonesia, la amenaza a las elecciones democráticas en Occidente ya existe. El equipo de investigación de Notre Dame, compuesto por expertos en forense digital y especialistas en estudios de paz, dijo que están desarrollando el sistema para marcar el contenido manipulado para prevenir la violencia, y advertir a los periodistas o supervisores electorales de posibles amenazas en tiempo real.

El sistema, que se encuentra en fase de investigación y desarrollo, sería escalable para proporcionar a los usuarios opciones personalizadas para monitorear el contenido. Si bien quedan muchos desafíos, como determinar un medio óptimo para ampliar la ingesta y el procesamiento de datos para una respuesta rápida, Scheirer dijo que el sistema está siendo evaluado actualmente para su transición al uso operativo.

El desarrollo no se queda atrás cuando se trata de la posibilidad de monitorear las elecciones generales de 2020 en los Estados Unidos, él dijo, y su equipo ya está recopilando datos relevantes.

"La era de la desinformación está aquí, ", dijo Scheirer." Un deepfake reemplazando a los actores en una película popular puede parecer divertido y alegre, pero imagina un video o un meme creado con el único propósito de enfrentar a un líder mundial contra otro, diciendo palabras que en realidad no dijeron. Imagínese la rapidez con la que ese contenido podría compartirse y difundirse entre plataformas. Considere las consecuencias de esas acciones ".