Las noticias falsas ya han avivado las llamas de la desconfianza hacia los medios, política e instituciones establecidas en todo el mundo. Y aunque las nuevas tecnologías como la inteligencia artificial (IA) pueden empeorar las cosas, también se puede utilizar para combatir la desinformación.

¿Quieres sonar como Obama? En el pasado, que podría haber requerido imitar físicamente su voz, estilo de truco de fiesta. E incluso si fueras muy bueno en eso, Es casi seguro que no representaría un peligro para nuestra democracia. Pero la tecnología ha cambiado eso. Ahora puede hacer que cualquier persona diga cualquier cosa con facilidad y precisión a través de la IA. Simplemente use el servicio de un programa en línea para grabar una oración y escuche lo que dijo con la voz de una persona famosa.

Los programas como este a menudo se denominan falsificaciones profundas:sistemas de inteligencia artificial que adaptan audio, fotos y videos para que la gente diga y haga cosas que nunca hizo.

Estas tecnologías podrían iniciar una nueva era de noticias falsas y desinformación en línea. En 2017, Hany Farid, un científico informático en Dartmouth College, NOSOTROS, que detecta videos falsos dijo que la rápida proliferación de nuevas técnicas de manipulación ha llevado a una "carrera armamentista". Imagínense cómo serán las elecciones cuando ya no podamos confiar en el video y el audio. Pero algunos investigadores ahora están contraatacando y mostrando que la IA también se puede utilizar para el bien.

"La IA tiene muchos problemas éticos, "dijo Francesco Nucci, director de investigación de aplicaciones del Grupo de Ingeniería, con sede en Italia. "Pero a veces también puede ser la solución. Puede utilizar la IA de formas poco éticas para, por ejemplo, crear y difundir noticias falsas, pero también puedes usarlo para hacer el bien, por ejemplo, para combatir la desinformación ".

Verificadores de hechos

Es el investigador principal del proyecto Fandango, que tiene como objetivo hacer precisamente eso. El equipo está creando herramientas de software para ayudar a los periodistas y verificadores de datos a detectar y combatir las noticias falsas. dice Nucci. Esperan servir a los periodistas de tres maneras.

El primer componente es lo que Nucci llama detección independiente del contenido mediante el uso de herramientas que apuntan a la forma del contenido.

Nucci explica que hoy, las imágenes y los videos se pueden manipular fácilmente, ya sea a través de Photoshop simple o técnicas más complejas como deep fakes. Los sistemas de Fandango pueden aplicar ingeniería inversa a esos cambios, y utilizar algoritmos para ayudar a los periodistas a detectar contenido manipulado.

A medida que estas herramientas miran la forma, no comprueban si el contenido en sí hace afirmaciones falsas, que es lo que hace la segunda línea de investigación de Fandango. Aquí enlazan historias que han sido probadas falsas por verificadores de hechos humanos, y busque páginas en línea o publicaciones en redes sociales con palabras y afirmaciones similares.

"Las herramientas pueden detectar qué noticias falsas comparten la misma raíz y permitir que los periodistas las investiguen, "dijo Nucci.

Ambos componentes se basan en gran medida en varios algoritmos de IA, como el procesamiento del lenguaje natural. El tercer componente permite a los periodistas responder a noticias falsas.

Una historia falsa podría por ejemplo, afirman que un porcentaje muy alto de delitos en un país europeo son cometidos por inmigrantes extranjeros. En teoría, esa podría ser una afirmación fácil de refutar debido a la gran cantidad de datos abiertos disponibles, sin embargo, los periodistas pierden un tiempo valioso en encontrar esos datos.

Entonces, la herramienta de Fandango vincula todo tipo de fuentes de datos abiertos europeos, y lo agrupa y visualiza. Los periodistas pueden usar, por ejemplo, reunió datos nacionales para abordar denuncias sobre delitos o aplicar datos de los satélites europeos Copernicus a los debates sobre el cambio climático.

"De esta forma, los periodistas pueden responder rápidamente a historias falsas y no perder el tiempo, "dijo Nucci.

Actualmente, la emisora ​​pública belga VRT está probando sus herramientas. ANSA, la principal agencia de noticias italiana, y CIVIO, una organización española sin ánimo de lucro.

Detección de noticias falsas

Sin embargo, detectar noticias falsas no solo puede ser una cuestión de encontrar afirmaciones falsas, sino también de analizar cantidades masivas de patrones para compartir en las redes sociales, dice Michael Bronstein, profesor de la Universidad de Lugano en Suiza y del Imperial College de Londres, el Reino Unido.

Lidera un proyecto llamado GoodNews, que utiliza IA para adoptar un enfoque atípico de detección de noticias falsas.

"La mayoría de los enfoques existentes analizan el contenido, ", dijo el profesor Bronstein." Analizan las características semánticas que son características de las noticias falsas. Que funciona hasta cierto punto, pero se encuentra con todo tipo de problemas.

"Existen, por ejemplo, las barreras del idioma, plataformas como WhatsApp no ​​le dan acceso al contenido porque está encriptado y, en muchos casos, las noticias falsas pueden ser una imagen, que es más difícil de analizar utilizando técnicas como el procesamiento del lenguaje natural ".

Así que el profesor Bronstein y su equipo le dieron la vuelta a este modelo, mirando en cambio cómo se difunden las noticias falsas.

Esencialmente, estudios previos muestran que las noticias falsas se comparten en línea de diferentes maneras que las noticias reales, dice el profesor Bronstein. Las noticias falsas pueden tener muchas más acciones que me gusta en Facebook, mientras que las publicaciones regulares tienden a tener más Me gusta de lo que comparten. Al detectar patrones como estos, GoodNews asigna un puntaje de credibilidad a una noticia.

El equipo ha construido su primer prototipo, que utiliza aprendizaje automático basado en gráficos, una técnica de IA en la que el Prof. Bronstein es un experto. El prototipo se entrena con datos de Twitter, donde los investigadores rastrean historias verificadas por periodistas y que se demuestra que son falsas. De esta manera, los periodistas entrenan el algoritmo de IA mostrándole qué historias son falsas, y cuales no lo son.

El equipo de GoodNews espera monetizar este servicio a través de una empresa emergente llamada Fabula AI, con sede en Londres. Aunque esperan lanzar el producto a finales de año, prevén tener clientes como grandes empresas de medios como Facebook y Twitter, sino también usuarios individuales.

"Nuestra visión más amplia es que queremos convertirnos en una agencia de calificación de credibilidad para las noticias, de la misma manera que ciertas empresas califican el puntaje crediticio del consumidor de una persona, "dijo el profesor Bronstein.

Resolver

Por supuesto, eso deja una pregunta más importante:¿puede la tecnología resolver realmente las noticias falsas? Ambos investigadores son escépticos, pero la tecnología convencida puede ayudar. Nucci enfatiza que se cuestiona el concepto de noticias falsas, y que las historias a menudo no son del todo ciertas, pero tampoco del todo falso.

"Las noticias falsas no son una cuestión matemática de algoritmos y datos, ", dijo." Pero una cuestión muy filosófica de cómo tratamos con la verdad. No obstante, nuestra tecnología puede ayudar a mejorar la transparencia en torno a las afirmaciones falsas y la información errónea ".

El profesor Bronstein dice que sería ingenuo esperar que la tecnología resuelva el problema de las noticias falsas.

"No se trata solo de detectar noticias falsas. También es un problema de confianza y falta de pensamiento crítico. La gente está perdiendo la confianza en los medios e instituciones tradicionales, y eso no es algo que se pueda mitigar solo con la tecnología, " él dijo.

"Requiere esfuerzos de todas las partes interesadas, y esperamos que nuestro proyecto pueda desempeñar un papel en este esfuerzo mayor ".