Hace más de una década, El analista de Internet y estudioso de los nuevos medios Clay Shirky dijo:"La única forma real de acabar con el spam es cerrar la comunicación por correo electrónico". ¿Cerrar Internet será la única forma de acabar con la propaganda deepfake en 2020?

Hoy dia, cualquiera puede crear sus propias noticias falsas y también romperlas. La propaganda en línea es más engañosa y manipuladora que nunca.

Deepfakes, una forma específica de desinformación que utiliza algoritmos de aprendizaje automático para crear audio y video de personas reales que dicen y hacen cosas que nunca dijeron o hicieron, se están moviendo rápidamente hacia ser indistinguibles de la realidad.

Detectar desinformación impulsada por usos poco éticos de los medios digitales, big data e inteligencia artificial, y su difusión a través de las redes sociales, es de suma urgencia.

Los países deben educar y equipar a sus ciudadanos. Los educadores también enfrentan desafíos reales para ayudar a los jóvenes a desarrollar ojos de águila para los deepfakes. Si los jóvenes carecen de confianza para encontrar y evaluar información pública confiable, su motivación para participar o confiar en nuestras estructuras democráticas estará cada vez más en peligro.

Socavando la democracia

Ahora es posible generar un video de una persona hablando y haciendo expresiones ordinarias a partir de unas pocas o incluso una sola imagen del rostro de esta persona. Las aplicaciones de intercambio de rostros como FaceApp y las aplicaciones de sincronización de labios como Dubsmash son ejemplos de herramientas básicas de deepfake accesibles y fáciles de usar que las personas pueden usar sin ningún conocimiento de programación o codificación.

Si bien el uso de esta tecnología puede cautivar o aturdir a los espectadores por sus representaciones expertas en las industrias del entretenimiento y los juegos, el rostro siniestro de los deepfakes es una seria amenaza tanto para la seguridad de las personas como para la democracia.

El potencial de los deepfakes para usarse como arma está aumentando de manera alarmante y se pueden anticipar muchos daños en función de la capacidad de las personas para crear contenido explícito sin el consentimiento de los demás.

Se espera que las personas utilicen deepfakes para intimidar cibernéticamente, destruir reputaciones, chantaje, difundir el discurso de odio, incitar a la violencia, interrumpir los procesos democráticos, difundir desinformación a audiencias específicas y cometer delitos informáticos y fraudes.

Detección de deepfake

Los jugadores clave se han aventurado a encontrar una respuesta a las amenazas deepfake.

Facebook anunció el 6 de enero que "fortalecerá su política hacia videos manipulados engañosos que han sido identificados como deepfakes". La compañía dice que eliminará los medios manipulados que hayan sido "editados o sintetizados, más allá de los ajustes por claridad o calidad, de formas que no son evidentes para una persona promedio" y si los medios son "el producto de la inteligencia artificial o el aprendizaje automático que se fusiona , reemplaza o superpone contenido en un video, haciéndolo parecer auténtico ".

La noticia sigue al "desafío deepfake de Facebook, "que tiene como objetivo diseñar nuevas herramientas que detecten contenido multimedia manipulado. El desafío es apoyado por Microsoft, un consorcio sobre inteligencia artificial y un fondo de 10 millones de dólares.

A finales de octubre El CEO de Facebook, Mark Zuckerberg, testificó en una audiencia del Comité de Servicios Financieros de la Cámara de Representantes de EE. UU. En Washington sobre los planes de criptomonedas de la compañía:donde Zuckerberg enfrentó preguntas sobre lo que está haciendo la compañía para prevenir deepfakes.

La Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA) del Departamento de Defensa de EE. UU. Está trabajando en el uso de tipos específicos de algoritmos para evaluar la integridad de los medios visuales digitales.

Algunos investigadores discuten el uso de redes neuronales convolucionales, un conjunto de algoritmos que replica libremente el cerebro humano. diseñado para analizar imágenes visuales y reconocer patrones, para detectar las inconsistencias en los múltiples fotogramas en deepfakes. Otros proponen algoritmos para detectar rostros completamente generados.

Hani Farid, experto en análisis forense digital y una de las principales autoridades en la detección de fotos falsas, y su estudiante Shruti Agarwal en la Universidad de California, Berkeley está desarrollando un software que utiliza las características sutiles de cómo habla una persona para distinguir a esta persona de la versión falsa.

Farid también está colaborando muy de cerca con el pionero de la deepfake, Hao Li, para enfrentar el problema del "engaño cada vez más fluido y listo para usar".

Nación de YouTube

¿Qué pasa si nos despertamos mañana con un deepfake de Greta Thunberg, Tiempo Persona del año 2019 de la revista, acusando a una organización específica de ser el principal catalizador del cambio climático? ¿Algún joven se mostraría escéptico ante la información?

Vivimos en una era digital en la que muchas personas esperan que todas las respuestas se encuentren a través de una búsqueda en Google, un video de YouTube o Vimeo o una charla TED. Casi el 100 por ciento de los jóvenes canadienses de entre 15 y 24 años utilizan Internet a diario. La mayoría sigue noticias y asuntos de actualidad a través de plataformas de redes sociales como Facebook, Twitter e Instagram.

En 2017, El 90 por ciento de los canadienses de entre 18 y 24 años eran usuarios activos de YouTube.

Según Statista, una empresa que proporciona datos de mercado y consumidores, "a mayo de 2019, se subieron más de 500 horas de video a YouTube por minuto, "equivalente a" aproximadamente 30, 000 horas de contenido recién subido por hora ". La compañía informa que entre 2014 y 2019" la cantidad de horas de contenido de video subidas cada 60 segundos creció alrededor de un 40 por ciento ".

Muchos de los usuarios de redes sociales de entre 18 y 24 años de edad reconocen las agendas y los algoritmos detrás de las publicaciones que aparecen en sus paredes. En mi Ph.D. investigación de tesis, Exploré cómo 42 participantes de este grupo de edad entendían a los refugiados en un contexto en el que las ideas sobre los refugiados estaban profundamente influenciadas por la propaganda de las redes sociales. noticias falsas y desinformación. Descubrí que muchos anhelaban convertirse en personas influyentes e interrumpir los comentarios públicos y los mensajes generados por los medios de manera que resuenen con las campañas de promoción o activistas de la actualidad dirigidas por los jóvenes.

El fenómeno deepfake es un nuevo desafío crítico que ellos, y todos los participantes de nuestras democracias, ahora cara.

Educación para la resiliencia

En Canadá, Periodistas por los Derechos Humanos anunció un nuevo programa, financiado por Heritage Canada, capacitar a periodistas y mejorar la "preparación ciudadana contra la manipulación y la desinformación en línea".

Los educadores pueden desempeñar un papel clave en el fomento de la agencia juvenil para detectar deepfakes y reducir su influencia. Un desafío es asegurar que los jóvenes aprendan habilidades críticas de alfabetización mediática mientras continúan explorando valiosos recursos en línea y construyen sus capacidades y conocimientos para participar en estructuras democráticas.

Siguiendo los pasos que identifiqué en el modelo "Prepárate para actuar contra la propaganda de las redes sociales", comenzando con la explicación de posturas sobre un tema controvertido dirigido a través de la propaganda de las redes sociales, los educadores pueden ayudar a los jóvenes a discutir cómo perciben y reconocen los deepfakes. Pueden explorar los orígenes del contenido, a quién se dirige, la reacción que está tratando de lograr y quién está detrás de ella.

También pueden discutir el papel y la responsabilidad de los jóvenes para responder y hacer frente a la desinformación y las posibles estrategias digitales a seguir en este proceso. Una generación bien equipada de ciudadanos digitales podría ser nuestra mejor apuesta.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.