Hace unas pocas semanas, La organización benéfica francesa Solidarité Sida causó sensación cuando publicó un video falso pero muy realista de Donald Trump proclamando "El SIDA se acabó" como parte de una campaña de concienciación. El video en cuestión es lo que se conoce como deepfake, una técnica que implica el uso del aprendizaje automático para fabricar imágenes y videos cada vez más realistas, así como archivos de audio y texto.

Este uso de un video deepfake por parte de una organización benéfica destaca la creciente prevalencia de este fenómeno. Si bien la pornografía representa actualmente la gran mayoría de videos deepfake, la técnica también se puede utilizar para defraudar, difamar, para difundir noticias falsas o para robar la identidad de alguien.

Amenazas en evolución

En septiembre, El International Risk Governance Center (IRGC) de EPFL reunió a unos 30 expertos en un seminario interdisciplinario para discutir este fenómeno de rápida evolución y su creciente prevalencia. El IRGC ha publicado hoy un informe que contiene información valiosa sobre los riesgos asociados con las deepfakes.

La observación principal es que estos riesgos podrían potencialmente causar un daño generalizado en muchas áreas de la vida. "Cualquier organización o actividad empresarial que se base en pruebas documentales es potencialmente vulnerable, "dice Aengus Collins, autor del informe y subdirector del IRGC. Los deepfakes pueden causar mucha incertidumbre y confusión. En un caso reciente, Los ladrones utilizaron un audio falso de la voz de un director ejecutivo para robar dinero de una empresa. A escala de toda la sociedad, una proliferación de contenido inventado podría socavar la verdad y erosionar la confianza del público, las mismas piedras angulares del debate democrático.

El informe proporciona un marco para categorizar los riesgos de deepfake. Destaca tres impactos clave:daño a la reputación, fraude y extorsión, y la manipulación de los procesos de toma de decisiones, y señala que estos impactos se pueden sentir individualmente, institucionalmente o en toda la sociedad.

Con una gama tan amplia de daños potenciales de deepfakes, ¿Dónde se necesitan más las respuestas de gobernanza de riesgos? Los expertos recomiendan centrarse en la escala y la gravedad del daño potencial, así como la capacidad del "objetivo" para hacer frente a las consecuencias. Por ejemplo, Una empresa con buenos recursos y procesos establecidos podrá absorber mejor el impacto de un ataque deepfake que una víctima privada de acoso.

Soluciones interdependientes

En el informe, el IRGC establece 15 recomendaciones que cubren una variedad de posibles respuestas a deepfakes que podrían mitigar los riesgos que presentan. También requiere una investigación más profunda en todos los ámbitos.

Una de las principales categorías de recomendación es la tecnología, incluidas herramientas que pueden verificar la procedencia del contenido digital o detectar deepfakes. En EPFL, el Multimedia Signal Processing Group (MMSPG) y la startup Quantum Integrity están desarrollando actualmente una solución de detección de deepfake que podría implementarse en 2020. "Para cualquier conjunto de defensas, habrá vulnerabilidades que pueden explotarse, ", Dice Collins." Pero mantener y desarrollar respuestas tecnológicas a los deepfakes es crucial para disuadir la mayoría de los usos indebidos ".

El informe también destaca la necesidad de un mayor enfoque en el estatus legal de los deepfakes, para aclarar cómo las leyes en áreas como la difamación, el acoso y los derechos de autor se aplican al contenido sintético.

Más generalmente, La alfabetización digital tiene un papel importante que desempeñar. Pero Collins advierte que hay una paradoja aquí:"Uno de los objetivos de la alfabetización digital en esta área es alentar a las personas a no tomar el contenido digital al pie de la letra. Pero también debe haber un enfoque positivo en cosas como la corroboración y la evaluación. de las fuentes. De lo contrario, alentar a las personas a desconfiar de todo lo que ven corre el riesgo de exacerbar los problemas relacionados con la erosión de la verdad y la confianza ".

Horizontes más amplios

Si bien el informe del IRGC se centra en la gobernanza del riesgo deepfake, esta investigación es parte de un flujo de trabajo más amplio sobre los riesgos asociados con las tecnologías emergentes y convergentes, que continuará en 2020. "Actualmente estamos decidiendo cuál será nuestro próximo enfoque, "dice Collins." Y no hay escasez de candidatos. Vivimos en una época en la que la relación entre tecnología, El riesgo y la política pública es más importante que nunca ".