La última moda de aplicaciones de fotos puede hacerte lucir como una estrella de cine. Zao usa inteligencia artificial para reemplazar las caras de los personajes en películas o clips de televisión con imágenes de cualquier persona cuya foto cargues en la aplicación.

El efecto es sorprendentemente realista y muestra hasta dónde ha llegado este tipo de tecnología "deepfake". Pero también destaca cuán grandes se han vuelto los riesgos de hacer que sus fotos estén disponibles en línea donde cualquiera pueda usarlas o abusar de ellas, y la limitación de la ley para abordar este problema.

Uno de los problemas clave es el derecho legal que tienen las empresas a usar sus fotos una vez que las carga en sus aplicaciones o sitios web. Varios informes de los medios afirman que los términos y condiciones de Zao inicialmente le daban "gratis, irrevocable, permanente, transferible, y derechos relicenciables ". Una reacción violenta contra esto ha empujado a la empresa que fabrica la aplicación, Momo Inc, para cambiar sus términos. Dice que no usará fotos o videos cargados por los usuarios, excepto para mejorar la aplicación y no almacenará imágenes si los usuarios las eliminan de sus cuentas.

Pero muchas otras aplicaciones fotográficas, como FaceApp que cambia de edad o sexo, conservan derechos similares para hacer efectivamente lo que quieran con el contenido subido. Con "un perpetuo, irrevocable, no exclusivo, Reino libre, en todo el mundo, totalmente pagado, licencia transferible sublicenciable, "FaceApp esencialmente obtiene todos los derechos del propietario original sobre la foto (excepto que no tiene una licencia exclusiva).

Estos términos no son diferentes a los de aplicaciones aún más populares y convencionales como Instagram, que abre su feed de fotografías a los anunciantes. Instagram puede permitir que otras empresas exploten las fotos de los usuarios sin ninguna compensación y, además, pasar este derecho a un tercero sin permiso adicional.

Y, por supuesto, ni siquiera tienes que dar permiso para que alguien use tus fotos para que lo haga de todos modos. Una vez que estén en línea, sus imágenes pueden circular sin su conocimiento. Los estudios han demostrado que la comprensión de las personas sobre la configuración de privacidad en línea sigue siendo en gran medida limitada. Si la configuración de privacidad no es suficiente, cualquiera puede acceder a tus fotos.

Esto puede incluir periodistas, quién puede volver a publicar imágenes de las redes sociales sin violar necesariamente las leyes de privacidad si las imágenes ya han ingresado al dominio público. Las fotos aún están protegidas por la ley de derechos de autor, pero las imágenes tomadas de videos a veces se pueden publicar bajo disposiciones de "trato justo". "Tampoco es raro que los periodistas usen capturas de pantalla de la página web en la que se publica una imagen, que la publicación no tendría que eliminar automáticamente si un usuario eliminara la foto original.

El desarrollo de la IA hace que las posibles consecuencias de ceder el control de tus fotos sean aún mayores. La tecnología deepfake utilizada por Zao y otras aplicaciones puede crear fotos y videos manipulados que son muy difíciles de distinguir de los reales.

Esto ya ha llevado a la pornografía deepfake, que implica superponer la cara de alguien en imágenes explícitas utilizando una técnica de síntesis basada en IA. Este tipo de abuso en línea puede exponer a las víctimas al chantaje financiero o emocional y, en última instancia, causarles un daño psicológico y emocional grave.

Recurso legal

Si descubre que su imagen se ha utilizado de formas que nunca quiso, ¿Cómo puede ayudar la ley? Si se trata simplemente de que la imagen se utiliza dentro de los términos y condiciones que acordó (y no se ha violado ninguna otra ley), probablemente no tenga muchos recursos. Bajo el "derecho al olvido de la UE, "puede solicitar que se eliminen sus fotos de los servidores de una empresa para que no puedan seguir utilizándolas, aunque esto no es un derecho absoluto.

Pero la llegada de las aplicaciones de inteligencia artificial crea otro problema. Si bien una empresa puede eliminar sus imágenes de sus servidores, puede ser imposible eliminar los datos relacionados del software de inteligencia artificial que ha procesado y aprendido de las imágenes. Es posible que estos datos no estén disponibles en la práctica, pero no se pueden "olvidar" realmente.

Hay otras formas en las que la ley parece estar fuera de sintonía con la evolución de las imágenes alteradas por IA, especialmente cuando se utilizan con fines abusivos y ofensivos. En el Reino Unido, la reciente ley dirigida a la "pornografía de venganza" solo se aplica a las imágenes sexuales privadas, que puede no incluir fotografías no privadas transpuestas a una imagen sexual de otra persona.

Puede haber otras opciones para aquellos que son víctimas de la creación de pornografía deepfake. El hecho de que se haya condenado a personas por publicar imágenes de otras personas en sitios web pornográficos muestra que también se puede confiar en la ley del acoso en determinadas circunstancias. También es posible realizar reclamaciones por uso indebido de información privada, difamación o incumplimiento de los derechos de autor.

Si alguien lo engaña para que le otorgue acceso a su perfil de redes sociales y tome fotos para generar imágenes pornográficas falsas, también puede comprometerse con la legislación de protección de datos. Pero es cuestionable si las acciones legales civiles como la difamación o la privacidad reconocen adecuadamente el daño que se puede hacer con las deepfakes de una manera que lo haría un cargo criminal específico, y hasta ahora no existe tal cargo.

La llegada de las redes sociales ha desafiado fundamentalmente nuestras expectativas sobre cómo controlamos nuestras fotografías. Es necesario revisar el mosaico actual de disposiciones legales para considerar las nuevas formas en que se crean y comparten imágenes sin el consentimiento del sujeto. para que estos problemas se aborden más ampliamente con un impacto duradero. Junto con un nuevo marco regulatorio para la seguridad en línea, los usuarios deben ser educados para apreciar los riesgos de la actividad en línea y navegar por los espacios en línea de manera responsable.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.