El reciente video viral "deepfake" de Mark Zuckerberg declarando:"quien controla los datos controla el mundo" no fue una imitación particularmente convincente del CEO de Facebook, pero tuvo un éxito espectacular al centrar la atención en la amenaza de la manipulación de los medios digitales.

Si bien las falsificaciones fotográficas han existido desde los albores de la fotografía, El uso más reciente de técnicas de inteligencia artificial de aprendizaje profundo (lo "profundo" en deepfakes) está llevando a la creación de simulaciones por computadora cada vez más creíbles.

El video de Zuckerberg atrajo la atención en línea porque presentaba al niño prodigio de la tecnología que es parcialmente responsable de inundar el mundo con noticias falsas. y porque destacó la tecnología que seguramente agravará el problema.

Los "falsos positivos" no son el único problema

Hemos visto el dolor y la tragedia que pueden causar las falsedades virales, del acoso de los padres que perdieron a sus hijos en el tiroteo de Sandy Hook, a los asesinatos por turbas en la India y en otros lugares.

Deepfakes, nos preocupamos, solo empeorará el problema. ¿Qué pasa si se utilizan para implicar falsamente a alguien en un asesinato? ¿Dar órdenes falsas a las tropas en el campo de batalla? ¿O para incitar al conflicto armado?

Podríamos describir estos eventos como los "falsos positivos" de la falsificación profunda:eventos que parecían suceder, pero no lo hizo. Por otra parte, están los "falsos negativos":eventos que sucedieron, pero que corren el riesgo de ser descartados como una falsificación más.

Piense en la afirmación del presidente de los Estados Unidos, Donald Trump, de que la voz en la famosa cinta de Access Hollywood, en el que se jacta de manosear mujeres, no era el suyo. Trump ha convertido en una especialidad política pedirle a la gente que no crea en sus ojos ni en sus oídos. Engañó a la gente sobre el tamaño de la audiencia en su inauguración, y dijo que no llamó "desagradable" a Meghan Markle en una entrevista cuando lo hizo.

Esta estrategia funciona al cuestionar todas y cada una de las pruebas mediadas. Es decir, cualquier cosa que no experimentemos directamente nosotros mismos, e incluso mucho de lo que hacemos en la medida en que otros no lo comparten.

Lo que está en juego es nuestra capacidad para comunicarnos verdades entre nosotros y generar un consenso en torno a ellas. Estos riesgos son realmente altos, ya que la democracia se basa en la eficacia de decir la verdad al poder. Si, como El guardián Ponlo, "deepfakes es donde la verdad va a morir, "luego amenazan con llevarse la responsabilidad pública con ellos.

Una mayor vigilancia no es la respuesta

Como el problema parece ser tecnológico, es tentador buscar tecnología, en lugar de social o político, soluciones. Típicamente, estas soluciones propuestas adoptan la forma de una verificación mejorada, lo que implica una vigilancia cada vez más completa.

Una idea es que cada cámara etiquete automáticamente las imágenes con una firma digital única. Esto permitiría rastrear las imágenes hasta el dispositivo que las tomó, y, en el caso de dispositivos en red, a su usuario o propietario. Un comentarista ha descrito esto como "el sueño de un estado de vigilancia".

O podríamos imaginar un mundo en el que el entorno construido está impregnado de varias cámaras, capturar y construir constantemente una realidad "compartida" que se puede utilizar para desacreditar videos falsos a medida que surgen. Este no sería solo el sueño de un estado de vigilancia, pero su fantasía realizada.

El hecho de que tales soluciones no solo sean distópicas, pero tampoco resuelven eficazmente el problema (dado que las firmas pueden ser falsificadas, y la versión "oficial" de la realidad puede descartarse como otra falsificación), no nos hace menos propensos a perseguirlos.

El defecto adicional de tales soluciones es que asumen que las personas y las plataformas que circulan información falsa se cederán a la verdad cuando se enfrenten a ella.

Las personas creen en lo que quieren creer

Conocemos las plataformas de redes sociales, hasta que sean responsables de verificar la información que circulan, tener un incentivo para promover lo que reciba más atención, independientemente de su autenticidad. Somos más reacios a admitir que lo mismo ocurre con las personas.

En la economía de la atención en línea, no son solo las plataformas las que se benefician de la difusión de desinformación sensacional, también son las personas que los usan.

Considere el caso del periodista islámico afincado en Londres Hussein Kesvani. Kesvani relata la vez que rastreó a un troll de Twitter llamado "True Brit" que lo había estado acribillando con comentarios y memes islamófobos. Después de establecer una conversación regular en línea con su antagonista en línea, Kesvani pudo conseguir una entrevista cara a cara con él.

Le preguntó a True Brit por qué estaba dispuesto a hacer circular hechos demostrablemente falsos. reclamación (es, e imágenes mal etiquetadas y engañosas. True Brit se encogió de hombros ante la pregunta, diciendo, "No sabes qué es verdad o no en estos días, de todos modos ". No le importaba la verdad literal, sólo sobre la verdad emocional "más profunda" de las imágenes, lo que sintió confirmaba sus prejuicios.

Las estrategias de verificación pueden ser útiles para fortalecer la sociedad de vigilancia, pero tendrán poca confianza en los verdaderos británicos del mundo que están dispuestos a abrazar y hacer circular deepfakes porque creen que sus mentiras contienen verdades más profundas. El problema no radica solo en la tecnología, pero en la versión degradada de la vida cívica en la que prosperan las plataformas de redes sociales.

Este artículo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el artículo original.