Facebook está en modo de crisis, pero la empresa puede tomar medidas importantes para arreglarse a sí misma y a la comunidad global que dice que quiere promover. Fundador de Facebook, El CEO y accionista mayoritario Mark Zuckerberg no necesita esperar a que los gobiernos impongan regulaciones. Si él y otros líderes de la industria quisieran, podrían realizar cambios significativos con bastante rapidez.

No sería indoloro pero Facebook en particular ya está en un mundo de dolor, enfrentando críticas por contribuir a los disturbios civiles y los disturbios sectarios en todo el mundo, retrasos en las respuestas a las campañas de desinformación, engañar a los usuarios sobre las políticas de manejo de datos, y esfuerzos para desacreditar a los críticos, sin mencionar una rebelión de empleados en ciernes.

Facebook, Gorjeo, Google y otras empresas de redes sociales están causando daños a toda la sociedad. Pero tienden a describir los problemas como mucho más pequeños, como resultado de individuos y grupos deshonestos que secuestraron sus sistemas con propósitos nefastos. Nuestra investigación sobre cómo las redes sociales pueden ser explotadas por agentes políticos manipuladores, realizado con Joan Donovan en el instituto de investigación Data &Society, sugiere que el problema real es mucho mayor de lo que admiten estas empresas.

Creemos que las raíces se encuentran en sus sistemas publicitarios extremadamente rentables, que necesitan una revisión importante. Hemos identificado algunos cambios clave que estas potencias gigantes podrían hacer de inmediato. Estos movimientos podrían reducir las oportunidades de manipulación política y limitar el daño a las sociedades democráticas de todo el mundo.

La mente de los usuarios en la mira

Facebook, Google, Twitter y otras empresas de redes sociales han construido una enorme máquina de influencia digital impulsada por el seguimiento de usuarios, focalización, pruebas y toma de decisiones automatizada para hacer que la publicidad sea más efectiva y eficiente. Al construir este sistema de vigilancia sobrealimentado, Las empresas han prometido a los usuarios y reguladores que la publicidad dirigida es mutuamente beneficiosa tanto para los consumidores como para los anunciantes.

En este trato se supone que los usuarios reciben anuncios más relevantes. Facebook, por ejemplo, explica que su "publicidad basada en intereses" sirve a los usuarios que "quieren ver anuncios relacionados con cosas que les interesan". Es cierto que estos métodos pueden identificar anuncios que se conectan con los intereses reales de los usuarios. Pero las mismas técnicas basadas en datos que le dicen a un surfista sobre un nuevo diseño de tabla también pueden identificar puntos estratégicos donde las personas son más vulnerables a la influencia.

En particular, Los principales sistemas de publicidad en las redes sociales permiten que los agentes políticos experimenten con diferentes anuncios para ver cuáles son los más efectivos. Pueden usar estas herramientas no solo para ver si ciertos temas resuenan con objetivos particulares, sino también para probar los miedos o prejuicios que pueden invocarse para influir en el comportamiento político.

Una forma clave de hacer esto es hacer que las personas sientan que otra persona representa una amenaza emocionalmente cargada para su identidad. En 2016, por ejemplo, Los operativos vinculados a Rusia compraron miles de anuncios de Facebook dirigidos a audiencias específicas, lo que sugiere que Hillary Clinton había insultado la dignidad de su grupo o amenazado su seguridad. Algunos anuncios alegaban que Clinton abrazó la falta de respeto por ocupaciones específicas, como los mineros del carbón, o grupos raciales, como los afroamericanos. Otros afirmaron que confiscaría armas o apoyaría movimientos políticos radicales que buscaban cambiar formas de vida familiares.

La orientación de anuncios políticos no es exclusiva de la publicidad en línea, pero las herramientas de los sistemas de anuncios digitales son mucho más poderosas que los medios de comunicación tradicionales. Los anunciantes pueden probar varias versiones de un anuncio simultáneamente y recibir comentarios casi instantáneos sobre cuáles impulsan de manera más efectiva a compartir a públicos específicos. me gusta o comenta sobre ellos. Este circuito de retroalimentación digital ayuda a los operativos políticos a refinar sus tácticas, buscando las imágenes correctas, palabras y emociones para influir en subgrupos muy específicos de ciudadanos.

Muévete rápido y arregla las cosas

Los miembros del Congreso e incluso algunas figuras clave de Silicon Valley han comenzado a discutir la necesidad de una supervisión gubernamental más estricta y una mayor responsabilidad en la publicidad digital. El cambio no necesita esperar a la política.

Basado en nuestro análisis, Aquí hay algunos pasos que las empresas pueden tomar de inmediato, por su cuenta. Estos movimientos pueden dañar las finanzas de las empresas, pero demostraría un compromiso serio y duradero para limitar la utilidad de sus plataformas en campañas de manipulación política.

Como primer movimiento, Las empresas de redes sociales podrían dejar de permitir que sus servicios publicitarios se utilicen como laboratorios experimentales independientes para examinar la psique de sus usuarios. Así como los especialistas en marketing y los investigadores académicos deben obtener el permiso de sus sujetos de prueba, Los anunciantes políticos que realizan experimentos de anuncios en línea podrían obtener el consentimiento informado por adelantado de todos los usuarios involucrados. Las empresas deben solicitar el consentimiento de los usuarios en notificaciones específicas sobre experimentos publicitarios y no penalizar a los usuarios por optar por no participar limitando su acceso a los servicios. Sospechamos que muchos usuarios optarían por no participar en estas pruebas si tuvieran la opción, pero en cualquier caso esta política ayudaría a llamar la atención del público sobre las herramientas de manipulación ocultas que las plataformas ofrecen a sus clientes reales:los anunciantes políticos y comerciales que pagan las facturas.

Hacer transparente la publicidad política dirigida

Aumentar la transparencia y limitar la capacidad de intereses especiales para influir secretamente en la política, Las empresas de redes sociales podrían negarse a trabajar con los llamados grupos de dinero oscuro. Se debería exigir a todos los anunciantes políticos que revelen sus principales donantes en un formato al que los usuarios puedan acceder fácilmente.

Una nueva política que prohíba los anuncios de dinero oscuro respondería a la evidencia de que los agentes políticos han utilizado la suplantación de identidad y tácticas publicitarias manipuladoras para agitar las luchas internas o sembrar la división entre las coaliciones de sus adversarios. La suplantación de identidad funciona claramente mejor cuando los patrocinadores de anuncios pueden ocultar sus identidades y motivos. Los anuncios anónimos también tienen más probabilidades de violar los estándares éticos simplemente porque nadie teme ser responsable de ellos.

Democratizar las plataformas

Un cambio más significativo que podrían hacer las empresas de redes sociales sería introducir una supervisión democrática de cómo recopilan y utilizan los datos de las personas.

Zuckerberg de Facebook dio recientemente un paso inicial en esta dirección, anunciando que creará paneles de revisión independientes para manejar las apelaciones de los usuarios contra la eliminación de contenido por parte de la empresa que considere inapropiado. Explicó que quería asegurarse de que "estas decisiones se tomen en el mejor interés de nuestra comunidad y no por razones comerciales".

Independientemente de lo que piense sobre este plan, y ha sido recibido con mucho escepticismo, el razonamiento de Zuckerberg reconoce que debido a que las plataformas sociales se han vuelto tan centrales para la vida democrática, sus propias políticas y decisiones de diseño requieren una responsabilidad democrática.

Una visión más ambiciosa permitiría que los paneles de ética independientes que representan a diversas comunidades de usuarios establezcan políticas aplicables para la publicidad política ética. Grupos similares son comunes en medicina y están surgiendo en inteligencia artificial, entre otros campos. Los detalles de cómo operan dichos comités serán fundamentales para su éxito. Si estos comités se establecen en asociación con organizaciones sin fines de lucro con antecedentes probados de defensa de la comunicación democrática y la transparencia en el financiamiento de campañas, tal vez podrían ayudar a las empresas de redes sociales a ganar una mayor confianza pública al priorizar la democracia sobre la maximización de sus ganancias.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.