• Home
  • Química
  • Astronomía
  • Energía
  • Naturaleza
  • Biología
  • Física
  • Electrónica
  • Creamos robots engañosos para ver por qué se difunden las noticias falsas, y encontré una debilidad

    Puede ayudar a detener la propagación de "noticias falsas" en línea. Crédito:Shutterstock / panuwat phimpha

    Solo se necesita una pequeña cantidad de noticias falsas para interrumpir cualquier debate o discusión sobre un tema, según una investigación publicada hoy en MÁS UNO .

    Pero hay una forma de disuadir a quienes difunden noticias falsas e incluso para borrarlo por completo.

    La investigación es experimental, basado en modelado y simulaciones, pero al menos muestra que es posible contrarrestar la difusión de información errónea.

    El auge de las noticias falsas

    La difusión de información maliciosa y falsa ha plagado a las sociedades humanas durante siglos.

    En esta era de conectividad digital global instantánea, la encarnación actual de las "noticias falsas" se ha convertido en un flagelo y se explota para beneficio personal o político.

    Medios de comunicación social, diseñado para animar a los usuarios a contribuir y compartir contenido, se ha convertido en el gran facilitador de la difusión de noticias falsas.

    De las naciones que se entrometen en la política de las democracias y los partidos políticos que intentan manipular la opinión pública, a una industria de "noticias falsas" centrada en los beneficios, todos han aprovechado esta extensión para obtener ganancias, sembrando confusión y discordia en las poblaciones víctimas a las que se dirigen.

    El juego de simulación

    Hicimos algunos experimentos con el objetivo de comprender los mecanismos más fundamentales que determinan el comportamiento de las noticias falsas en las poblaciones.

    Nos interesaron especialmente dos preguntas:

    1. cuánto impacto pueden tener las noticias falsas en la formación de consenso en una población
    2. el impacto del costo de distribuir noticias falsas sobre su capacidad para infestar una población.

    En el mundo real, los costos pueden ser externos, como multas, sanciones, exclusiones, gastos en la creación y distribución de falsificaciones; o pueden ser internos, como sentimientos de pérdida o vergüenza por ser ridiculizado o avergonzado.

    La herramienta que usamos fue una simulación evolutiva, en el que interactúan robots de software simples en una población, jugando el conocido juego Prisoner's Dilemma. Básicamente, un prisionero que traiciona a otro gana a lo grande, mientras el traicionado pierde mal, mientras que ambos solo ganan modestamente si cooperan, y sufrirán por igual si se traicionan unos a otros.

    A diferencia del trabajo anterior en esta área, hicimos que algunos de estos robots de software fueran un poco tortuosos, agregando código que les permitió engañarse entre sí. Se confunde a la víctima de tal engaño acerca de la intención del jugador contrario, o convencido de que el jugador contrario es un "buen tipo" desinteresadamente cooperativo.

    Nuestro código hizo uso de nuestro trabajo en el modelado teórico de la información de engaños, permitiendo que los engaños conocidos se mapeen en modelos de teoría de juegos. Cada engañador en la simulación incurrió en un costo cuando engañó, que luego se restó de la recompensa que obtuvieron en el juego del dilema del prisionero.

    ¿Cuántas noticias falsas pueden alterar el consenso?

    Descubrimos que incluso un porcentaje muy pequeño de jugadores engañosos en la población (en nuestras simulaciones menos del 1%) podría alterar catastróficamente los comportamientos cooperativos en la población simulada.

    En el caso extremo de los engaños gratuitos, donde los productores de noticias falsas no tienen obstáculos, los comportamientos cooperativos desaparecieron por completo. Solo donde el costo de los engaños fue mayor que cero, sobrevivió la cooperación. Donde los costos eran muy altos, la cooperación realmente prospera.

    También encontramos que para todas las simulaciones, la capacidad de engañar a los jugadores para sobrevivir dependía en gran medida del costo de los engaños. Si el costo fuera lo suficientemente alto, los engañadores no podían sobrevivir en la población.

    Aplicando esto a la difusión de noticias falsas, costos muy altos conducirán a su extinción.

    Del experimento al mundo real

    ¿Qué nos dicen estos resultados experimentales sobre el mundo real de la distribución de noticias falsas en los medios sociales y de masas?

    El primer y posiblemente más importante resultado es que se requieren muy pocas noticias falsas para crear caos en una población. y evitar la formación de consensos que son fundamentales para los debates públicos. Si las víctimas están confundidas, o creer falsedades, es inmaterial. Es su capacidad para llegar a un consenso lo que se interrumpe.

    Nuestro modelado se centró en pequeños grupos de personas influyentes que debaten activamente los temas. Donde los influencers no pueden ponerse de acuerdo, los seguidores, a su vez, no pueden alinearse con un consenso. Ésta es una de las razones por las que las noticias falsas son tan destructivas para las sociedades democráticas.

    El segundo resultado de mayor interés es que atribuir un alto costo a la producción, pero especialmente la distribución de noticias falsas puede resultar la herramienta más eficaz que tenemos para derrotar su difusión. Vale la pena una alta inversión social para aumentar estos costos, porque los efectos de las noticias falsas son muy perjudiciales.

    Rompiendo la cadena

    La investigación sobre la guerra de la información hace más de una década descubrió que la entrega por poder era un multiplicador importante en la distribución de propaganda tóxica.

    Por ejemplo, Los medios de comunicación que distribuían imágenes violentas y metraje producido por terroristas actuaban como representantes de los terroristas que producían la propaganda. lo supieran o no.

    Los usuarios de las redes sociales que comparten noticias falsas también actúan como representantes de los productores de noticias falsas. Estos usuarios suelen ser considerados víctimas de noticias falsas, que suelen serlo, pero cada vez que comparten noticias falsas se convierten en participantes del engaño del productor de noticias falsas.

    Asignar un costo a la distribución de noticias falsas en las redes sociales no es sencillo. La salida informal de carteles habituales de fake news es una opción, que concuerda con la psicología evolutiva de la detección de tramposos.

    Las organizaciones de redes sociales como Facebook dicen que están tratando de ser más proactivos en la detección de noticias falsas y noticias falsas, ya sea mediante tecnología de aprendizaje automático o verificadores de datos de terceros. y dice que ha tenido algunos éxitos recientes.

    Pero ambas ideas se topan con el problema más complicado de determinar exactamente qué son o no noticias falsas. Los hechos desagradables se etiquetan con demasiada frecuencia como "noticias falsas".

    La confiabilidad y objetividad de los verificadores de hechos pueden variar ampliamente:las verdades fundamentales a menudo se ven oscurecidas por prejuicios, y limitaciones en la comprensión.

    En este momento, contrariamente a las afirmaciones de algunos proveedores de redes sociales, La IA no está a la altura de la tarea de encontrar y eliminar noticias falsas, lo que nos devuelve la responsabilidad a los humanos.

    Todos podemos ayudar simplemente pensando un poco antes de que nos guste, compartir o retuitear cualquier información en las redes sociales. Tal vez haga algunas comprobaciones de búsqueda para ver si se sabe que la información es verdadera o falsa.

    El control de plagas es una práctica establecida en los ecosistemas biológicos, y está claramente atrasado para el ecosistema de la información.

    Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.




    © Ciencia https://es.scienceaq.com