En una nueva serie de experimentos, Los algoritmos de inteligencia artificial (IA) pudieron influir en las preferencias de las personas por candidatos políticos ficticios o posibles parejas románticas, dependiendo de si las recomendaciones fueron explícitas o encubiertas. Ujué Agudo y Helena Matute de la Universidad de Deusto en Bilbao, España, presentar estos hallazgos en la revista de acceso abierto MÁS UNO el 21 de abril 2021.

Desde Facebook hasta los resultados de búsqueda de Google, mucha gente se encuentra con A.I. algoritmos todos los días. Las empresas privadas están realizando una investigación exhaustiva sobre los datos de sus usuarios, generar conocimientos sobre el comportamiento humano que no están disponibles públicamente. La investigación académica en ciencias sociales va por detrás de la investigación privada, y conocimiento público sobre cómo la A.I. los algoritmos pueden influir en las decisiones de las personas.

Para arrojar nueva luz Agudo y Matute llevaron a cabo una serie de experimentos que probaron la influencia de A.I. algoritmos en diferentes contextos. Reclutaron participantes para interactuar con algoritmos que presentaban fotos de candidatos políticos ficticios o candidatos de citas en línea. y pidió a los participantes que indicaran a quién votarían o enviarían un mensaje. Los algoritmos promovieron algunos candidatos sobre otros, ya sea explícitamente (por ejemplo, "90% de compatibilidad") o de forma encubierta, por ejemplo, mostrando sus fotos con más frecuencia que las de los demás.

En general, Los experimentos mostraron que los algoritmos tenían una influencia significativa en las decisiones de los participantes sobre a quién votar o enviar un mensaje. Para decisiones políticas, la manipulación explícita influyó significativamente en las decisiones, mientras que la manipulación encubierta no fue efectiva. Se observó el efecto contrario en las decisiones de citas.

Los investigadores especulan que estos resultados podrían reflejar la preferencia de las personas por los consejos explícitos humanos cuando se trata de asuntos subjetivos como las citas, mientras que la gente podría preferir el asesoramiento algorítmico sobre decisiones políticas racionales.

A la luz de sus hallazgos, los autores expresan su apoyo a las iniciativas que buscan impulsar la confiabilidad de la IA, como las Directrices éticas de la Comisión Europea para una IA fiable y el programa de IA explicable (XAI) de DARPA. Todavía, advierten que se necesita más investigación disponible públicamente para comprender la vulnerabilidad humana a los algoritmos.

Mientras tanto, los investigadores piden esfuerzos para educar al público sobre los riesgos de la confianza ciega en las recomendaciones de los algoritmos. También destacan la necesidad de debatir sobre la propiedad de los datos que impulsan estos algoritmos.

Los autores añaden:"Si un algoritmo ficticio y simplista como el nuestro puede lograr tal nivel de persuasión sin establecer perfiles realmente personalizados de los participantes (y utilizando las mismas fotografías en todos los casos), un algoritmo más sofisticado, como aquellos con los que las personas interactúan en su vida diaria, sin duda debería poder ejercer una influencia mucho más fuerte ".