Los algoritmos son un elemento básico de la vida moderna. La gente confía en recomendaciones algorítmicas para explorar catálogos profundos y encontrar las mejores películas, rutas, información, productos, personas e inversiones. Debido a que las personas entrenan algoritmos para sus decisiones (por ejemplo, algoritmos que hacen recomendaciones en sitios de comercio electrónico y redes sociales), los algoritmos aprenden y codifican los prejuicios humanos.
Las recomendaciones algorítmicas muestran un sesgo hacia las elecciones populares y la información que provoca indignación, como las noticias partidistas. A nivel social, los sesgos algorítmicos perpetúan y amplifican el sesgo racial estructural en el sistema judicial, el sesgo de género en las personas que contratan las empresas y la desigualdad de riqueza en el desarrollo urbano.
El sesgo algorítmico también se puede utilizar para reducir el sesgo humano. Los algoritmos pueden revelar sesgos estructurales ocultos en las organizaciones. En un artículo publicado en las Proceedings of the National Academy of Science , mis colegas y yo descubrimos que el sesgo algorítmico puede ayudar a las personas a reconocer y corregir mejor sus sesgos en sí mismas.
En nueve experimentos, Begum Celikitutan, Romain Cadario y yo hicimos que los participantes de la investigación calificaran a los conductores de Uber o a los anuncios de Airbnb según su habilidad para conducir, su confiabilidad o la probabilidad de que alquilaran el anuncio. Les dimos a los participantes detalles relevantes, como la cantidad de viajes que habían realizado, una descripción de la propiedad o una calificación de estrellas. También incluimos información sesgada e irrelevante:una fotografía revelaba la edad, el sexo y el atractivo de los conductores, o un nombre que implicaba que los anfitriones de la lista eran blancos o negros.
Después de que los participantes hicieron sus calificaciones, les mostramos uno de dos resúmenes de calificaciones:uno que muestra sus propias calificaciones o otro que muestra las calificaciones de un algoritmo que fue entrenado en base a sus calificaciones. Les informamos a los participantes sobre la característica de sesgo que podría haber influido en estas calificaciones; por ejemplo, que es menos probable que los huéspedes de Airbnb alquilen a anfitriones con nombres claramente afroamericanos. Luego les pedimos que juzgaran cuánta influencia tenía el sesgo en las calificaciones de los resúmenes.
Ya sea que los participantes evaluaran la influencia sesgada de la raza, la edad, el género o el atractivo, vieron más sesgos en las calificaciones realizadas por algoritmos que ellos mismos. Este efecto espejo algorítmico se mantuvo tanto si los participantes juzgaban las calificaciones de algoritmos reales como si les mostrábamos a los participantes sus propias calificaciones y les decíamos engañosamente que un algoritmo hizo esas calificaciones.
Los participantes vieron más sesgos en las decisiones de los algoritmos que en sus propias decisiones, incluso cuando les dimos una bonificación en efectivo si sus juicios sesgados coincidían con los juicios hechos por un participante diferente que vio las mismas decisiones. El efecto espejo algorítmico se mantuvo incluso si los participantes estaban en la categoría marginada (por ejemplo, al identificarse como mujer o como negro).
Los participantes de la investigación pudieron ver sesgos en algoritmos entrenados en sus propias decisiones, así como pudieron ver sesgos en las decisiones de otras personas. Además, los participantes tenían más probabilidades de ver la influencia del sesgo racial en las decisiones de los algoritmos que en sus propias decisiones, pero eran igualmente propensos a ver la influencia de características defendibles, como calificaciones de estrellas, en las decisiones de los algoritmos y en las suyas propias. decisiones.
La gente ve más prejuicios en los algoritmos porque los algoritmos eliminan los puntos ciegos de los prejuicios de las personas. Es más fácil ver sesgos en las decisiones de otros que en las propias porque utilizas evidencia diferente para evaluarlas.
Al examinar sus decisiones en busca de sesgos, busca evidencia de sesgos conscientes, ya sea que haya pensado en la raza, el género, la edad, el estatus u otras características injustificadas al tomar la decisión. Pasas por alto y disculpas el sesgo en tus decisiones porque careces de acceso a la maquinaria asociativa que impulsa tus juicios intuitivos, donde a menudo se manifiesta el sesgo. Podrías pensar:"No pensé en su raza o género cuando los contraté. Los contraté únicamente por sus méritos".
Al examinar las decisiones de otros en busca de sesgos, no se tiene acceso a los procesos que utilizaron para tomar las decisiones. De modo que examina sus decisiones en busca de sesgos, donde el sesgo es evidente y más difícil de excusar. Podrías ver, por ejemplo, que sólo contrataron a hombres blancos.
Los algoritmos eliminan el punto ciego del sesgo porque ves los algoritmos más como ves a otras personas que a ti mismo. Los procesos de toma de decisiones de los algoritmos son una caja negra, similar a cómo los pensamientos de otras personas son inaccesibles para ti.
Los participantes de nuestro estudio que tenían más probabilidades de demostrar el punto ciego del sesgo tenían más probabilidades de ver más sesgo en las decisiones de los algoritmos que en sus propias decisiones.
La gente también externaliza el sesgo en los algoritmos. Ver sesgos en los algoritmos es menos amenazador que ver sesgos en uno mismo, incluso cuando los algoritmos están entrenados en sus elecciones. La gente culpa a los algoritmos. Los algoritmos se basan en decisiones humanas, pero la gente llama al sesgo reflejado "sesgo algorítmico".
Nuestros experimentos muestran que las personas también tienen más probabilidades de corregir sus prejuicios cuando se reflejan en algoritmos. En un experimento final, dimos a los participantes la oportunidad de corregir las calificaciones que evaluaron. Mostramos a cada participante sus propias calificaciones, que atribuimos al participante o a un algoritmo entrenado en sus decisiones.
Los participantes tenían más probabilidades de corregir las calificaciones cuando se las atribuían a un algoritmo porque creían que las calificaciones estaban más sesgadas. Como resultado, las calificaciones corregidas finales estuvieron menos sesgadas cuando se atribuyeron a un algoritmo.
Se han documentado bien los sesgos algorítmicos que tienen efectos perniciosos. Nuestros hallazgos muestran que el sesgo algorítmico se puede aprovechar para siempre. El primer paso para corregir el sesgo es reconocer su influencia y dirección. Como espejos que revelan nuestros prejuicios, los algoritmos pueden mejorar nuestra toma de decisiones.
Información de la revista: Actas de la Academia Nacional de Ciencias
Proporcionado por The Conversation
Este artículo se vuelve a publicar desde The Conversation bajo una licencia Creative Commons. Lea el artículo original. 
