El sesgo en la inteligencia artificial (IA) y los programas de aprendizaje automático está bien establecido. Investigadores de la Universidad Estatal de Carolina del Norte y la Universidad Estatal de Pensilvania ahora proponen que los desarrolladores de software incorporen el concepto de "pensamiento de diseño feminista" en su proceso de desarrollo como una forma de mejorar la equidad, particularmente en el desarrollo de software utilizado en el proceso de contratación.

"Parece haber innumerables historias sobre las formas en que se manifiesta el sesgo en la IA, y hay muchas piezas de pensamiento sobre lo que contribuye a este sesgo, "dice Fay Payton, profesor de sistemas / tecnología de la información y académico universitario en NC State. "Nuestro objetivo aquí era presentar pautas que se pueden utilizar para desarrollar soluciones viables para el sesgo de algoritmos contra las mujeres, Profesiones afroamericanas y latinas en la fuerza laboral de TI.

"Demasiados algoritmos de contratación existentes incorporan marcadores de identidad de facto que excluyen a los candidatos calificados debido a su género, raza, etnia, edad y así sucesivamente, "dice Payton, quien es coautor principal de un artículo sobre el trabajo. "Simplemente buscamos equidad, que los candidatos a puestos de trabajo puedan participar en el proceso de contratación en pie de igualdad".

Payton y sus colaboradores argumentan que un enfoque llamado pensamiento de diseño feminista podría servir como un marco valioso para desarrollar software que reduzca el sesgo algorítmico de manera significativa. En este contexto, La aplicación del pensamiento de diseño feminista significaría incorporar la idea de equidad en el diseño del propio algoritmo.

"Para agravar los efectos del sesgo algorítmico está la subrepresentación histórica de las mujeres, Ingenieros de software Black y Latinx para proporcionar conocimientos novedosos sobre enfoques de diseño equitativos basados ​​en sus experiencias vividas, "dice Lynette Yarger, coautor principal del artículo y profesor asociado de ciencias y tecnología de la información en Penn State.

"Esencialmente, este enfoque significaría desarrollar algoritmos que valoren la inclusión y la equidad entre los géneros, raza y etnia, "Dice Payton." La aplicación práctica de esto es el desarrollo e implementación de un proceso para crear algoritmos en el que los diseñadores están considerando una audiencia que incluye mujeres, que incluye a los negros, eso incluye personas latinx. Esencialmente, Se pedirá a los desarrolladores de todos los orígenes que consideren y valoren activamente a las personas que son diferentes a ellos.

"Para ser claro, no se trata solo de hacer algo porque sea moralmente correcto. Pero sabemos que las mujeres Los afroamericanos y los latinos están subrepresentados en los campos de TI. Y existe amplia evidencia de que una diversidad la fuerza laboral inclusiva mejora los resultados de una empresa, "Dice Payton." Si puede hacer lo correcto y mejorar su margen de beneficio, ¿por qué no lo harías tú? "