La IA "Sophia" en la Cumbre Global AI for Good, 2018. Crédito:Imágenes de la UIT / Wikimedia, CC BY
Con la proliferación de robots femeninos como Sophia y la popularidad de asistentes virtuales femeninas como Siri (Apple), Alexa (Amazon), y Cortana (Microsoft), la inteligencia artificial parece tener un problema de género.
Este desequilibrio de género en la IA es una tendencia generalizada que ha generado fuertes críticas en los medios de comunicación (incluso la Unesco advirtió sobre los peligros de esta práctica) porque podría reforzar los estereotipos sobre las mujeres como objetos.
Pero, ¿por qué se inyecta la feminidad en objetos inteligentes artificiales? Si queremos frenar el uso masivo del género femenino en la IA, necesitamos comprender mejor las raíces profundas de este fenómeno.
Haciendo lo inhumano más humano
En un artículo publicado en la revista Psicología y marketing , sostenemos que la investigación sobre qué hace que las personas sean humanas puede proporcionar una nueva perspectiva sobre por qué la feminización se utiliza sistemáticamente en la IA. Sugerimos que si las mujeres tienden a ser más objetivadas en la IA que los hombres, no es solo porque se les percibe como el asistente perfecto, pero también porque la gente atribuye más humanidad a las mujeres (que a los hombres) en primer lugar.
¿Por qué? Debido a que las mujeres son percibidas como más cálidas y más propensas a experimentar emociones que los hombres, El género femenino de los objetos de IA contribuye a humanizarlos. La calidez y la experiencia (pero no la competencia) se consideran cualidades fundamentales para ser un ser humano completo, pero las máquinas carecen de ellas.
Basándose en teorías de la deshumanización y la objetivación, mostramos en cinco estudios con una muestra total de más de 3, 000 participantes que:
Usamos varias medidas diferentes de humanidad percibida, en comparación con los animales y las máquinas. Por ejemplo, para medir la flagrante humanidad de los robots masculinos y femeninos en comparación con los animales, utilizamos la escala de humanización de ascenso basada en la ilustración clásica de la "marcha del progreso". Pedimos explícitamente a los encuestados en línea que indicaran qué tan "evolucionados" percibían que eran los robots masculinos o femeninos, utilizando una progresión continua desde los simios antiguos hasta los humanos modernos.
Para medir la flagrante humanidad percibida de los robots masculinos y femeninos en comparación con las máquinas, Creamos una escala que mide la (des) humanización mecanicista flagrante, imaginando la evolución del hombre de robot a humano (en lugar de mono a humano). Por supuesto, Creamos tanto una versión femenina como una masculina de cada una de estas escalas.
Otras medidas capturaron percepciones más sutiles e implícitas de la humanidad, preguntando a los encuestados el nivel de emociones que atribuyen a los robots masculinos y femeninos. Se dice que algunas emociones distinguen a los humanos de las máquinas (por ejemplo, "simpático, "" amante de la diversión "), y otras emociones para distinguir a los humanos de los animales (es decir, "organizado, "" cortés "). Por último, También utilizamos una prueba de asociación implícita para investigar si los bots femeninos están asociados con el concepto de "humano" en lugar de "máquina" más que los bots masculinos.
El fantasma en la máquina
Si bien descubrimos que las mujeres y los robots femeninos son percibidos como más humanos en la mayoría de las medidas sutiles y descaradas e implícitas de la humanidad, También encontramos que los hombres y los robots masculinos son percibidos como más humanos en las dimensiones negativas de las medidas sutiles de humanidad. Tomados en conjunto, Estos resultados indican que los robots femeninos no solo están dotados de cualidades humanas más positivas que los robots masculinos (sexismo benevolente), pero que también son percibidos como más humanos y se espera que sean más propensos a considerar nuestras necesidades únicas en un contexto de servicio.
Estos hallazgos pueden apuntar a una nueva posible explicación de por qué los bots femeninos son favorecidos sobre sus contrapartes masculinas. con personas que prefieren máquinas inteligentes femeninas porque tales máquinas están más fuertemente asociadas con la humanidad.
Si la feminidad se usa para humanizar entidades no humanas, esta investigación sugiere que tratar a las mujeres como objetos en la IA puede residir precisamente en el reconocimiento de que no lo son. La suposición popular, aunque, frecuentemente referida como la hipótesis de la deshumanización, es que es necesario ver a los miembros del exogrupo como animales o instrumentos antes de objetivarlos. En otras palabras, la deshumanización sería un requisito previo para que se produzca la objetivación, con los objetivos de la objetivación a los que normalmente se les niega su humanidad. Contrariamente a esta visión dominante, la transformación de mujeres en objetos en la IA podría ocurrir no porque las mujeres sean percibidas como subhumanas, sino porque son percibidos como superhumanos en primer lugar.
Esto está en línea con la afirmación de Martha C. Nussbaum:"La objetivación implica convertir en una cosa ... algo que realmente no es una cosa" (Nussbaum, 1995, pag. 256–7). También encaja con la opinión de Kate Manne sobre la misoginia y la deshumanización:"A menudo, no es un sentido de humanidad de las mujeres lo que falta. Su humanidad es precisamente el problema "(Manne, 2018, pag. 33). Por lo tanto, El uso generalizado de la identidad femenina en los artefactos de IA puede tener sus raíces en el reconocimiento implícito de que las mujeres son percibidas como humanas. y más que los hombres.
¿Objetivación de la mujer en el mundo real?
Esta investigación se basa en lo que hace que las personas sean humanas en comparación con las máquinas para comprender mejor las raíces profundas del género femenino generalizado de la IA. Porque los sentimientos son la esencia misma de nuestra humanidad, y debido a que las mujeres son percibidas como más propensas a experimentar sentimientos, sostenemos que el género femenino de los objetos de IA hace que parezcan más humanos y es más probable que consideren nuestras necesidades únicas. Sin embargo, este proceso de transformación de las mujeres en objetos podría llevar a la cosificación de las mujeres al transmitir la idea de que las mujeres son objetos y herramientas simples diseñadas para satisfacer las necesidades de sus dueños. Potencialmente, esto puede impulsar más la objetivación y deshumanización de las mujeres en el mundo no digital.
Esta investigación destaca así el dilema ético al que se enfrentan los diseñadores de IA y los responsables políticos:se dice que las mujeres se transforman en objetos en la IA, pero inyectar la humanidad de las mujeres en los objetos de IA hace que estos objetos parezcan más humanos y aceptables.
Estos resultados no son particularmente alentadores para el futuro de la paridad de género en la IA, ni para poner fin a la cosificación de las mujeres en la IA. El desarrollo de voces neutrales al género podría ser una forma de alejarse del género femenino de la IA y detener la perpetuación de este sexismo benevolente. Otra solución, similar a la experimentación reciente de Google, sería imponer una voz de género predeterminada, asignando aleatoriamente y con la misma probabilidad un bot inteligente masculino o femenino a los usuarios.
Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.