Los sistemas de inteligencia artificial y los algoritmos de aprendizaje automático han sido objeto de críticas recientemente porque pueden detectar y reforzar los sesgos existentes en nuestra sociedad. dependiendo de con qué datos estén programados.

Pero un grupo interdisciplinario de académicos de Stanford dio vuelta este problema en un nuevo procedimientos de la Academia Nacional de Ciencias artículo publicado el 3 de abril.

Los investigadores utilizaron incrustaciones de palabras, una técnica algorítmica que puede mapear relaciones y asociaciones entre palabras, para medir los cambios en los estereotipos étnicos y de género durante el siglo pasado en los Estados Unidos. Analizaron grandes bases de datos de libros estadounidenses, periódicos y otros textos y analizó cómo esos cambios lingüísticos se correlacionan con los datos demográficos reales del censo de EE. UU. y los cambios sociales importantes, como el movimiento de mujeres en la década de 1960 y el aumento de la inmigración asiática, según la investigación.

"Las incrustaciones de palabras se pueden utilizar como un microscopio para estudiar los cambios históricos en los estereotipos en nuestra sociedad, "dijo James Zou, profesor asistente de ciencia de datos biomédicos. "Nuestra investigación anterior ha demostrado que las incorporaciones capturan eficazmente los estereotipos existentes y que esos sesgos pueden eliminarse sistemáticamente. Pero creemos que, en lugar de eliminar esos estereotipos, también podemos utilizar incrustaciones como una lente histórica para cuantitativos, análisis lingüísticos y sociológicos de los sesgos ".

Zou fue coautor del artículo con la profesora de historia Londa Schiebinger, el profesor de lingüística y ciencias de la computación Dan Jurafsky y el estudiante graduado de ingeniería eléctrica Nikhil Garg, quien fue el autor principal.

"Este tipo de investigación nos abre todo tipo de puertas, ", Dijo Schiebinger." Proporciona un nuevo nivel de evidencia que permite a los estudiosos de humanidades ir tras las preguntas sobre la evolución de los estereotipos y prejuicios a una escala que nunca antes se había hecho ".

La geometría de las palabras

Una incrustación de palabras es un algoritmo que se utiliza, o entrenado, en una colección de texto. Luego, el algoritmo asigna un vector geométrico a cada palabra, representando cada palabra como un punto en el espacio. La técnica utiliza la ubicación en este espacio para capturar asociaciones entre palabras en el texto fuente.

"Las incrustaciones son una poderosa herramienta lingüística para medir aspectos sutiles del significado de las palabras, como el sesgo, "Dijo Jurafsky.

Tome la palabra "honorable". Usando la herramienta de incrustación, Investigaciones anteriores encontraron que el adjetivo tiene una relación más estrecha con la palabra "hombre" que con la palabra "mujer".

En su nueva investigación, El equipo de Stanford usó incrustaciones para identificar ocupaciones específicas y adjetivos que tenían un sesgo hacia las mujeres y grupos étnicos particulares por década desde 1900 hasta el presente. Los investigadores entrenaron esas incrustaciones en bases de datos de periódicos y también utilizaron incrustaciones previamente capacitadas por el estudiante graduado en ciencias de la computación de Stanford Will Hamilton en otros grandes conjuntos de datos de texto. como el corpus de libros estadounidenses de Google Books, que contiene más de 130 mil millones de palabras publicadas durante los siglos XX y XXI.

Los investigadores compararon los sesgos encontrados por esas incrustaciones con los cambios demográficos en los datos del censo de EE. UU. Entre 1900 y el presente.

Cambios en los estereotipos

Los hallazgos de la investigación mostraron cambios cuantificables en las representaciones de género y prejuicios hacia los asiáticos y otros grupos étnicos durante el siglo XX.

Uno de los hallazgos clave que surgieron fue cómo los prejuicios hacia las mujeres cambiaron para mejor, de alguna manera, con el tiempo.

Por ejemplo, adjetivos como "inteligente, "" lógico "y" reflexivo "se asociaron más con los hombres en la primera mitad del siglo XX. Pero desde la década de 1960, las mismas palabras se han asociado cada vez más con las mujeres en cada década siguiente, en correlación con el movimiento de mujeres en la década de 1960, aunque todavía queda una brecha.

La investigación también mostró un cambio dramático en los estereotipos hacia los asiáticos y estadounidenses de origen asiático.

Por ejemplo, en la década de 1910, palabras como "bárbaro, "" monstruoso "y" cruel "eran los adjetivos más asociados con los apellidos asiáticos. En la década de 1990, esos adjetivos fueron reemplazados por palabras como "inhibido, "" pasivo "y" sensible ". Este cambio lingüístico se correlaciona con un fuerte aumento de la inmigración asiática a los Estados Unidos en las décadas de 1960 y 1980 y un cambio en los estereotipos culturales, dijeron los investigadores.

"Me llamó la atención la crudeza del cambio de estereotipos, ", Dijo Garg." Cuando estudias historia, aprendes sobre campañas de propaganda y estas opiniones obsoletas de grupos extranjeros. Pero era difícil apreciar cuánto se produjo la literatura en ese momento que reflejaba esos estereotipos ".

En general, Los investigadores demostraron que los cambios en las incrustaciones de palabras seguían de cerca los cambios demográficos medidos por el censo de EE. UU.

Fructífera colaboración

La nueva investigación ilumina el valor del trabajo en equipo interdisciplinario entre las humanidades y las ciencias, dijeron los investigadores.

Schiebinger dijo que se acercó a Zou, que se unió a Stanford en 2016, después de leer su trabajo anterior sobre la eliminación de sesgos de los algoritmos de aprendizaje automático.

"Esto dio lugar a una colaboración muy interesante y fructífera, "Schiebinger dijo, agregando que los miembros del grupo están trabajando juntos en nuevas investigaciones.

"Subraya la importancia de que los humanistas y los científicos de la computación trabajen juntos. Hay un poder en estos nuevos métodos de aprendizaje automático en la investigación en humanidades que apenas se está entendiendo, " ella dijo.