En la carrera por competir con otras empresas, el diseño de inteligencia artificial (IA) carece de una comprensión profunda de lo que significan los datos sobre humanos y su relación con la equidad. Dos sociólogos de la Universidad de Drexel sugieren que prestemos más atención al impacto social de la IA, ya que aparece con más frecuencia que nunca.

"La pandemia de coronavirus ha acelerado el uso de la inteligencia artificial y la automatización para reemplazar a los trabajadores humanos, como parte del esfuerzo por minimizar los riesgos asociados con las interacciones cara a cara, "dijo Kelly Joyce, Doctor., profesor de la Facultad de Artes y Ciencias y director fundador del Centro de Ciencias, Tecnología y Sociedad en Drexel. "Cada vez vemos más ejemplos de algoritmos que intensifican las desigualdades existentes. Como instituciones como la educación, cuidado de la salud, guerra, y trabajar adopte estos sistemas, debemos remediar esta inequidad ".

En un artículo recientemente publicado en Socius , Joyce, Susan Bell, Doctor., profesor de la Facultad de Artes y Ciencias, y sus colegas expresan su preocupación por el impulso para acelerar rápidamente el desarrollo de la inteligencia artificial en los Estados Unidos sin acelerar las prácticas de capacitación y desarrollo necesarias para hacer tecnología ética. El documento propone una agenda de investigación para una sociología de la IA.

"La comprensión de la sociología de la relación entre los datos humanos y las desigualdades de larga data es necesaria para crear sistemas de inteligencia artificial que promuevan la igualdad, "explicó Joyce.

¿Cómo definimos la IA?

El término IA se ha utilizado de muchas formas diferentes y las primeras interpretaciones asocian el término con software que es capaz de aprender y actuar por sí solo. Por ejemplo, Los automóviles autónomos aprenden e identifican rutas y obstáculos, al igual que las aspiradoras robóticas hacen el perímetro o el diseño de una casa. y los asistentes inteligentes (Alexa o Google Assistant) identifican el tono de voz y las preferencias de su usuario.

"La IA tiene un alcance definitorio fluido que ayuda a explicar su atractivo, "dijo Joyce." Es expansivo, Sin embargo, el significado no especificado permite a los promotores hacer orientaciones al futuro, empíricamente sin fundamento, promesas promesas de su potencial impacto social positivo ".

Joyce, Bell y sus colegas explican que en los últimos años, Las comunidades de programación se han centrado en gran medida en desarrollar el aprendizaje automático (ML) como una forma de IA. El término ML se usa más comúnmente entre los investigadores que el término AI, aunque AI sigue siendo el término de cara al público utilizado por las empresas, institutos, e iniciativas. "ML enfatiza la formación de sistemas informáticos para reconocer, clasificar, y predecir los resultados del análisis de conjuntos de datos existentes, "explicó Joyce.

Practicantes de IA, científicos de la computación, Los científicos e ingenieros de datos son sistemas de formación para reconocer, ordenar y predecir resultados a partir del análisis de conjuntos de datos existentes. Los seres humanos ingresan datos existentes para ayudar a capacitar a los sistemas de inteligencia artificial para que tomen decisiones autónomas. El problema aquí es que los profesionales de la IA no suelen comprender cómo los datos sobre los seres humanos casi siempre son también datos sobre la desigualdad.

"Es posible que los profesionales de la IA no sepan que los datos sobre X (p. Ej., Códigos ZIP, registros de salud, ubicación de carreteras) también pueden ser datos sobre Y (por ejemplo, clase, desigualdades de género o raza, Estatus socioeconómico), "dijo Joyce, quién es el autor principal del artículo. "Pueden pensar, por ejemplo, que los códigos postales son datos neutrales que se aplican a todas las personas por igual en lugar de comprender que los códigos postales a menudo también brindan información sobre la raza y la clase debido a la segregación. Esta falta de comprensión ha resultado en la aceleración e intensificación de las desigualdades a medida que se desarrollan e implementan los sistemas de AA ".

"Identificar correlaciones entre grupos vulnerables y oportunidades de vida, Los sistemas de IA aceptan estas correlaciones como causalidad, y utilícelos para tomar decisiones sobre las intervenciones en el futuro. De este modo, Los sistemas de IA no crean nuevos futuros, sino replicar las desigualdades duraderas que existen en un mundo social particular, "explica Joyce.

¿Está la IA en peligro por el racismo sistémico y los prejuicios humanos?

Hay políticas ligadas a algoritmos, datos y código. Considere el motor de búsqueda de Google. Aunque los resultados de búsqueda de Google pueden parecer resultados neutrales o singulares, El motor de búsqueda de Google recrea el sexismo y el racismo que se encuentran en la vida cotidiana.

"Los resultados de la búsqueda reflejan las decisiones que se toman para crear los algoritmos y los códigos, y reflejan el punto de vista de los trabajadores de Google, "explica Bell". Específicamente, sus decisiones sobre qué etiquetar como sexista o racista reflejan las estructuras sociales más amplias del racismo y el sexismo generalizados. Sucesivamente, decisiones sobre qué etiquetar como sexista o racista 'entrena' un sistema de ML. Aunque Google culpa a los usuarios por contribuir a resultados de búsqueda sexistas y racistas, la fuente se encuentra en la 'entrada' ".

Bell señala "en contraste con la neutralidad percibida de los resultados de búsqueda de Google, La opresión social y la desigualdad están arraigadas y amplificadas por ellos ".

Otro ejemplo que señalan los autores son los sistemas de inteligencia artificial que utilizan datos de los registros médicos electrónicos (HCE) de los pacientes para hacer predicciones sobre las recomendaciones de tratamiento adecuadas. Aunque los científicos e ingenieros informáticos suelen tener en cuenta la privacidad al diseñar sistemas de IA, comprender las dimensiones multivalentes de los datos humanos no suele formar parte de su formación. Dado este, pueden asumir que los datos de HCE representan un conocimiento objetivo sobre el tratamiento y los resultados, en lugar de verlo a través de una lente sociológica que reconoce cómo los datos de HCE son parciales y situados.

"Cuando se utiliza un enfoque sociológico, "Joyce explica, "Entiende que los resultados de los pacientes no son neutrales ni objetivos, están relacionados con el estado socioeconómico de los pacientes, y, a menudo, nos cuentan más sobre las diferencias de clase. racismo y otros tipos de desigualdades que la eficacia de determinados tratamientos ".

El documento señala ejemplos como un algoritmo que recomendó que los pacientes negros reciban menos atención médica que los pacientes blancos con las mismas afecciones y un informe que muestra que es menos probable que el software de reconocimiento facial reconozca a las personas de color y las mujeres mostró que la IA puede intensificar las desigualdades existentes.

"Una comprensión sociológica de los datos es importante, dado que un uso acrítico de datos humanos en sistemas sociotécnicos de IA tenderá a reproducirse, y tal vez incluso exacerbar, desigualdades sociales preexistentes, ", dijo Bell." Aunque las empresas que producen sistemas de inteligencia artificial se esconden detrás de la afirmación de que los algoritmos o los usuarios de la plataforma crean racistas, resultados sexistas, La erudición sociológica ilustra cómo la toma de decisiones humana ocurre en cada paso del proceso de codificación ".

En el papel, Los investigadores demuestran que la erudición sociológica se puede unir con otras investigaciones críticas en ciencias sociales para evitar algunos de los escollos de las aplicaciones de la IA. "Al examinar el diseño y la implementación de sistemas sociotécnicos de IA, el trabajo sociológico trae a la vista el trabajo humano y los contextos sociales, ", dijo Joyce. Sobre la base del reconocimiento de la sociología de la importancia de los contextos organizacionales en la configuración de los resultados, El documento muestra que tanto las fuentes de financiación como los contextos institucionales son impulsores clave de cómo se desarrollan y utilizan los sistemas de IA.

¿La IA requiere la orientación de la sociología? Los investigadores dicen que sí.

Joyce, Bell y sus colegas sugieren que, a pesar de los esfuerzos bien intencionados para incorporar el conocimiento sobre los mundos sociales en los sistemas sociotécnicos, Los científicos de IA continúan demostrando una comprensión limitada de lo social, dando prioridad a lo que puede ser fundamental para la ejecución de tareas de ingeniería de IA. pero borrando la complejidad y el arraigo de las desigualdades sociales.

"El enfoque profundamente estructural de la sociología también contrasta con los enfoques que destacan la elección individual, ", dijo Joyce." Uno de los tropos más omnipresentes del liberalismo político es que el cambio social es impulsado por la elección individual. Como individuales, la lógica va, podemos crear futuros más equitativos fabricando y eligiendo mejores productos, prácticas, y representantes políticos. El mundo de la tecnología tiende a mantener una perspectiva individualista similar cuando sus ingenieros y especialistas en ética enfatizan la eliminación del sesgo humano a nivel individual y la mejora del entrenamiento de la sensibilidad como una forma de abordar la desigualdad en los sistemas de IA ".

Joyce, Bell y sus colegas invitan a los sociólogos a utilizar las herramientas teóricas y metodológicas de la disciplina para analizar cuándo y cómo los sistemas de IA hacen que las desigualdades sean más duraderas. Los investigadores enfatizan que la creación de sistemas sociotécnicos de IA no es simplemente una cuestión de diseño tecnológico, pero también plantea cuestiones fundamentales sobre el poder y el orden social.

"Los sociólogos están capacitados para identificar cómo las desigualdades están arraigadas en todos los aspectos de la sociedad y para señalar las vías para el cambio social estructural. Por lo tanto, Los sociólogos deberían desempeñar un papel de liderazgo en la imaginación y la configuración del futuro de la IA, "dijo Joyce.