• Home
  • Química
  • Astronomía
  • Energía
  • Naturaleza
  • Biología
  • Física
  • Electrónica
  •  science >> Ciencia >  >> Otro
    El feminismo de datos examina los problemas de prejuicio y poder que acosan a la información moderna

    Crédito:Diana Levine y MIT Press

    Suponga que le gustaría conocer las tasas de mortalidad de las mujeres durante el parto, por país, alrededor del mundo. ¿Dónde buscarías? Una opción es el proyecto WomanStats, el sitio web de un esfuerzo de investigación académica que investiga los vínculos entre la seguridad y las actividades de los estados-nación, y la seguridad de las mujeres que viven en ellos.

    El proyecto, fundada en 2001, satisface una necesidad mediante el parcheo de datos de todo el mundo. Muchos países son indiferentes a la recopilación de estadísticas sobre la vida de las mujeres. Pero incluso cuando los países se esfuerzan más por recopilar datos, existen claros desafíos para llegar a cifras útiles, ya sea en lo que respecta a la seguridad física de las mujeres, derechos de propiedad, y participación del gobierno, entre muchas otras cuestiones.

    Por ejemplo:en algunos países, Las violaciones de los derechos de las mujeres pueden denunciarse con mayor frecuencia que en otros lugares. Eso significa que un sistema legal más receptivo puede crear la apariencia de problemas mayores, cuando proporciona relativamente más apoyo a las mujeres. El Proyecto WomanStats señala muchas de estas complicaciones.

    Así, el WomanStats Project ofrece algunas respuestas, por ejemplo, Australia, Canadá, y gran parte de Europa occidental tiene bajas tasas de mortalidad durante el parto, al tiempo que muestra los desafíos para tomar las cifras al pie de la letra. Esta, según la profesora del MIT Catherine D'Ignazio, hace que el sitio sea inusual, y valioso.

    "Los datos nunca hablan por sí mismos, "dice D'Ignazio, refiriéndose al problema general de encontrar cifras fiables sobre la vida de las mujeres. "Siempre hay personas e instituciones que hablan por los datos, y diferentes personas tienen sus propias agendas. Los datos nunca son inocentes ".

    Ahora D'Ignazio, profesor asistente en el Departamento de Estudios Urbanos y Planificación del MIT, ha profundizado en este tema en un nuevo libro, en coautoría con Lauren Klein, profesor asociado de inglés y teoría y métodos cuantitativos en la Universidad de Emory. En el libro, "Feminismo de datos, "publicado este mes por MIT Press, los autores utilizan la lente del feminismo interseccional para analizar cómo la ciencia de datos refleja las estructuras sociales de las que emerge.

    "El feminismo interseccional examina el poder desigual, "escriben D'Ignazio y Klein, en la introducción del libro. "Y en nuestro mundo contemporáneo, los datos también son poder. Debido a que el poder de los datos se ejerce injustamente, debe ser desafiado y cambiado ".

    El problema del 4 por ciento

    Para ver un caso claro de relaciones de poder que generan datos sesgados, Nota de D'Ignazio y Klein, considere la investigación dirigida por Joy Buolamwini del MIT, quien como estudiante de posgrado en una clase que estudia programas de reconocimiento facial, observó que el software en cuestión no podía "ver" su rostro. Buolamwini descubrió que para el sistema de reconocimiento facial en cuestión, el software se basó en un conjunto de caras que eran 78 por ciento masculinas y 84 por ciento blancas; solo el 4 por ciento eran mujeres y de piel oscura, como ella misma.

    La subsiguiente cobertura mediática del trabajo de Buolamwini, D'Ignazio y Klein escriben:contenía "una pizca de conmoción". Pero los resultados probablemente fueron menos sorprendentes para aquellos que no son hombres blancos, ellos piensan.

    "Si el pasado es racista, opresivo, sexista, y sesgado, y esos son tus datos de entrenamiento, eso es lo que estás sintonizando, "D'Ignazio dice.

    O considere otro ejemplo, del gigante tecnológico Amazon, que probó un sistema automatizado que usaba inteligencia artificial para clasificar los currículums prometedores enviados por los solicitantes de empleo. Un problema:dado que un alto porcentaje de los empleados de la empresa eran hombres, el algoritmo favorecía los nombres de los hombres, siendo el resto de las cosas iguales.

    "Pensaron que esto ayudaría [al] proceso, pero, por supuesto, lo que hace es entrenar al [sistema] de IA para que esté sesgado hacia las mujeres, porque ellos mismos no han contratado a tantas mujeres, "D'Ignazio observa.

    Para crédito de Amazon, reconoció el problema. Es más, D'Ignazio señala, este tipo de problema es un problema que se puede abordar. "Algunas de las tecnologías se pueden reformar con un proceso más participativo, o mejores datos de entrenamiento. … Si estamos de acuerdo en que es un buen objetivo, un camino a seguir es ajustar su conjunto de entrenamiento e incluir a más personas de color, más mujeres."

    "¿Quién está en el equipo? ¿Quién tuvo la idea? ¿Quién se beneficia?"

    Todavía, la cuestión de quién participa en la ciencia de datos es, como escriben los autores, "el elefante en la sala de servidores". A partir de 2011, solo el 26 por ciento de todos los estudiantes universitarios que recibieron títulos en ciencias de la computación en los EE. UU. eran mujeres. Eso no es solo una cifra baja, pero en realidad una disminución de los niveles anteriores:en 1985, El 37 por ciento de los graduados en ciencias de la computación eran mujeres, la nota más alta registrada.

    Como resultado de la falta de diversidad en el campo, D'Ignazio y Klein creen, muchos proyectos de datos están radicalmente limitados en su capacidad para ver todas las facetas de las complejas situaciones sociales que pretenden medir.

    "Queremos tratar de sintonizar a las personas con este tipo de relaciones de poder y por qué son tan importantes. "D'Ignazio dice." ¿Quién está en el equipo? ¿Quién tuvo la idea? ¿Quién se beneficia del proyecto? ¿Quién se ve potencialmente perjudicado por el proyecto? "

    En todo, D'Ignazio y Klein describen siete principios del feminismo de datos, de examinar y desafiar el poder, a repensar los sistemas binarios y las jerarquías, y abrazar el pluralismo. (Esas estadísticas sobre los graduados en ciencias de la computación y género son limitadas, ellos notan, al usar solo las categorías "masculino" y "femenino", excluyendo así a las personas que se identifican en términos diferentes).

    Personas interesadas en el feminismo de datos, los autores afirman, también debería "valorar múltiples formas de conocimiento, "incluido el conocimiento de primera mano que puede llevarnos a cuestionar datos aparentemente oficiales. Además, siempre deben considerar el contexto en el que se generan los datos, y "hacer visible el trabajo" cuando se trata de ciencia de datos. Este último principio, los investigadores señalan, habla del problema de que incluso cuando las mujeres y otras personas excluidas contribuyen a los proyectos de datos, a menudo reciben menos crédito por su trabajo.

    Para toda la crítica del libro a los sistemas existentes, programas, y practicas, D'Ignazio y Klein también tienen cuidado de incluir ejemplos de positivos, esfuerzos exitosos, como el proyecto WomanStats, que ha crecido y prosperado durante dos décadas.

    "Para las personas que son personas de datos pero que son nuevas en el feminismo, queremos ofrecerles una introducción muy accesible, y darles conceptos y herramientas que puedan utilizar en su práctica, "D'Ignazio dice." No estamos imaginando que la gente ya tiene el feminismo en su caja de herramientas. Por otra parte, estamos tratando de hablar con personas que están muy sintonizadas con los principios del feminismo o la justicia social, y destacar para ellos las formas en que la ciencia de datos es problemática, pero se puede poner al servicio de la justicia ".

    Esta historia se vuelve a publicar por cortesía de MIT News (web.mit.edu/newsoffice/), un sitio popular que cubre noticias sobre la investigación del MIT, innovación y docencia.




    © Ciencia http://es.scienceaq.com