Si el reciente escándalo de datos de Cambridge Analytica nos ha enseñado algo, es que las culturas éticas de nuestras firmas tecnológicas más grandes necesitan un escrutinio más riguroso.

Pero las cuestiones morales sobre qué datos deben recopilarse y cómo deben usarse son solo el comienzo. Plantean preguntas más amplias sobre quién puede tomar esas decisiones en primer lugar.

Actualmente tenemos un sistema en el que el poder sobre el uso juicioso y ético de los datos se concentra abrumadoramente entre los hombres blancos. La investigación muestra que los prejuicios inconscientes que surgen de la educación y las experiencias de una persona pueden incorporarse a la tecnología, resultando en consecuencias negativas para los grupos minoritarios.

Estos sesgos son difíciles de eliminar, lo que hace que la diversidad en el lugar de trabajo sea una herramienta poderosa y necesaria para detectar sesgos insospechados antes de que tengan la oportunidad de causar daños. A medida que el impacto de las decisiones y los algoritmos basados ​​en datos se hace más profundo, debemos preguntarnos:¿cómo va a cambiar esto en el futuro?

Desafortunadamente, los indicadores sugieren que la respuesta es:no mucho.

¿De qué consecuencias estamos hablando?

El sesgo algorítmico es ahora un problema ampliamente estudiado que se refiere a cómo los sesgos humanos se infiltran en las decisiones que toman las computadoras.

El problema ha llevado a traducciones de idiomas diferenciadas por género, recomendaciones de sentencia penal sesgadas, y sistemas de reconocimiento facial racialmente sesgados.

Por ejemplo, cuando se requiere una herramienta de traducción automática como Google Translate para traducir un idioma de género neutro (como el turco) a uno específico de género (como el inglés), se adivina qué género asignar al texto traducido.

La gente notó que Google Translate mostraba una tendencia a asignar pronombres de género femeninos a ciertos trabajos y pronombres masculinos a otros - "ella es una niñera" o "él es un médico" - de una manera que apestaba a sexismo. Google Translate basa su decisión sobre qué género asignar a un trabajo en particular en los datos de capacitación de los que aprende. En este caso, está recogiendo el sesgo de género que ya existe en el mundo y retroalimentándonos.

Si queremos asegurarnos de que los algoritmos no perpetúen ni refuercen los sesgos existentes, debemos tener cuidado con los datos que usamos para entrenar algoritmos. Pero si sostenemos la opinión de que es más probable que las mujeres sean niñeras y que los hombres sean médicos, entonces es posible que ni siquiera notemos (y corrijamos) datos sesgados en las herramientas que creamos.

Así que importa quién escribe el código porque el código define el algoritmo, que hace el juicio sobre la base de los datos.

¿Quién tiene el poder?

Hace solo diez años, los primeros teléfonos inteligentes estaban dejando su huella. Hoy en día, algunas de las personas más poderosas del planeta son las que controlan los datos recopilados a través de tecnologías móviles.

Los datos son fundamentales para el funcionamiento del mundo moderno. Y poder sobre los negocios La democracia y la educación probablemente seguirán estando en los datos y las herramientas dependientes de los datos, como el aprendizaje automático y la inteligencia artificial.

En la actualidad, las personas que tienen el poder de tomar decisiones éticas sobre el uso de datos suelen ser hombres blancos de altos ingresos, familias bien educadas.

Una empresa de investigación, Microfono abierto, que se describe a sí mismo como "invertir en la diversidad racial en el mundo tecnológico", revisó datos de algunas de las firmas de tecnología más grandes y encontró un patrón consistente:porcentajes desproporcionados de empleados blancos en comparación con la población activa en general.

La fuerza laboral de Adobe es 69% blanca, Apple's es 56% blanco, Google es 59% blanco y Microsoft 58% blanco. La lista continúa:"Los negros, Latinos y los nativos americanos están subrepresentados en tecnología de 16 a 18 puntos porcentuales en comparación con su presencia en la fuerza laboral estadounidense en general ".

Esto se ve agravado por una abrumadora falta de diversidad de género.

En un informe de Microsoft de 2017, una encuesta a líderes tecnológicos y de TI del Reino Unido encontró que, en promedio, la mezcla de género entre sus equipos era 80% masculina y 20% femenina. Un asombroso 35% de los encuestados no tenía planes para cambiar este desequilibrio.

Los números son similares en Australia, según un estudio de perfiles profesionales australianos en la red social LinkedIn.

Reveló que solo el 14% de los puestos ejecutivos en la industria tecnológica local estaban ocupados por mujeres. De los 435, 000 personas en TI que figuran en LinkedIn en Australia, sólo el 31% eran mujeres. Incluso estos números pueden ser optimistas, según el científico jefe de Australia, Alan Finkel, quien señaló que las mujeres representan menos de una quinta parte de los australianos calificados en ciencias, tecnología, ingeniería y matemáticas.

¿Cambiará esto?

Los que probablemente se encargarán de desarrollar los algoritmos del futuro son los que están estudiando informática y ciencias matemáticas en este momento. Desafortunadamente, los grupos que dominan esas materias en las escuelas y universidades reflejan en gran medida la fuerza laboral actual.

Los estudiantes nacionales australianos matriculados en tecnología de la información de nivel terciario cayeron de un máximo de 46, 945 en 2002 a 27, 547 en 2013. Si bien las cifras han mejorado ligeramente según los rankings universitarios de AEN, las mujeres en ingeniería y TI todavía representan menos de uno de cada cinco estudiantes.

Mientras tanto, el número de niñas en el nivel de la escuela secundaria superior que toman las asignaturas avanzadas de computación y matemáticas necesarias para ingresar a estos roles sigue siendo decididamente bajo.

Este barco está tardando mucho en dar la vuelta.

¿Qué podemos hacer al respecto?

Si los codificadores del futuro son los chicos de clase media de hoy, ¿Cómo los estamos preparando para tomar decisiones éticas imparciales cuando se conviertan en los Zuckerberg del mañana? ¿Y cómo podemos dirigir el barco para que la riqueza y el poder que seguirán fluyendo del dominio de tales habilidades técnicas no se les niegue a aquellos que no son blancos y varones?

Nuestro sistema educativo, sin saberlo, está permitiendo que los niños se capaciten como personas técnicas sin las habilidades para poner su trabajo en un contexto social. y permitir que las niñas hagan lo contrario.

En efecto, mientras que muchas de las mujeres jóvenes más inteligentes eligen estudiar medicina o derecho, estas profesiones son vulnerables al avance de la inteligencia artificial:asistentes legales, radiólogos, y los que realizan diagnósticos preliminares.

Estamos en una estructura en la que los mismos viejos desequilibrios se están fortaleciendo y parecen persistir. Pero esta no es la forma en que debería ser. A menos que enfrentemos la cultura a través de grandes cambios en las tendencias educativas, nada cambiará.

Este artículo se publicó originalmente en The Conversation. Lea el artículo original.