El cortometraje Slaughterbots describe un futuro cercano en el que enjambres de micro drones asesinan a miles de personas por sus creencias políticas. Publicado en noviembre de 2017 por académicos y activistas advirtiendo sobre los peligros de la inteligencia artificial avanzada (IA), rápidamente se volvió viral, atrayendo más de 3 millones de visitas hasta la fecha. Ayudó a iniciar un debate público sobre el futuro de las armas autónomas y presionó a los diplomáticos reunidos en la Convención de las Naciones Unidas sobre Armas Convencionales.

Pero este tipo de narración especulativa de ciencia ficción no solo es útil para llamar la atención. Las personas que diseñan y construyen tecnología avanzada pueden usar historias para considerar las consecuencias de su trabajo y asegurarse de que se use para bien. Y creemos que este tipo de "creación de prototipos de ciencia ficción" o "diseño de ficción" podría ayudar a evitar que los prejuicios humanos se abran paso hacia la nueva tecnología, afianzar aún más los prejuicios y las injusticias de la sociedad.

Un sesgo puede llevar a la preferencia arbitraria de algunas categorías (de resultados, gente, o ideas) sobre otros. Por ejemplo, algunas personas pueden tener prejuicios en contra de la contratación de mujeres para puestos ejecutivos, ya sea que sean conscientes de ello o no.

La tecnología construida alrededor de datos que registran tal sesgo puede terminar replicando el problema. Por ejemplo, El software de reclutamiento diseñado para seleccionar los mejores CV para un trabajo en particular podría programarse para buscar características que reflejen un sesgo inconsciente hacia los hombres. En ese caso, el algoritmo acabará favoreciendo los CV de los hombres. Y esto no es teórico, en realidad le sucedió a Amazon.

El diseño de algoritmos sin tener en cuenta las posibles implicaciones negativas se ha comparado con los médicos que "escriben sobre los beneficios de un tratamiento determinado e ignoran por completo los efectos secundarios". no importa lo serios que sean ".

Algunas empresas de tecnología e investigadores están tratando de abordar el problema. Por ejemplo, Google elaboró ​​un conjunto de principios éticos para guiar su desarrollo de IA. Y los académicos del Reino Unido han lanzado una iniciativa llamada Not-Equal que tiene como objetivo fomentar una mayor equidad y justicia en el diseño y uso de la tecnología.

El problema es ese, en público, las empresas tienden a ofrecer solo una visión positiva de las posibles consecuencias de las tecnologías del futuro cercano. Por ejemplo, Los automóviles sin conductor a menudo se describen como una solución a todos nuestros problemas de transporte, desde el costo hasta la seguridad, ignorando los mayores peligros de los ciberataques o el hecho de que podrían alentar a las personas a caminar o andar menos en bicicleta.

La dificultad para comprender cómo funcionan las tecnologías digitales, especialmente aquellos que están fuertemente impulsados ​​por algoritmos oscuros, también dificulta que las personas tengan una visión compleja y completa de los problemas. Esta situación produce una tensión entre una narrativa positiva tranquilizadora y la vaga sospecha de que los prejuicios están incrustados hasta cierto punto en las tecnologías que nos rodean. Aquí es donde creemos que la narración de historias a través de la ficción del diseño puede entrar en juego.

Las historias son un método natural de pensar en posibilidades y situaciones complejas, y los hemos estado escuchando toda nuestra vida. La ciencia ficción puede ayudarnos a especular sobre el impacto de las tecnologías del futuro cercano en la sociedad, como hace Slaughterbots. Esto incluso puede incluir cuestiones de justicia social, como la forma en que ciertos grupos, como refugiados y migrantes, puede excluirse de las innovaciones digitales.

Revelando el (posible) futuro

Las historias de ficción de diseño proporcionan una forma novedosa para los diseñadores, ingenieros y futuristas (entre otros) para pensar en el impacto de la tecnología desde una perspectiva humana y vincular esto con posibles necesidades futuras. Con una mezcla de lógica e imaginación, la ficción del diseño puede revelar aspectos de cómo se puede adoptar y utilizar la tecnología, iniciar conversaciones sobre sus ramificaciones futuras.

Por ejemplo, el cuento "Crime-sourcing" explora lo que podría suceder si la IA utilizara información de fuentes colaborativas y una base de datos de delincuentes para predecir quién podría cometer un asesinato. Los investigadores encontraron que debido a que la base de datos estaba llena de personas de grupos étnicos minoritarios que, por razones sociales, estadísticamente tenían más probabilidades de reincidir, era más probable que el modelo de "fuentes delictivas" sospechara erróneamente de las minorías que de los blancos.

No es necesario ser un escritor talentoso o hacer una película elegante para producir ficción de diseño. Se han utilizado actividades de lluvia de ideas que incluyen tarjetas y guiones gráficos para desarrollar la ficción de diseño y ayudar a desarrollar el proceso de narración. Hacer que los talleres que utilizan este tipo de herramientas sean más comunes permitiría a más ingenieros, empresarios y legisladores para utilizar este método de evaluación. Y hacer que el trabajo resultante esté disponible públicamente ayudaría a exponer los posibles sesgos en las tecnologías antes de que afecten a la sociedad.

Alentar a los diseñadores a crear y compartir más historias de esta manera aseguraría que la narrativa que sustenta la nueva tecnología no solo presente una imagen positiva, ni una extremadamente negativa o distópica. En lugar de, la gente podrá apreciar ambos aspectos de lo que sucede a nuestro alrededor.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.