Mostrar prejuicios hacia los demás no requiere un alto nivel de capacidad cognitiva y podría ser exhibido fácilmente por máquinas artificialmente inteligentes. ha sugerido una nueva investigación.

Expertos en informática y psicología de la Universidad de Cardiff y el MIT han demostrado que grupos de máquinas autónomas podrían demostrar prejuicios simplemente identificando, copiando y aprendiendo este comportamiento unos de otros.

Puede parecer que el prejuicio es un fenómeno humano específico que requiere la cognición humana para formarse una opinión de, o al estereotipo, una determinada persona o grupo.

Aunque algunos tipos de algoritmos informáticos ya han mostrado prejuicios, como el racismo y el sexismo, basado en el aprendizaje de registros públicos y otros datos generados por humanos, Este nuevo trabajo demuestra la posibilidad de que AI desarrolle grupos perjudiciales por sí mismos.

Los nuevos hallazgos, que han sido publicados en la revista Informes científicos , se basan en simulaciones por computadora de cómo individuos con prejuicios similares, o agentes virtuales, Pueden formar un grupo e interactuar entre sí.

En un juego de dar y recibir cada individuo toma una decisión sobre si donar a alguien dentro de su propio grupo o en un grupo diferente, basado en la reputación de un individuo, así como en su propia estrategia de donación, que incluye sus niveles de prejuicio hacia los forasteros.

A medida que se desarrolla el juego y una supercomputadora acumula miles de simulaciones, cada individuo comienza a aprender nuevas estrategias copiando a otros, ya sea dentro de su propio grupo o de toda la población.

Coautor del estudio Profesor Roger Whitaker, del Instituto de Investigación sobre Seguridad y Crimen de la Universidad de Cardiff y de la Facultad de Ciencias de la Computación e Informática, dijo:"Al ejecutar estas simulaciones miles y miles de veces, comenzamos a comprender cómo evoluciona el prejuicio y las condiciones que lo promueven o lo impiden.

"Nuestras simulaciones muestran que el prejuicio es una fuerza poderosa de la naturaleza y, a través de la evolución, se puede incentivar fácilmente en poblaciones virtuales, en detrimento de una mayor conectividad con otros. La protección contra grupos perjudiciales puede llevar inadvertidamente a que las personas formen más grupos perjudiciales, resultando en una población fracturada. Un prejuicio tan generalizado es difícil de revertir ".

Los hallazgos involucran a individuos que actualizan sus niveles de prejuicio copiando preferentemente a aquellos que obtienen una mayor recompensa a corto plazo, lo que significa que estas decisiones no requieren necesariamente habilidades cognitivas avanzadas.

“Es factible que máquinas autónomas con capacidad para identificarse con discriminación y copiar a otras puedan en un futuro ser susceptibles a los fenómenos perjudiciales que vemos en la población humana, "El profesor Whitaker continuó.

"Muchos de los desarrollos de IA que estamos viendo implican autonomía y autocontrol, lo que significa que el comportamiento de los dispositivos también está influenciado por otras personas que los rodean. Los vehículos y la Internet de las cosas son dos ejemplos recientes. Nuestro estudio proporciona una visión teórica en la que los agentes simulados recurren periódicamente a otros para obtener algún tipo de recurso ".

Otro hallazgo interesante del estudio fue que, en condiciones particulares, que incluyen subpoblaciones más distintas que están presentes dentro de una población, era más difícil que los prejuicios se arraigaran.

"Con un mayor número de subpoblaciones, las alianzas de grupos no perjudiciales pueden cooperar sin ser explotados. Esto también disminuye su condición de minoría, reduciendo la susceptibilidad a que los prejuicios se arraiguen. Sin embargo, esto también requiere circunstancias en las que los agentes tengan una mayor disposición a interactuar fuera de su grupo, "Concluyó el profesor Whitaker.