Digamos que 100 personas viven cerca de un lago. Si al menos 10 de ellos sobrepescan este año, toda la población de peces se extinguirá. Cada uno asume que al menos otros 10 pescarán en exceso, y no quedará nada para pescar en los próximos años.

Dado que el pez se habrá ido de todos modos, todos deciden que también pueden pescar en exceso. Todos los peces mueren. ¿Toda la gente merece culpa?

Depende de si podrían haberse coordinado entre sí para cambiar el resultado y el costo de hacerlo, según una nueva investigación de Joseph Halpern, el Profesor Joseph C. Ford de Ingeniería, y Meir Friedenberg, estudiante de doctorado en informática. Sobre la base del trabajo fundamental de Halpern sobre la causalidad, desarrollaron un modelo matemático para calcular la culpabilidad en una escala de cero a uno.

La investigación, situada en la intersección de la informática, Filosofía y psicología cognitiva:potencialmente podría usarse para guiar el comportamiento de agentes artificialmente inteligentes, como los vehículos sin conductor, para ayudarlos a comportarse de una manera "moral".

"Una de las cosas que realmente queríamos hacer es brindar un marco que nos permita aplicar este tipo de nociones legales y filosóficas a los sistemas autónomos, "dijo Friedenberg, primer autor de "Blameworthiness in Multi-Agent Settings, "que se presentó en la Conferencia AAAI sobre Inteligencia Artificial de 2019 en febrero. Creemos que eso será importante si vamos a integrar de manera efectiva los sistemas autónomos en la sociedad".

En trabajos anteriores, Halpern y sus colegas definieron la culpabilidad de las personas aproximadamente como la medida en que creen que sus acciones podrían cambiar el resultado de un evento. Por ejemplo, si votó en contra de un candidato que creía que perdería por un solo voto, tu culpabilidad sería una, el maximo; pero si creyeras que el candidato perdería por miles de votos, tu culpabilidad sería mucho menor.

En el artículo reciente, Friedenberg y Halpern dieron primero una definición de la culpabilidad de un grupo, esencialmente, una medida del grado en que el grupo podría haberse coordinado para producir un resultado diferente. Luego crearon un modelo para repartir la culpabilidad del grupo a los miembros individuales.

"Si miras al grupo de pescadores, como grupo son responsables, obviamente, si no pescaran todos, habría suficiente para el próximo año, "Dijo Halpern." La medida en que los pescadores son responsables es la medida en que podrían coordinarse para lograr un resultado diferente ".

Los investigadores capturaron esto midiendo la capacidad de los miembros del grupo para trabajar juntos para cambiar el resultado, teniendo en cuenta el costo de hacerlo. El costo es un factor crítico en la culpabilidad:alguien que derriba un jarrón caro mientras huye de un león es menos culpable que alguien que simplemente no está prestando atención. Si su voto cambia una elección, usted es menos culpable si alguien amenaza con matarlo a menos que vote de cierta manera.

En el trabajo futuro, Halpern dijo que espera probar el modelo preguntando a la gente:a través de crowdsourcing, atribuir culpabilidad en varios escenarios, y comparar sus opiniones con los resultados numéricos.

Cuando se trata de coches autónomos, los desarrolladores o formuladores de políticas podrían considerar sus propias definiciones de costo al crear sus algoritmos, Dijo Halpern. Por ejemplo, si un gobierno decide que ningún grado de riesgo es aceptable, un coche estaría diseñado para no rebasar nunca a otro coche, ya que eso puede aumentar la posibilidad de un accidente.

Aunque puede ser difícil determinar cómo toman decisiones los algoritmos de aprendizaje automático, puede ser posible desarrollar algoritmos más transparentes que permitan una evaluación más fácil de la culpabilidad.

"La ventaja de nuestro marco es que le brinda una forma formal de pensar en estas cosas y modelarlas, y le obliga a ser explícito sobre sus suposiciones y cómo está definiendo los costos, ", Dijo Halpern." Nuestra definición intenta ser cuantitativa, porque te guste o lo agrupes tienes que hacer concesiones, y esta definición te obliga a pensar en eso. Es una herramienta para ayudar a las personas a pensar en las compensaciones sin decirles cuáles deberían ser las compensaciones ".