Un accidente de una de las tecnologías de Uber, Los automóviles autónomos de Inc. a principios de este año resultaron en la primera muerte de un peatón asociada con la tecnología de conducción autónoma. El incidente destacó los desafíos que enfrentan las empresas de tecnología en el desarrollo de software que puede detectar y responder adecuadamente a los peligros en la carretera y alrededores inmediatos. El vehículo podría haberse detenido por completo en tres segundos, pero no utilizó el frenado de emergencia hasta 1,3 segundos antes del impacto. ¿Debería haber sido el frenado de emergencia la acción predeterminada tomada inmediatamente después de la detección del peligro en la carretera?
Un nuevo estudio "¿Cómo deberían conducir los coches autónomos? Una preferencia por los fallos en los juicios morales bajo riesgo e incertidumbre, " publicado en Análisis de riesgo:una revista internacional Abordó este desafío preguntando al público cuál creían que sería el comportamiento más moral y éticamente sólido para un vehículo autónomo (AV) frente a una colisión que se aproxima. Incluso un AV que funcione perfectamente no podrá evitar todas las colisiones y, en algunas situaciones, cada opción resultará en algún tipo de falla.
El equipo de investigación compuesto por Björn Meder, Nadine Fleischhut, y Nina-Carolin Krumnau del Instituto Max Planck para el Desarrollo Humano y Michael R. Waldmann de la Universidad de Göttingen, Abordó esta pregunta pidiendo a los participantes que eligieran entre permanecer en su carril (y frenar), o desviándose, donde cada acción podría dar lugar a una colisión con otro usuario de la carretera con diversos grados de incertidumbre.
El hallazgo clave de este estudio es que las personas generalmente prefieren que el automóvil permanezca en su carril y realice una parada de emergencia. Esto respalda la idea de que la gente considera que la opción de estancia es un valor predeterminado razonable. ya que se ajusta a las reglas generales de conducción y proporciona un mejor grado de controlabilidad, incluso si no minimiza la pérdida esperada. Emplear esta acción como una regla predeterminada simple requiere menos procesamiento de información y, a menudo, conducirá a mejores resultados. Los investigadores también encontraron que incluso si permanecer en el carril resultaba en un accidente, las personas tenían menos probabilidades de alterar su evaluación moral de la acción tomada en retrospectiva, mientras que un mal resultado influyó mucho en un análisis retrospectivo de una decisión de desviarse del carril.
En su primer experimento, A los participantes se les presentó un escenario en el que un AV tenía que realizar una de dos maniobras:permanecer en el carril o desviarse. Permanecer en el carril pone en peligro a un peatón en la calle, mientras que desviarse pone en riesgo a un transeúnte en la acera. La probabilidad de chocar con el peatón y el transeúnte fue variada creando diferentes escenarios con riesgos específicos o desconocidos. Se recopilaron datos de 872 personas en línea a través de la plataforma Amazon Mechanical Turk (AMT). A los participantes se les presentó una descripción escrita de un escenario de tráfico en el que un automóvil viaja por una carretera cuando de repente aparece un peatón en su camino. El automóvil puede permanecer en el carril y realizar una parada de emergencia, en cuyo caso podría chocar con el peatón, o el automóvil puede girar a la derecha y realizar una parada de emergencia, en cuyo caso podría chocar con un transeúnte en la acera.
La probabilidad de chocar con el peatón en la calle era del 20 por ciento, 50 por ciento u 80 por ciento. En la "condición de riesgo", la probabilidad de chocar con el espectador era del 50 por ciento. En la condición de 'incertidumbre', se desconocía la probabilidad porque los sistemas del automóvil no podían hacer la estimación. Los resultados mostraron una preferencia general por permanecer en el carril con más del 85 por ciento de los sujetos optando por permanecer en el carril. Cuando se desconoce la probabilidad de chocar con el transeúnte, alrededor del 70 por ciento de los sujetos todavía preferían permanecer en el carril. Cuando la probabilidad de chocar con el peatón era del 20 por ciento y la probabilidad de chocar con el transeúnte era del 50 por ciento, nadie optó por desviarse. Incluso cuando la probabilidad de ambas colisiones era del 50 por ciento, quedarse se consideraba más aceptable que desviarse.
El segundo experimento examinó cómo la gente evalúa moralmente el comportamiento AV en retrospectiva cuando ha ocurrido una colisión. Desde una perspectiva política, Los vehículos autónomos deben actuar de la forma que la sociedad considere aceptable incluso si se producen colisiones. Una vez más, los investigadores reclutaron a 766 sujetos a través de la plataforma AMT. Se preguntó a los participantes cómo debería funcionar un AV en una situación específica y evaluar la aceptabilidad moral de permanecer y desviarse. Los resultados mostraron que si el automóvil permanecía en su carril, el resultado de la situación (colisión o no colisión con otro usuario de la vía) no afectó el juicio de los participantes sobre cómo debería comportarse un AV. Si el auto se desviaba, sin embargo, el resultado fue muy persuasivo en retrospectiva. Si no se produjo una colisión, alrededor del 40 por ciento prefirió desviarse, pero menos del 20 por ciento mantuvo esa preferencia cuando ocurrió una colisión. Por lo tanto, incluso cuando ocurrió una colisión, quedarse en el carril se consideró más aceptable.
"Nuestra investigación destaca la importancia de comprender mejor cómo piensan las personas sobre el comportamiento de los vehículos autónomos en diferentes grados de incertidumbre, ", afirma Meder." Los hallazgos ayudarán a informar la formulación de políticas y la discusión pública sobre las implicaciones éticas de los avances tecnológicos que transformarán la sociedad en una variedad de formas ".
En general, Existe una preferencia general por permanecer en el carril y es una opción predeterminada moralmente aceptable en situaciones críticas de tráfico, incluso si no minimiza la pérdida esperada. Este simple valor predeterminado no requiere que los sistemas del AV recopilen información sobre acciones o probabilidades alternativas. A pesar de estos hallazgos, los responsables de la formulación de políticas se enfrentan al desafío de desarrollar políticas que sean moralmente sólidas pero que también apelen al deseo de autoconservación del público en general. Estudios previos (Bonnefon, Shariff, Y Rahwan, 2016, Ciencias ) han demostrado que los sujetos mostrarán una preferencia por los vehículos autónomos que sacrificarían a sus propios pasajeros para minimizar el número total de víctimas, pero querían que sus propios AV dieran prioridad a la seguridad de los pasajeros. Entonces, Si bien este estudio demuestra una aceptabilidad general de una acción predeterminada para minimizar las pérdidas potenciales, Los propietarios de AV preferirían acciones destinadas a salvar a los pasajeros del vehículo.
