Un agente impulsado por el valor. Crédito:Anderson, Anderson y Berenz.
Un equipo de investigadores de la Universidad de Hartford, la Universidad de Connecticut, y el Instituto Max Planck de Sistemas Inteligentes han propuesto recientemente un paradigma de comportamiento basado en principios para garantizar el comportamiento ético de las máquinas autónomas. Su papel publicado en Actas del IEEE , sostiene que el comportamiento éticamente significativo de los sistemas autónomos debe estar guiado por principios éticos explícitos, determinada a través de un consenso de especialistas en ética.
"Este año marca el 50 aniversario de la película 2001:una odisea espacial , "Michael Anderson, uno de los investigadores que llevó a cabo el estudio le dijo a TechXplore. "Mientras leo La realización de 2001:una odisea del espacio a la vuelta del siglo, Me sorprendió que gran parte de la capacidad de HAL había perdido su aura de ciencia ficción y estaba a punto de realizarse. También me sorprendió que se hubieran equivocado tanto en la ética:si HAL estaba a la vuelta de la esquina, era hora de corregir la ética ".
Anderson y sus colegas han estado trabajando para descubrir principios éticos que pueden incorporarse en máquinas que funcionan de forma autónoma. como parte de un proyecto llamado Machine Ethics. Creen que el comportamiento de la inteligencia artificial debe guiarse por principios éticos. Estos principios, determinada por un consenso de éticos, no solo debe ayudar a garantizar el comportamiento ético de sistemas complejos y dinámicos, pero también sirven de base para justificar este comportamiento.
Los investigadores desarrollaron un extensible, paradigma general de comportamiento basado en principios y fundamentado en casos llamado CPB. En este paradigma, un sistema autónomo decide su próxima acción utilizando un principio abstraído de los casos para los cuales los especialistas en ética han acordado la acción correcta a emprender.
Sitio web de ética de la máquina. Crédito:Anderson, Anderson y Berenz.
"CPB utiliza el aprendizaje automático para abstraer un principio de preferencia ética de las características éticamente relevantes de casos particulares de dilemas éticos, donde la opción éticamente preferible es clara, "Anderson explicó." Un sistema puede utilizar ese principio para determinar la acción éticamente preferible en cualquier momento dado ".
El paradigma representa explícitamente estos principios para que también puedan ayudar a justificar las acciones de un sistema autónomo. En otras palabras, CPB puede ayudar a lograr una mejor comprensión del comportamiento de un robot, ofreciendo explicaciones lógicas de por qué eligió actuar de una manera particular.
"Cuando intentábamos determinar cómo sabría el robot que se encontraba en una situación en la que debería actuar su ética, nos dimos cuenta de que siempre estaba en ese estado:la ética no se trata simplemente de no elegir acciones incorrectas, se trata de elegir cuál de todas sus acciones es éticamente preferible en la situación dada, "Anderson dijo." Dado esto, CPB se compromete a determinar acciones éticamente preferibles en cualquier situación, y lo hace cada vez que cambia la situación ".
Medicina nao. Crédito:Anderson, Anderson y Berenz.
El objetivo final del estudio fue determinar las características y deberes éticamente relevantes en el campo del cuidado de ancianos, Identificar principios que puedan guiar el comportamiento de los robots para el cuidado de ancianos. Sin embargo, el mismo paradigma también se puede aplicar a los robots que operan en otros dominios. En el futuro, también podría proporcionar una guía ética para sistemas distintos de los robots, como agentes sanitarios virtuales.
"Abogamos por un enfoque ético del deber prima facie, donde cualquier deber puede prevalecer sobre otro dependiendo de la situación, Anderson dijo. En otras palabras, no hay una jerarquía estricta como la hay, decir, en las leyes de Asimov. En el futuro, creemos que nuestro esquema de representación de funciones / funciones será útil para captar la esencia de todos los dilemas éticos ".
La contribución de Vincent Berenz al proyecto, Juguetón, publicado recientemente en Robótica y automatización IEEE , permite un comportamiento reactivo e interrumpible en robots. Este comportamiento es fundamental para que el robot responda adecuadamente a las preocupaciones éticas en constante cambio.
Vincent Berenz y TIAGo. Crédito:Anderson, Anderson y Berenz.
"Creemos que los especialistas en ética obtienen una experiencia que se obtiene al pensar detenidamente en la ética, ", Dijo Anderson." No estamos diciendo que necesariamente se comporten mejor ellos mismos, ser ético es difícil para todos, pero que comprenden mejor lo que se debe hacer y están en mejores condiciones de defender estos juicios que los laicos. Este pensamiento cuidadoso aplicado a casos simples puede ser útil para tomar determinaciones sobre casos más difíciles que exhiben las mismas características éticamente relevantes ".
En el futuro, paradigmas como CPB podrían garantizar que los robots y las máquinas inteligentes tomen decisiones éticas consistentes, al mismo tiempo que permite a los humanos comprender mejor sus elecciones. Los investigadores ahora están trabajando para ampliar el alcance de su trabajo, para abordar una variedad más amplia de problemas éticos.
"Estamos planeando ampliar nuestra investigación, agregar más acciones y considerar características más éticamente relevantes con el fin de desarrollar un principio ético que pueda usarse para dirigir el comportamiento de todos los futuros robots de cuidado de ancianos, Anderson dijo. "Probaremos estas nuevas ideas en un robot PAL Robotics TIAGo".
© 2018 Science X Network
