Imagina un mundo donde los humanos coexistieran con seres que, como nosotros, tenía mentes, pensamientos, sentimientos, conciencia de sí mismo y la capacidad de realizar acciones con un propósito, pero, a diferencia de nosotros, estos seres tenían cuerpos mecánicos artificiales que podían encenderse y apagarse.

Ese nuevo mundo valiente plantearía muchos problemas a medida que nos reconciliáramos con nuestros homólogos de robots como parte integral de la vida cotidiana. ¿Cómo debemos comportarnos con ellos? ¿Qué deberes morales tendríamos? ¿Qué derechos morales tendrían esas personas no humanas? ¿Sería moralmente permisible intentar frustrar su aparición? ¿O tendríamos el deber de promover y fomentar su existencia?

Cuestiones éticas intrigantes como estas se plantean en la reciente novela de Ian McEwan, Máquinas como yo, en el que Alan Turing vive una vida larga y exitosa e impulsa explosivamente el desarrollo de la inteligencia artificial (IA) que conduce a la creación de "un humano fabricado con inteligencia y apariencia plausibles, movimiento creíble y cambios de expresión ".

Como especulación intelectual, considerar la ética del tratamiento de lo racional, máquinas sensibles es interesante. Pero dos argumentos comunes podrían sugerir que el asunto no tiene relevancia práctica y que no es necesario tomar en serio las cuestiones éticas.

La primera es que esas personas artificiales no podrían existir. El segundo, a menudo planteada en el debate sobre el aborto, es que solo las personas que tienen cuerpos humanos vivos e independientemente viables tienen el debido respeto moral y son dignas de consideración moral. Como ya veremos, estos argumentos son discutibles.

Mente, materia y propiedades emergentes

Podríamos suponer que los fenómenos mentales, la conciencia, pensamientos, sentimientos y así sucesivamente, son de alguna manera diferentes de las cosas que constituyen las computadoras y otras máquinas fabricadas por humanos. Y podríamos suponer que los cerebros materiales y las máquinas materiales son fundamentalmente diferentes de las mentes conscientes. Pero si tales suposiciones son verdaderas o no, y creo que lo son, no se sigue que el sensible, conscientemente consciente, las personas producidas artificialmente no son posibles.

El sociólogo francés Emile Durkheim ha argumentado de manera muy convincente que debemos tener cuidado con los argumentos simplistas en las ciencias sociales. Fenómeno social, como el idioma, no podría existir sin la interacción de los seres humanos individuales con sus características psicológicas y biológicas particulares. Pero de ello no se sigue que los fenómenos sociales resultantes —o las "propiedades emergentes" puedan explicarse completa y correctamente únicamente en términos de estas características.

El mismo punto sobre la posibilidad de propiedades emergentes se aplica a todas las ciencias. No podría haber por ejemplo, Computadoras del tipo en las que estoy trabajando ahora sin los pedazos de plástico, cables chips de silicio y demás que componen la máquina. Todavía, las operaciones de una computadora no se pueden explicar únicamente en términos de las características de estos componentes individuales. Una vez que estos componentes se combinan e interactúan de formas particulares con la electricidad, surge un fenómeno de un nuevo tipo:una computadora. Similar, una vez que las computadoras se combinan e interactúan de formas particulares, se crea internet. Pero claramente Internet es un fenómeno diferente al tangible, computadora física.

En una forma similar, no necesitamos suponer que las mentes son reducibles a cerebros, moléculas, átomos o cualquier otro elemento físico necesario para su funcionamiento. Pueden ser entidades de un tipo diferente que surgen de interacciones particulares y combinaciones de ellas.

No hay ninguna razón lógica obvia por la que la conciencia del tipo que poseen los seres humanos —la capacidad de pensar y tomar decisiones— no pueda aparecer algún día en una máquina humana. Si es físicamente posible y, por lo tanto, es probable que suceda, está abierto a debate.

¿Las máquinas merecen nuestra consideración?

No parece controvertido decir que no deberíamos difamar a las personas muertas o destruir sin sentido el planeta para que las generaciones futuras de personas por nacer no puedan disfrutarlo como lo hemos hecho nosotros. Ambos grupos tienen el debido respeto moral y consideración. Deben considerarse como posibles objetos de nuestros deberes morales y como posibles destinatarios de nuestra benevolencia.

Pero los muertos y los que aún no han nacido no tienen cuerpos viables de ningún tipo, ya sean naturales o artificiales. Negar a las personas conscientes el respeto y la consideración moral sobre la base de que tienen cuerpos artificiales en lugar de naturales parecería ser arbitrario y caprichoso. Requeriría una justificación, y no es obvio cuál podría ser.

Un día, tal vez antes de lo que pensamos, una consideración de la ética del tratamiento de lo racional, las máquinas sensibles pueden resultar más que un ejercicio académico abstracto.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.