Viendo la proyección del 50 aniversario de "2001:A Space Odyssey, " Me encontré a mi mismo, un matemático e informático cuya investigación incluye trabajos relacionados con la inteligencia artificial, comparar la visión del futuro de la historia con el mundo actual.

La película se realizó a través de una colaboración con el escritor de ciencia ficción Arthur C. Clarke y el director de cine Stanley Kubrick. inspirado en la novela "Childhood's End" de Clarke y su cuento menos conocido "The Sentinel". Una obra sorprendente de ficción especulativa, describe, en términos a veces esperanzadores y otras cautelosos, un futuro de contacto extraterrestre, viajes interplanetarios, máquinas conscientes e incluso el próximo gran salto evolutivo de la humanidad.

La forma más obvia en la que 2018 no ha cumplido con la visión de "2001" es en los viajes espaciales. La gente todavía no visita de forma rutinaria las estaciones espaciales, haciendo visitas anodinas a una de varias bases lunares, ni viajar a otros planetas. Pero Kubrick y Clarke dieron en el blanco al imaginar las posibilidades, problemas y retos del futuro de la inteligencia artificial.

¿Qué pueden hacer las computadoras?

Un drama principal de la película puede verse de muchas maneras como una batalla a muerte entre humanos y computadoras. La inteligencia artificial de "2001" está incorporada en HAL, la omnisciente presencia computacional, el cerebro de la nave espacial Discovery One, y quizás el personaje más famoso de la película. HAL marca el pináculo del logro computacional:un autoconsciente, dispositivo aparentemente infalible y una presencia omnipresente en el barco, siempre escuchando, siempre observando.

HAL no es solo un asistente tecnológico de la tripulación, sino, en palabras del comandante de la misión Dave Bowman, el sexto miembro de la tripulación. Los humanos interactúan con HAL al hablar con él, y él responde con mesurada voz masculina, en algún lugar entre un padre severo pero complaciente y una enfermera bien intencionada. HAL es Alexa y Siri, pero mucho mejor. HAL tiene el control completo del barco y también, como resulta, es el único miembro de la tripulación que conoce el verdadero objetivo de la misión.

Ética en la máquina

La tensión del tercer acto de la película gira en torno a que Bowman y su compañero de equipo Frank Poole se vuelven cada vez más conscientes de que HAL no funciona correctamente. y el descubrimiento de HAL de estas sospechas. Dave y Frank quieren desconectar una computadora que falla, mientras que HAL consciente de sí mismo quiere vivir. Todos quieren completar la misión.

La partida de ajedrez de vida o muerte entre humanos y HAL ofrece precursores de algunas de las preguntas actuales sobre la prevalencia y el despliegue de la inteligencia artificial en la vida diaria de las personas.

En primer lugar, está la cuestión de cuánto control debería ceder la gente a las máquinas artificialmente inteligentes. independientemente de cuán "inteligentes" puedan ser los sistemas. El control de Discovery por parte de HAL es como una versión del espacio profundo del hogar en red del futuro o del automóvil sin conductor. Los ciudadanos, Responsables políticos, los expertos e investigadores todavía están explorando hasta qué punto la automatización podría, o debería, sacar a los humanos del circuito. Algunas de las consideraciones involucran preguntas relativamente simples sobre la confiabilidad de las máquinas, pero otros problemas son más sutiles.

Las acciones de una máquina computacional están dictadas por decisiones codificadas por humanos en algoritmos que controlan los dispositivos. Los algoritmos generalmente tienen algún objetivo cuantificable, hacia el cual cada una de sus acciones debe progresar, como ganar una partida de damas, ajedrez o ir. Así como un sistema de inteligencia artificial analizaría las posiciones de las piezas del juego en un tablero, también puede medir la eficiencia de un almacén o el uso de energía de un centro de datos.

Pero, ¿qué sucede cuando surge un dilema moral o ético en el camino hacia la meta? Para el HAL consciente de sí mismo, completar la misión, y mantenerse con vida, gana cuando se compara con la vida de la tripulación. ¿Qué pasa con un automóvil sin conductor? Es la misión de un coche autónomo, por ejemplo, para llevar a un pasajero de un lugar a otro lo más rápido posible, o para evitar matar a los peatones? Cuando alguien se para delante de un vehículo autónomo, esos objetivos entran en conflicto. Puede parecer una "elección" obvia para programar, pero, ¿qué pasa si el automóvil necesita "elegir" entre dos escenarios diferentes, cada uno de los cuales causaría la muerte humana?

Bajo vigilancia

En una escena clásica Dave y Frank van a una parte de la estación espacial donde creen que HAL no puede escucharlos para discutir sus dudas sobre el funcionamiento de HAL y su capacidad para controlar la nave y guiar la misión. Plantean la idea de cerrarlo. Poco saben que las cámaras de HAL pueden verlos:la computadora está leyendo sus labios a través de la ventana del módulo y se entera de sus planes.

En el mundo moderno, una versión de esa escena ocurre todo el día todos los días. La mayoría de nosotros somos monitoreados de manera efectiva y continua, a través de nuestros teléfonos casi siempre encendidos o la vigilancia corporativa y gubernamental de las actividades en línea y del mundo real. El límite entre lo público y lo privado se ha vuelto y sigue siendo cada vez más difuso.

Las relaciones de los personajes en la película me hicieron pensar mucho en cómo las personas y las máquinas podrían coexistir. o incluso evolucionar juntos. Durante gran parte de la película, incluso los humanos se hablan entre ellos con suavidad, sin mucho tono o emoción, como podrían hablar con una máquina, o como una máquina podría hablarles. La famosa escena de la muerte de HAL, en la que Dave desconecta metódicamente sus vínculos lógicos, me hizo preguntarme si a las máquinas inteligentes se les otorgará algo equivalente a los derechos humanos.

Clarke creía que era muy posible que el tiempo de los humanos en la Tierra no fuera más que un "breve lugar de descanso" y que la maduración y evolución de la especie necesariamente llevaría a la gente mucho más allá de este planeta. "2001" termina con optimismo, saltar a un humano a través del "Stargate" para marcar el renacimiento de la raza. Hacer esto en realidad requerirá que las personas descubran cómo hacer el mejor uso de las máquinas y dispositivos que están construyendo. y asegurarnos de no dejar que esas máquinas nos controlen.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.