Casi todo el mundo conoce la historia de HAL 9000, el superordenador asesino en la película histórica de Stanley Kubrick 2001:una odisea espacial , cuyo 50 aniversario se celebrará el 12 de mayo, 2018 en el 71 ° Festival de Cine de Cannes. En una intrigante coincidencia de programación, IBM, Socio de Kubrick durante el rodaje de Una odisea espacial , y Airbus acaban de presentar el proyecto CIMON (Crew Interactive Mobile Companion), un inteligente, sistema de asistencia a astronautas móvil e interactivo "que se unirá a la Estación Espacial Internacional.

Estos dos eventos nos impulsan a un debate sobre los riesgos creados por el desarrollo de la superinteligencia que podría eliminar puestos de trabajo a gran escala o, peor aún, borrar la especie humana de la faz del planeta y plantear la cuestión de cómo evaluar tal amenaza.

Hasta la fecha, no tenemos experiencia de accidentes o desastres debido a IA defectuosa o maliciosa. Sin embargo, la imaginación de artistas y científicos es un tesoro de material que cuenta la historia de la superinteligencia liberada de cualquier control humano.

Una historia de IA que va mal

2001:una odisea espacial es un precursor de las controversias contemporáneas. Cuenta la historia de la lucha y eventual conquista de un ser humano, el único superviviente de un metódico programa de exterminio dirigido por una supercomputadora sensible.

A bordo de la nave espacial Descubrimiento uno , sólo el superordenador HAL 9000 ha sido informado por sus creadores del propósito de la misión:llegar a Júpiter y buscar señales de inteligencia extraterrestre. Aunque considerado infalible, HAL comete un error. La máquina se niega a admitir esto, y, Atrapado, afirma que el error se debe a un "error humano". En principio, los humanos son los diseñadores de la computadora pero, si es de creer, ¿Podría ser de hecho la propia computadora? Adoptando esta línea de razonamiento, la máquina se da a sí misma un estado que los miembros de la tripulación no podrían imaginar:el de un ser vivo, ser sensible y pensante.

Para la tripulación El error de HAL es inaceptable. No hay lugar para el perdón o la caridad:el error puede ser humano, pero no es una máquina. No hay apelación:HAL debe ser puesto fuera de servicio. La supercomputadora omnipresente y omnisciente, descubre inmediatamente el proyecto diseñado para acabar con su vida. Para sobrevivir y completar su misión, decide eliminar a la tripulación. Solo un humano sobrevive El astronauta David Bowman, y reanuda, con aún más determinación, la misión de homicidio digital.

Bowman logra penetrar el núcleo de la unidad y luego mecánicamente, se desconecta sin emociones y casi ceremoniosamente, uno a uno, los circuitos de memoria de la máquina desde su alojamiento. Como un niño atrapado con la mano en el tarro de galletas, la computadora lo intenta, hablando de sí mismo, para descarrilar la lobotomía. En un intento final, canta una canción que aprendió en sus primeras horas de "vida", pero nada funciona y finalmente su voz se desvanece.

IA que puede hablar de sí misma

Mucho más que la historia de una lucha a muerte, Uno de los tesoros de la película es que considera la dimensión narrativa de la IA. No solo es capaz de inventar historias sobre sí mismo, pero también puede fallar debido a las circunstancias y sus propios errores. Por lo tanto, la eliminación de la tripulación no es el resultado de que HAL 9000 se vuelva autónomo, pero de una "mala historia" que la máquina se cuenta a sí misma, el de creer que la tripulación podría comprometer la misión.

El trabajo de Kubrick permite así concebir los riesgos causados ​​por la superinteligencia no en términos de dominación técnica, sino como la construcción de una identidad narrativa imperfecta. Aunque la realidad todavía está lejos de ponerse al día con la ficción, Vale la pena reflexionar sobre algunos hallazgos iniciales en esta área.

En 2016, una novela titulada El día que una computadora escribe una novela ... casi ganó un premio literario japonés, el Nikkei Hoshi Shinichi. Fue escrito previamente por un equipo de investigación de IA de la Universidad de Hakodate, cuyo trabajo inicialmente consistió en seleccionar palabras y oraciones, luego definiendo los parámetros que permitían a un programa "escribir" la novela. De más de 1, 450 presentaciones para el premio, 11 habían sido escritos, al menos en parte, por un no humano. Por supuesto, el jurado no sabía nada sobre los "autores".

El año siguiente, con el mismo espíritu pero sin un coautor digital, Zack Thoutt, un fanático de la serie de televisión Game of Thrones , usó una red neuronal alimentada con más de 5, 000 páginas de texto de los libros en los que se basó para predecir lo que podría suceder a continuación en la historia. El resultado está lejos de ser igual al trabajo del autor George R. Martin, pero el texto es, en la mayor parte, comprensible y las predicciones son similares a algunas de las teorías que son populares entre los fanáticos de la serie.

Más recientemente, un programa diseñado por el Media Lab del MIT, bautizado "Shelley" en honor a Mary Shelley, el autor de Frankenstein; o, El Prometeo moderno - creó cuentos terroríficos, diseñado para asustar. La primera etapa fue entrenar el programa con historias escritas por humanos extraídas de una base de datos de más de 140, 000 referencias. En la segunda etapa, la computadora generó sus propios trabajos que mejoró colaborando con humanos que respondieron a sus mensajes vía Twitter.

Y en el ámbito de la lectura y comprensión de historias, Google acaba de lanzar su servicio "Hablar con el libro" que permite a los usuarios conversar en lenguaje natural con un algoritmo de aprendizaje automático que se supone que los ayudará en sus futuras elecciones de lectura.

Historias que evocan los riesgos de la IA

Si, como HAL 9000, Las computadoras de inteligencia artificial intentan escribir historias, todavía están lejos de alcanzar los estándares establecidos por los autores humanos. Aunque nadie puede predecir con certeza cómo será la superinteligencia artificial, sigue siendo posible imaginarlo produciendo historias que estimulen nuestro pensamiento.

El historiador Yuval Noah Harari asumió la tarea, imaginando un futuro donde la automatización de máquinas provocaría la desaparición de la mayoría de puestos de trabajo. Argumentó que los humanos corren el riesgo de perder su valor económico porque la inteligencia se desvinculará de la conciencia. Si bien la inteligencia es necesaria para conducir un automóvil o diagnosticar una enfermedad, la conciencia y las experiencias humanas subjetivas no son obligatorias.

Aún más alarmista, el filósofo Nick Bostrom plantea la idea de que los humanos probablemente no tendrán la oportunidad de experimentar esta desastrosa revolución porque es probable que sean exterminados tan pronto como aparezca la superinteligencia artificial.

Tanto Harari como Bostrom basan sus conclusiones en una reducción de la acción a su dimensión funcional, juzgado únicamente en términos de eficacia. Pero tal visión descuida áreas enteras de la existencia humana. Para remediar esto, El neurocientífico Antonio Damasio sostiene que la vida representa un acto complejo en el que los sentimientos son la expresión de una lucha permanente por lograr un equilibrio que sustenta la existencia humana. Para Damasio, sin subjetividad no hay creatividad, y sin las emociones que se manifiestan en las relaciones entre el cuerpo y el cerebro para percibir la realidad, no hay humanidad.

Aceptar esto relega a Kubrick al rango de un genio cuya profecía, aunque poético, es poco realista. También significa admitir que una computadora de inteligencia artificial nunca podrá redefinir su propia misión a expensas de sus creadores. Y finalmente, debemos tomarnos muy en serio la idea de que el principal riesgo para la humanidad es una ciberguerra iniciada por los propios humanos, un conflicto poblado por drones y robots asesinos apoyados por enjambres de virus informáticos que son todos más inteligentes que los demás.

Este artículo se publicó originalmente en The Conversation. Lea el artículo original.