De todos los asistentes virtuales ficticios que conocemos de la cultura pop, pocos se enfrentan al original y quizás al más famoso:el HAL 9000 de la película de 1968 de Stanley Kubrick 2001:A Space Odyssey.

Probablemente deberíamos estar agradecidos por eso. Después de todo, Alexa puede apagar las luces pero ella no se volverá contra ti y causará estragos en tu vida. ¿O lo hará ella?

Amazon Alexa, Samsung Bixby, Asistente de Google, Siri de manzana, Cortana de Microsoft, IBM Watson y otros asistentes virtuales se anuncian como un cruce entre su amigo, tu siervo, su útil compañero y compinche.

HAL nos presenta algo más siniestro, pero quizás más realista. Si bien las empresas de tecnología impulsan a los asistentes virtuales como parte integral de una mejor, vida más fácil, 2001:A Space Odyssey pregunta:¿a qué costo?

La película ilustra el ecosistema tecnológico que las empresas realmente compiten por poseer, uno en el que cambiamos nuestra privacidad por pequeñas comodidades.

'Quiero ayudarte' - HAL

En 2001:A Space Odyssey, HAL se presenta a la tripulación de una nave espacial como uno de ellos. Pero con capacidades cognitivas mucho más allá de las de sus compañeros humanos, HAL es omnipresente y está integrado en la tecnología que mantiene viva a la tripulación.

La tripulación confía en HAL, evitando la privacidad por el bien de su ayuda en el control de todo el barco. No se les ocurre que las personas que diseñaron HAL no se preocuparon por los mejores intereses de la tripulación. O que la lealtad de HAL es con Mission Control y, Más allá de eso, su programación.

Igualmente, aunque está claro que la función de los asistentes virtuales modernos está impulsada por las ganancias, no es obvio para el consumidor medio exactamente cómo se monetiza su presencia. Los consumidores pueden estar más informados sobre su privacidad en línea en estos días, sin embargo, las consecuencias de la intrusión del mundo virtual en lo físico no han penetrado adecuadamente en la conciencia pública.

Permitir que una máquina lo grabe 24 horas al día, 7 días a la semana a cambio de conveniencia es un precio alto a pagar. Puede que no lo parezca porque los asistentes virtuales llevan el halo de confianza ganado por los otros servicios por los que son conocidos:la búsqueda de Google es incomparable y la experiencia minorista de Amazon lidera el mercado global.

Como HAL, estas máquinas procesan cantidades increíbles de datos. Tanto así, que incluso sus creadores no están muy seguros de sus capacidades, o cómo alcanzarán su objetivo. El beneficio comercial de los asistentes virtuales radica en su capacidad para predecir su comportamiento a través de lo que capturan, y crear oportunidades para transacciones. La minería de macrodatos para el análisis predictivo está de moda en el mundo empresarial.

Entonces, mientras que las empresas comercializan asistentes virtuales como su "asistente", de hecho, son su "analista".

'Pude ver tus labios moverse' - HAL

En 2001:A Space Odyssey, la tripulación claramente nunca leyó la "Guía de inicio rápido" de HAL. No sabían que podía mentir y tampoco sabían que podía leer los labios. Cuando la tripulación sale del barco para tener un momento de privacidad, Las cámaras de HAL aún podían verlos y captaron la esencia de su conversación no tan privada. Luego llegó el empujón ... y bueno, eventualmente, la tripulación terminó recibiendo el empujón.

Una consecuencia no deseada de tener un asistente virtual a nuestra entera disposición es que siempre está escuchando, y también puede estar grabando. No sorpresa, eso es exactamente lo que ha estado haciendo Amazon. Si las empresas te están grabando en tu casa, errores como enviar grabaciones a la persona equivocada, divulgar información de forma no intencionada, o permitir accidentalmente que alguien escuche son inevitables.

Oh, y si cree que está protegido por los términos y condiciones, probablemente esté equivocado. Pero eso está bien, como el equipo de 2001:A Space Odyssey, probablemente no los entienda o no los lea de todos modos.

'Me temo que no puedo hacer eso, Dave '- HAL

Kubrick usó 2001 para ilustrar la tecnología, esclavitud física y psicológica. HAL primero controla el entorno físico y luego intenta ejercer su control sobre el psicológico. Si re-imaginamos 2001:A Space Odyssey con HAL como héroe, entonces tiene toda la razón al matar a la tripulación. Después de todo, Estos molestos humanos son impredecibles porque es probable que dejen que sus emociones arruinen la misión.

Si volvemos a imaginar nuestras vidas con Google como héroe, bueno, entonces somos el "asistente", ayudando a Google a obtener los datos que necesita para monitorear y predecir mejor su comportamiento - para los accionistas.

Afortunadamente, la humanidad todavía tiene tiempo para adaptarse antes de que las máquinas se apoderen por completo de nuestras vidas en nombre de las empresas de tecnología. Mientras la gente todavía tenga a sus loros pidiendo comida en Amazon, el público tendrá claro que confiar en esa máquina puede no ser una buena idea.

Todavía, la inteligencia artificial mejora a un ritmo rápido. Eventualmente tendremos que decidir si queremos que triunfe la privacidad del consumidor, y sople el monitoreo constante de una esclusa de aire.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.