Hace unos pocos años, asistentes digitales personales como Alexa de Amazon, Siri de Apple y el Asistente de Google sonaban futuristas. Ahora, el futuro está aquí y este futuro está incrustado, aumentado y ubicuo.

Los asistentes digitales se pueden encontrar en su oficina, hogar, coche, hotel, teléfono y muchos otros lugares. Recientemente se han sometido a una transformación masiva y se ejecutan en sistemas operativos alimentados por inteligencia artificial (IA). Observan y recopilan datos en tiempo real y tienen la capacidad de extraer información de diferentes fuentes, como dispositivos inteligentes y servicios en la nube, y poner la información en contexto utilizando IA para darle sentido a la situación. Aunque hemos recorrido un largo camino en el diseño y ejecución de estas tecnologías de IA, aún queda mucho trabajo por hacer en este ámbito.

Gran parte de los datos que recopilan y utilizan estos asistentes digitales incluyen datos personales, información potencialmente identificable y posiblemente sensible. ¿Pueden Alexa u otros asistentes digitales personales violar la privacidad y seguridad de nuestros datos? Posiblemente. Hay un lado oscuro en estos asistentes virtuales.

Mi experiencia está en la privacidad de los datos, gobernanza de datos e inteligencia artificial. Anteriormente fui el Oficial de Información y Privacidad de la Oficina del Comisionado de Información y Privacidad de Ontario.

Servicio de bienvenida

Imagina la siguiente situación.

Esperas que vengan algunos invitados. Llega tu primer invitado, y la cámara de seguridad al aire libre en su porche la captura caminando hacia su casa. Una voz educada la recibe y abre la puerta. Una vez que ella está dentro su asistente digital le explica a su invitado que está en camino y que estará en casa pronto. A través de su sistema de audio doméstico, su asistente digital reproduce una selección de las canciones favoritas de sus invitados (de su red de amigos de Spotify). Su asistente digital le pregunta a su invitado si la especia de calabaza sigue siendo su sabor de café preferido o si prefiere otros:vainilla francesa o colombiano. Poco después su invitado recoge el café de la máquina de café digital. Deberes de bienvenida ahora completos, tu asistente digital se queda en silencio, y mientras te espero, su invitado hace algunas llamadas telefónicas.

Es fascinante cómo un asistente digital puede validar de forma precisa y autónoma la identidad de su huésped, selecciona sus canciones favoritas, recuerda su sabor de café preferido y gestiona los electrodomésticos inteligentes de tu casa.

Asistentes de hospedaje

Pero, ¿le preocupa el comportamiento de su asistente digital?

Los asistentes digitales pueden grabar nuestras conversaciones, imágenes y muchas otras piezas de información personal confidencial, incluida la ubicación a través de nuestros teléfonos inteligentes. Usan nuestros datos para el aprendizaje automático para mejorar con el tiempo. Su software es desarrollado y mantenido por empresas que constantemente piensan en nuevas formas de recopilar y utilizar nuestros datos.

Similar a otros programas de computadora, El problema fundamental con estos asistentes digitales es que son vulnerables a fallas técnicas y de procesos. Los asistentes digitales también se pueden piratear de forma remota, resultando en violaciones de la privacidad de los usuarios.

Por ejemplo, una pareja de Oregon tuvo que desconectar su dispositivo Alexa, Asistente virtual de Amazon, ya que su conversación privada fue grabada y enviada a uno de sus amigos en su lista de contactos.

En otro incidente, un alemán recibió accidentalmente acceso a 1, 700 archivos de audio de Alexa pertenecientes a un completo extraño. Los archivos revelaron el nombre de la persona, hábitos trabajos y otra información sensible.

Privilegio de conciencia

La creciente popularidad y disponibilidad de asistentes digitales personales ha resultado en una ampliación de la llamada brecha digital. La paradoja interesante es que las personas que conocen y son sensibles a los problemas de privacidad suelen limitar el uso de herramientas digitales, mientras que los usuarios que son menos propensos a proteger su privacidad incorporan ampliamente asistentes personales en sus vidas digitales.

Los asistentes digitales registran datos continuamente o esperan una palabra para "despertar" o activarse. No limitan la recopilación de datos a la información de los propietarios o usuarios autorizados. Los asistentes digitales personales pueden recopilar y procesar los datos personales de los usuarios no aprobados, como sus voces.

En la sociedad dividida digitalmente, alguien que sea conocedor de la privacidad no invitaría a ese equipo a entrar en sus vidas, mientras que otros pueden aceptar o racionalizar tales comportamientos.

Respetando la privacidad de los demás

En esta era de dispositivos ubicuos y acceso a Internet, ¿Cómo debemos lidiar con esta paradoja y respetar el espacio y las elecciones de los demás?

Volvamos a visitar nuestro asistente digital personal imaginario. Tenía que procesar diferentes fuentes de información sobre el huésped para operar como un anfitrión inteligente. ¿El asistente digital usó todos esos datos para alimentar los algoritmos o para invadir la privacidad del huésped? Dependiendo de a quien le preguntes la respuesta será diferente.

Nuestra educación consciente de la etiqueta nos dice que tenemos la responsabilidad social y ética de respetar los valores de los demás cuando se trata de tecnologías digitales. Pero las implicaciones y el crecimiento de estas tecnologías han sido tan importantes y rápidos que aún no hemos podido redefinir nuestras normas y expectativas sociales.

Por ejemplo, como anfitrión, ¿Tenemos la obligación ética para con nuestros huéspedes de informarles sobre nuestro asistente digital personal? ¿Es de buena educación que un visitante domiciliario le pida al anfitrión que apague sus herramientas digitales? ¿Debemos preguntarnos sobre la presencia de herramientas inteligentes y asistentes digitales antes de llegar a la casa de un amigo? un hotel o un AirBnB?

La respuesta a estas preguntas es sí, según el experto en etiqueta Daniel Post Senning. Senning explica que la etiqueta es más poderosa cuando la usa como herramienta para la autoevaluación. ¿Nos gustaría que nos informaran de que nos están grabando en una reunión de negocios o en una reunión privada? ¿O cómo preferimos que nos pidan que apaguemos las herramientas digitales si somos hosting? Las reglas de etiqueta son universales:ser considerado, honesto y amable.

Informe a sus colegas e invitados que sus dispositivos digitales pueden grabar sus voces, imágenes u otra información. Pídale a su anfitrión que apague los asistentes digitales si no se siente cómodo con su presencia. Pero sea considerado. Es posible que no desee pedirle a su anfitrión que apague los asistentes digitales en presencia de alguien que sea mayor o tenga una discapacidad y dependa de esas herramientas.

Mantener nuestra privacidad colectiva

La privacidad es una norma social que debemos trabajar juntos para mantener. En primer lugar, debemos educarnos sobre la seguridad cibernética y los riesgos potenciales de las tecnologías digitales. También debemos ser proactivos para mantenernos actualizados con las últimas noticias sobre tecnologías y tomar acciones cuando sea necesario.

El papel del gobierno en este complejo paradigma es fundamental. Necesitamos leyes de privacidad más estrictas para abordar los problemas de privacidad asociados con los asistentes digitales personales. Ahora, empresas como Amazon, Google y Apple están haciendo las reglas.

Otras jurisdicciones han desarrollado e implementado regulaciones como el Reglamento General de Protección de Datos (GDPR) de Europa, que supervisa la recopilación de datos para una amplia variedad de dispositivos domésticos. Canadá debería seguir su ejemplo.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.