La demostración de inteligencia artificial de Google fue divertida, pero planteó una pregunta importante:¿tienes derecho a saber que estás hablando con una máquina?

Google nos sorprendió a todos esta semana con la presentación de su nuevo sistema de inteligencia artificial, Google Duplex.

A diferencia de Siri, Alexa y otros asistentes de IA, el sistema habla como un ser humano convincente. Y lo que es más, está diseñado para realizar llamadas telefónicas en su nombre, como reservar una mesa en un restaurante o una cita en una peluquería.

"Creo que AI Duplex es una tecnología genial, "El experto en inteligencia artificial de UNSW Canberra y profesor de SEIT, Hussein Abbass, dice.

"Ciertamente no quiero perder el tiempo haciendo llamadas telefónicas para reservar un restaurante o una peluquería".

Una conversación con Duplex Flow, "ums" y "mmm-hmms" se agregan por si acaso, y es probable que la persona en el extremo receptor no tenga idea de que está hablando con una máquina.

Y para muchos esto plantea una preocupación ética. ¿Duplex debería presentarse como un robot?

El profesor Abbass dice que debería.

"El punto clave aquí es que debe identificarse, "Dice el profesor Abbass.

"En el video, AI Duplex dijo que está llamando en nombre de un cliente. El humano al otro lado de la línea nunca le pidió que se identificara. Si AI Duplex usa un nombre humano para ganarse la confianza humana, entonces claramente hay un elemento de engaño y la IA estaría actuando de manera poco ética.

"Si AI Duplex se identifica a sí mismo como un robot automatizado o similar, entonces dependerá del humano decidir si desea continuar la conversación ".

El profesor Abbass dice que AI Duplex recopila firmas de voz humana que continúan entrenando al robot e incluso su propia voz parece ser una síntesis de una o más voces humanas.

"Estos humanos deben ser más conscientes de cómo se utilizan sus datos y deben ofrecer su consentimiento explícito para la recopilación de datos y para el uso previsto de los datos, " él dice.

Si podemos confiar en Duplex para concertar nuestras citas con el peluquero, ¿Podemos también confiar en él para realizar una llamada de emergencia? El profesor Abbass dice que esto podría tener sus pros y sus contras.

"Un asistente de automóvil podría llamar a la ambulancia en caso de una emergencia como un accidente, y en este caso, es una tecnología que salva vidas, " él dice.

"Si se usa incorrectamente, entonces, como cualquier tecnología, cuando se usa indebidamente, es un acto inapropiado, que incluso podría ser ilegal ".

El profesor Abbass dice que la tecnología tiene un largo camino por recorrer antes de que pueda sostener largas discusiones humanas.

"Sin embargo, esta tecnología es un excelente ejemplo de por qué la tecnología debe ser éticamente consciente. Si un humano pide ayuda para realizar una llamada inapropiada, AI Duplex debería decir 'no', " él añade.