La inteligencia artificial tiene un nuevo desafío:si alertar y cómo alertar a las personas que pueden no saber que están hablando con un robot.

El martes, Google mostró un asistente informático que hace llamadas telefónicas que suenan convincentemente humanas, al menos en su demostración pregrabada. Pero las personas reales en esas llamadas no parecían darse cuenta de que estaban hablando con una máquina. Eso podría presentar problemas espinosos para el uso futuro de la IA.

Entre ellos:¿Es justo, o incluso legal, engañar a las personas para que hablen con un sistema de inteligencia artificial que registre efectivamente todas sus conversaciones? Y aunque la demostración de Google destacó los usos benignos de los robots conversacionales, ¿Qué sucede cuando los spammers y estafadores se apoderan de ellos?

El director ejecutivo de Google, Sundar Pichai, provocó vítores el martes cuando demostró la nueva tecnología, llamado Duplex, durante la conferencia anual de la compañía para desarrolladores de software. El asistente agregó pausas, "ums" y "mmm-hmms" en su discurso para sonar más humano mientras hablaba con empleados reales en una peluquería y un restaurante.

"Eso es muy impresionante, pero claramente puede conducir a usos más siniestros de este tipo de tecnología, "dijo Matthew Fenech, quien investiga las implicaciones políticas de la IA para la organización Future Advocacy con sede en Londres. "La capacidad de captar los matices, los usos humanos de pequeñas frases adicionales:este tipo de señales son muy humanas, y claramente la persona del otro lado no lo sabía ".

Fenech dijo que no es difícil imaginar usos nefastos de chatbots similares, como las empresas que envían spam, estafar a personas mayores o realizar llamadas maliciosas utilizando las voces de enemigos políticos o personales.

"Puede haber situaciones potencialmente muy desestabilizadoras en las que se informa que las personas dicen algo que nunca dijeron, " él dijo.

Pichai y otros ejecutivos de Google intentaron enfatizar que la tecnología aún es experimental, y se implementará con precaución. Todavía no está disponible para dispositivos de consumo.

"Para nosotros es importante que los usuarios y las empresas tengan una buena experiencia con este servicio, y la transparencia es una parte clave de eso, "Los ingenieros de Google, Yaniv Leviathan y Yossi Matias, que ayudó a diseñar la nueva tecnología, escribió en una publicación de blog del martes. "Queremos ser claros sobre la intención de la llamada para que las empresas comprendan el contexto. Experimentaremos con el enfoque correcto en los próximos meses".

No está claro cómo la empresa navegará por las leyes de telecomunicaciones existentes, que puede variar según el estado o el país. Google no respondió de inmediato una solicitud de comentarios el miércoles sobre cómo planea buscar el consentimiento de las personas llamadas por sus bots.

Un copropietario de una barbería del Área de la Bahía de San Francisco que frecuentaba a algunos empleados de Google estaba un poco asustado por las implicaciones de privacidad.

"Parece algo que sería útil para nuestros clientes, "dijo Katherine Esperanza, copropietario de la barbería Slick &Dagger en Oakland, California. Esperanza sin embargo, se preguntó si la tienda podría bloquear las llamadas, y dijo que "plantea la pregunta de si la conversación está grabada y si el destinatario de estas llamadas automáticas podría saber que están siendo grabadas".

Las leyes contra las escuchas telefónicas en California y varios otros estados ya hacen que sea ilegal grabar llamadas telefónicas sin el consentimiento tanto de la persona que llama como de la persona a la que se llama. La Comisión Federal de Comunicaciones también ha estado lidiando con las reglas para las llamadas automáticas, las llamadas no solicitadas y marcadas automáticamente realizadas por los vendedores telefónicos.

Estas llamadas suelen ser monólogos pregrabados, pero más empresas y organizaciones están empleando técnicas de aprendizaje automático para responder a las preguntas de una persona con una conversación que suena natural, con la esperanza de que sea menos probable que cuelguen.

© 2018 The Associated Press. Reservados todos los derechos.