Crédito:CC0 Public Domain
No todo el mundo teme a nuestros señores de las máquinas. De hecho, según los investigadores de Penn State, cuando se trata de información privada y acceso a datos financieros, las personas tienden a confiar más en las máquinas que en las personas, lo que podría conducir a comportamientos en línea tanto positivos como negativos.
En un estudio, las personas que confiaban en las máquinas tenían muchas más probabilidades de entregar sus números de tarjetas de crédito a un agente de viajes computarizado que a un agente de viajes humano. Un sesgo de que las máquinas son más confiables y seguras que las personas, o la heurística de la máquina, puede estar detrás del efecto, dijo S. Shyam Sundar, James P. Jimirro Profesor de Efectos de Medios, codirector del Laboratorio de Investigación de Efectos de los Medios y afiliado del Instituto de Ciencias Cibernéticas de Penn State (ICS).
"Esta tendencia a confiar en el agente de la máquina más que en el agente humano fue mucho más fuerte para las personas que tenían mucha fe en la heurística de la máquina, ", dijo Sundar." Para las personas que no creían en la heurística de la máquina, no importaba si el agente de viajes era una máquina o un humano ".
Esto sugiere que la presencia de un agente de máquina en la interfaz sirvió como señal para activar la creencia heurística o arraigada de que las máquinas son superiores. según Sundar, que trabajó con Jinyoung Kim, ex estudiante de doctorado en comunicación de masas y actualmente investigador en Amazon.
Esa fe en las máquinas se puede activar porque la gente cree que las máquinas no chismean, o tener diseños ilícitos sobre su información privada. Sin embargo, Sundar dijo que si bien las máquinas podrían no tener motivos ocultos para su información, las personas que desarrollan y ejecutan esas computadoras podrían aprovecharse de esta credulidad para extraer información personal de usuarios desprevenidos, por ejemplo, a través de estafas de phishing, que son intentos de delincuentes de obtener nombres de usuario, contraseñas números de tarjetas de crédito y otras piezas de información privada haciéndose pasar por fuentes confiables.
"Este estudio debería servir como advertencia para que las personas sepan cómo interactúan en línea, ", dijo Sundar." La gente debe ser consciente de que pueden tener una creencia ciega en la superioridad de las máquinas. Deben observarse a sí mismos cuando interactúan en línea con interfaces robóticas ".
Por otra parte, porque algunas personas confían más en las máquinas, Los desarrolladores podrían usar los hallazgos para crear sitios web y aplicaciones más fáciles de usar que hagan que las personas se sientan más cómodas al completar transacciones en línea. según los investigadores, que informan sus hallazgos hoy (7 de mayo) en la Conferencia ACM CHI sobre factores humanos en sistemas informáticos celebrada en Glasgow, REINO UNIDO.
"Una forma en la que podemos aprovechar esta heurística especialmente para el diseño, es, si desea generar una mayor confianza y está creando un sistema automatizado, o un algoritmo, asegurarse de identificarlo como un sistema basado en una máquina, y que no haya ningún ser humano en el circuito, podría aumentar la confianza, ", Dijo Sundar. Esto es especialmente cierto en áreas donde la participación de humanos puede conducir a resultados impredecibles e indeseables".
Sundar agregó que las personas con un alto grado de confianza en las máquinas solo necesitan indicaciones sutiles de diseño de que están interactuando con una máquina.
"En todo esto, una cosa que me gustaría enfatizar es que los diseñadores deben ser éticos, ", dijo Sundar." No deben tratar de extraer información de forma poco ética de los consumidores desprevenidos ".
Los investigadores reclutaron a 160 participantes de Amazon Mechanical Turk, un sitio web de crowdsourcing en línea que se utiliza con frecuencia en estudios, para el estudio. Se pidió a los participantes que usaran un agente de chat humano o de máquina para encontrar y comprar un boleto de avión en línea. Después de que el agente devolvió la información del vuelo, solicitó a los participantes la información de su tarjeta de crédito. Luego, los participantes informaron sobre sus intenciones de proporcionar esa información. Los investigadores midieron la confianza de los participantes en las máquinas pidiéndoles que respondieran a una serie de cinco afirmaciones sobre la interacción con las máquinas.
La investigación futura examinará el papel de la heurística de la máquina en la promoción de la confianza de las personas hacia la inteligencia artificial o los sistemas de IA, particularmente chatbots, altavoces inteligentes y robots.