El uso de inteligencia artificial (IA), tecnologías que pueden interactuar con el medio ambiente y simular la inteligencia humana, tiene el potencial de cambiar significativamente la forma en que trabajamos. La integración exitosa de la IA en las organizaciones depende del nivel de confianza de los trabajadores en la tecnología. Una nueva revisión examinó dos décadas de investigación sobre cómo las personas desarrollan confianza en la IA. Los autores concluyeron que la forma en que se representa la IA, o "encarnado, "y las capacidades de la IA contribuyen a desarrollar la confianza. También propusieron un marco que aborda los elementos que dan forma a la confianza cognitiva y emocional de los usuarios en la IA, que puede ayudar a las organizaciones que lo utilizan.

La revisión, por investigadores de la Universidad Carnegie Mellon y la Universidad Bar Ilan, aparece en Academy of Management Annals .

"La confianza que los usuarios desarrollen en la IA será fundamental para determinar su papel en las organizaciones, "explica Anita Williams Woolley, Profesor Asociado de Teoría y Comportamiento Organizacional en la Escuela de Negocios Tepper de la Universidad Carnegie Mellon, quien fue coautor del estudio. "Abordamos la naturaleza dinámica de la confianza explorando cómo se desarrolla la confianza para las personas que interactúan con diferentes representaciones de la IA (p. Ej., robots, agentes virtuales, o integrado), así como las características de la IA que facilitan el desarrollo de la confianza ".

Específicamente, los investigadores observaron el papel de la tangibilidad (la capacidad de ser percibido o tocado), transparencia (el nivel en el que las reglas de funcionamiento y la lógica de la tecnología son evidentes para los usuarios), y confiabilidad (si la tecnología exhibe el mismo comportamiento esperado a lo largo del tiempo). También consideraron las características de la tarea (cómo se manejan los juicios técnicos versus los juicios interpersonales) y los comportamientos de inmediatez (gestos de orientación social destinados a aumentar la cercanía interpersonal, como la escucha activa y la capacidad de respuesta). También analizaron el antropomorfismo (la percepción de que la tecnología puede tener cualidades humanas).

Los autores buscaron en Google Scholar artículos sobre la confianza humana en la IA publicados entre 1999 y 2019, identificando alrededor de 200 artículos revisados ​​por pares y actas de conferencias. Los campos representados incluyeron el comportamiento organizacional, interacciones humano-computadora, interacciones robot-humano, sistemas de información, tecnologías de la información, e ingeniería. También utilizaron tres bases de datos para identificar 50 artículos adicionales. En el final, revisaron aproximadamente 150 artículos que presentaban investigaciones empíricas sobre la confianza humana en la IA.

Los autores encontraron que la representación de la IA desempeñaba un papel importante en la naturaleza de la confianza cognitiva que desarrollan las personas. Para la IA robótica, la trayectoria para desarrollar la confianza se asemeja a la de crear confianza en las relaciones humanas, comenzando bajo y aumentando después de más experiencia. Pero para la IA virtual e integrada, ocurrió lo contrario:la confianza inicial alta disminuyó después de la experiencia.

Los autores también encontraron que el nivel de inteligencia de la máquina que caracteriza a la IA puede moderar el desarrollo de la confianza cognitiva, con un alto nivel de inteligencia que conduce a una mayor confianza después del uso y la experiencia. Para la IA robótica, un alto nivel de inteligencia de la máquina generalmente condujo a un desarrollo más rápido de un alto nivel de confianza. Para IA virtual e integrada, la alta inteligencia de las máquinas ofrecía la posibilidad de mantener los altos niveles de confianza iniciales. La transparencia también fue un factor importante para establecer la confianza cognitiva en la IA virtual e integrada, aunque la relación entre la fiabilidad y el desarrollo de la confianza en la IA era compleja.

El antropomorfismo fue especialmente importante para el desarrollo de la confianza emocional, pero su efecto difiere según la forma de IA. Para la IA virtual, el antropomorfismo tuvo un efecto positivo. Para la IA robótica, Los efectos fueron mixtos:la gente tendía a gustar más los robots antropomórficos que los robots de aspecto mecánico, pero estos robots con apariencia de humanos también podrían evocar incomodidad y una sensación de inquietud.

Los factores que influyeron en la confianza emocional diferían de los que influyeron en la confianza cognitiva, y algunos factores pueden haber tenido diferentes implicaciones para cada uno, concluyeron los autores.

Como guía para integrar la IA en el trabajo de las organizaciones, los autores propusieron un marco. Consideraron la forma en que se utilizó la IA, el nivel de inteligencia de la máquina, comportamientos como la capacidad de respuesta, y la confiabilidad como factores que influyeron en la forma en que las personas desarrollaron la confianza en la IA, tanto cognitiva como emocionalmente.

"La confianza puede predecir el nivel de dependencia de la tecnología, mientras que el nivel de correspondencia entre la confianza de alguien y las capacidades de la tecnología, conocido como calibración, puede influir en cómo se utiliza la tecnología, "dice Ella Glikson, Profesor asistente en la Escuela de Graduados en Administración de Empresas de la Universidad Bar Ilan, quien fue coautor del estudio.