Con respuestas de correo electrónico autocorrectivas y generadas automáticamente, los algoritmos ofrecen mucha asistencia para ayudar a las personas a expresarse.

Sin embargo, una nueva investigación de la Universidad de Georgia muestra que las personas que confían en los algoritmos informáticos para obtener ayuda con las tareas creativas relacionadas con el lenguaje no mejoraron su desempeño y eran más propensas a confiar en los consejos de baja calidad.

Aaron Schecter, profesor asistente en sistemas de información gerencial en Terry College of Business, publicó este mes su estudio "Preferencias humanas hacia el asesoramiento algorítmico en una tarea de asociación de palabras" en Scientific Reports . Sus coautores son Nina Lauharatanahirun, profesora asistente de salud bioconductual en la Universidad Estatal de Pensilvania, y recientemente doctorada en Terry College. graduado y actual profesor asistente de la Universidad del Noreste Eric Bogert.

El artículo es el segundo de la investigación del equipo sobre la confianza individual en los consejos generados por algoritmos. En un artículo de abril de 2021, el equipo descubrió que las personas dependían más de los consejos algorítmicos para contar tareas que de los consejos supuestamente brindados por otros participantes.

Este estudio tuvo como objetivo probar si las personas cedieron a los consejos de una computadora al abordar tareas más creativas y dependientes del idioma. El equipo descubrió que los participantes tenían un 92,3 % más de probabilidades de usar consejos atribuidos a un algoritmo que de seguir consejos atribuidos a personas.

"Esta tarea no requería el mismo tipo de pensamiento (como la tarea de contar en el estudio anterior), pero de hecho vimos los mismos sesgos", dijo Schecter. "Todavía iban a usar la respuesta del algoritmo y se sentían bien al respecto, aunque no los estaba ayudando a hacerlo mejor".

Uso de un algoritmo durante la asociación de palabras

Para ver si las personas confiarían más en los consejos generados por computadora para tareas relacionadas con el lenguaje, Schecter y sus coautores les dieron a 154 participantes en línea porciones de la Prueba de Asociados Remotos, una prueba de asociación de palabras utilizada durante seis décadas para calificar la creatividad de un participante.

"No es pura creatividad, pero la asociación de palabras es un tipo de tarea fundamentalmente diferente a la de hacer una proyección de valores o contar objetos en una foto, porque involucra la lingüística y la capacidad de asociar diferentes ideas", dijo. "Creemos que esto es más subjetivo, aunque hay una respuesta correcta a las preguntas".

Durante la prueba, se les pidió a los participantes que pensaran en una palabra que uniera tres palabras de muestra. Si, por ejemplo, las palabras fueran base, habitación y bolos, la respuesta sería bola.

Los participantes eligieron una palabra para responder a la pregunta y se les ofreció una pista atribuida a un algoritmo o una pista atribuida a una persona y se les permitió cambiar sus respuestas. La preferencia por los consejos derivados de algoritmos fue fuerte a pesar de la dificultad de la pregunta, la forma en que se redactaron los consejos o la calidad de los consejos.

Los participantes que siguieron el consejo del algoritmo también tenían el doble de confianza en sus respuestas que las personas que usaron el consejo de la persona. A pesar de su confianza en sus respuestas, tenían un 13 % menos de probabilidades de elegir las respuestas correctas que aquellos que usaron consejos basados ​​en humanos.

"No voy a decir que el consejo estaba empeorando a la gente, pero el hecho de que no lo hicieran mejor y aún así se sintieran mejor con sus respuestas ilustra el problema", dijo. "Su confianza aumentó, por lo que es probable que usen consejos algorítmicos y se sientan bien al respecto, pero no necesariamente tendrán la razón.

¿Debería aceptar la autocorrección al escribir un correo electrónico?

"Si tengo una función de autocompletar o autocorrección en mi correo electrónico en la que creo, es posible que no esté pensando si me está mejorando. Solo voy a usarla porque me siento seguro de hacerlo".

Schechter y sus colegas llaman a esta tendencia a aceptar consejos generados por computadora sin tener en cuenta su calidad como sesgo de automatización. Comprender cómo y por qué los tomadores de decisiones humanos recurren al software de aprendizaje automático para resolver problemas es una parte importante para comprender qué podría salir mal en los lugares de trabajo modernos y cómo remediarlo.

"A menudo, cuando hablamos de si podemos permitir que los algoritmos tomen decisiones, tener a una persona al tanto se presenta como la solución para prevenir errores o malos resultados", dijo Schecter. "Pero esa no puede ser la solución si es más probable que las personas sigan lo que aconseja el algoritmo". + Explora más

Las personas pueden confiar más en las computadoras que en los humanos