Las herramientas de recomendación de inteligencia artificial (IA) son ampliamente utilizadas por industrias como el comercio electrónico, los medios, la banca y los servicios públicos. El algoritmo de la herramienta utiliza la actividad en línea anterior de los visitantes del sitio web y otros datos, tanto implícitos como explícitos, para predecir qué le gustaría ver o comprar a ese visitante a continuación, y luego les presenta esas opciones. Esto puede ser muy beneficioso; por ejemplo, para los clientes, el recomendador puede ahorrarles tiempo sugiriendo opciones adaptadas a sus gustos y necesidades. Mientras que, para las empresas, puede alentar a los consumidores a gastar más a través de su sitio web y aumentar la lealtad de los clientes:en el caso del gigante de la transmisión Netflix, se estima que su motor de recomendaciones genera $ 1 mil millones al año.

Un grupo de investigadores de China, Finlandia y Corea se dispuso a descubrir los posibles efectos negativos de estas herramientas de IA. Como el coautor Sihua Chen, de la Universidad de Finanzas y Economía de Jiangxi de China, explica que "toda moneda tiene dos caras, y con la penetración de los recomendadores de IA en nuestras vidas, las desventajas son cada vez más evidentes". La investigación se publicó por primera vez en línea el 10 de agosto de 2021 en el Journal of Management Science and Engineering , y su publicación está programada para imprimirse en diciembre de 2021.

Después de revisar investigaciones anteriores sobre el tema, el equipo construyó un modelo empírico que revela cómo las preferencias de un cliente influyen en sus decisiones de compra y el papel que desempeña la recomendación de IA en ese proceso. Estaban particularmente interesados ​​en explorar el fenómeno del "capullo de información" de Internet:cuando se enfrentan a un gran volumen de información en línea, las personas tienden a ver solo lo que quieren ver.

Los investigadores realizaron dos experimentos con Jingdong y Taobao, las dos plataformas de compras en línea más grandes de China. Según el autor Jian Mou, de la Universidad Nacional de Pusan ​​de Corea, "encontraron que la recomendación de IA aumentaba el efecto de capullo de información. En otras palabras, las personas ven lo que quieren ver, y luego el algoritmo de recomendación de IA del sitio web selecciona contenido para ellos en función de esos preferencias. Esto afecta negativamente la calidad de las decisiones de compra del cliente".

El coautor Mikko Siponen, de la Universidad de Jyvaskyla de Finlandia, agrega que "al igual que con muchas otras tecnologías nuevas, la recomendación de IA es una fuente de consecuencias no deseadas. Nuestros hallazgos tienen implicaciones importantes para los consumidores, particularmente en la industria del comercio electrónico, si quieren para tomar decisiones de compra independientes, deben evitar la abrumadora influencia de las herramientas de recomendación de IA".