La actividad en línea está cada vez más influenciada por recomendaciones algorítmicas basadas en datos recopilados sobre el comportamiento del consumidor por parte de empresas que a menudo son reacias a revelar qué datos recopilan o cómo los utilizan.

Investigadores de la Universidad de Auckland se han esforzado por saber más sobre cómo funcionan estos algoritmos analizando los términos de uso y las políticas de privacidad de Spotify y Tinder. La investigación, publicada en el Journal of the Royal Society of New Zealand , estuvo a cargo del Dr. Fabio Morreale, Escuela de Música, y Matt Bartlett y Gauri Prabhakar, Escuela de Derecho.

Las empresas que recopilan y utilizan datos de los consumidores (por lo general, para su propio beneficio financiero) son notablemente resistentes al escrutinio académico, encontraron los investigadores. "A pesar de su poderosa influencia, hay pocos detalles concretos sobre cómo funcionan exactamente estos algoritmos, por lo que tuvimos que usar formas creativas para averiguarlo", dice el Dr. Morreale.

El equipo analizó los documentos legales de Tinder y Spotify porque ambas plataformas se basan en algoritmos de recomendación que empujan a los usuarios a escuchar canciones específicas o a relacionarse románticamente con otro usuario. "Se han pasado por alto en gran medida en comparación con las empresas tecnológicas más grandes como Facebook, Google, Tik Tok, etc., que se han enfrentado a un mayor escrutinio", dice. "La gente puede pensar que son más benignos, pero siguen siendo muy influyentes".

Los investigadores analizaron iteraciones de los documentos legales durante la última década. Las empresas están cada vez más obligadas a informar a los usuarios qué datos se recopilan, pero la longitud y el idioma de los documentos legales no pueden describirse como fáciles de usar.

"Tienden a lo legalista y vago, lo que inhibe la capacidad de personas ajenas para examinar adecuadamente los algoritmos de las empresas y su relación con los usuarios. Esto dificulta las cosas para los investigadores académicos y, sin duda, para el usuario promedio", dice el Dr. Morreale. Su investigación reveló varias ideas. Las políticas de privacidad de Spotify, por ejemplo, muestran que la empresa recopila mucha más información personal que en sus primeros años, incluidos nuevos tipos de datos.

"En la iteración de 2012 de su política de privacidad, las prácticas de datos de Spotify solo incluían información básica:las canciones que reproduce un usuario, las listas de reproducción que crea e información personal básica como la dirección de correo electrónico del usuario, la contraseña, la edad, el sexo y la ubicación", dice. Dra. Morreale. Después de varias iteraciones de la política de privacidad, la política actual de 2021 permite que la empresa recopile fotos, datos de ubicación, datos de voz, datos de sonido de fondo y otros tipos de información personal de los usuarios.

La evolución de los términos de uso de Spotify ahora también establece que "el contenido que ve, incluida su selección y ubicación, puede verse influido por consideraciones comerciales, incluidos los acuerdos con terceros". Esto proporciona un amplio espacio para que la empresa resalte legalmente el contenido a un usuario específico en base a un acuerdo comercial, dice el Dr. Morreale.

"Spotify promete que la 'lista de reproducción está diseñada solo para ti, basada en la música que ya te gusta', pero los términos de uso de Spotify detallan cómo un algoritmo podría verse influido por factores extrínsecos al usuario, como acuerdos comerciales con artistas y sellos discográficos".

"En sus recomendaciones (y listas de reproducción, para el caso), es probable que Spotify también esté presionando a los artistas de sellos discográficos que tienen acciones de Spotify; esto es anticompetitivo y debemos saberlo".

Y probablemente contrariamente a las percepciones de la mayoría de los usuarios, la aplicación de citas Tinder es "un gran algoritmo", dice Matt Bartlett. "Tinder ha declarado anteriormente que emparejó a las personas en función de las 'puntuaciones de deseabilidad' calculadas por un algoritmo. No creo que los usuarios entiendan completamente o sepan cómo funciona el algoritmo de Tinder, y Tinder hace todo lo posible por no decírnoslo".

"Eso no quiere decir que esto sea algo malo, el problema es que no son transparentes sobre cómo ocurre la coincidencia. En mi opinión, los términos de uso deberían especificar eso". Si bien los investigadores no pudieron identificar completamente cómo funcionan los algoritmos de las plataformas, su investigación destacó ese mismo problema:que las empresas no son transparentes sobre la recopilación de nuestros datos o cómo los utilizan.

"Con estas poderosas plataformas digitales que poseen una influencia considerable en la sociedad contemporánea, sus usuarios y la sociedad en general merecen más claridad sobre cómo funcionan los algoritmos de recomendación", dice el Dr. Morreale. "Es una locura que no podamos averiguarlo; creo que en el futuro miraremos hacia atrás y veremos esto como el Salvaje Oeste de la gran tecnología".