Los investigadores encuentran que las revisiones y comentarios generados por IA representan una amenaza significativa para los consumidores, pero el aprendizaje automático puede ayudar a detectar las falsificaciones.

Sitios como TripAdvisor, Yelp y Amazon muestran reseñas de productos y servicios de los usuarios. Los consumidores prestan atención:nueve de cada diez personas leen estas revisiones por pares y confían en lo que ven. De hecho, hasta el 40 por ciento de los usuarios decide realizar una compra basándose en solo un par de reseñas, y las buenas críticas hacen que las personas gasten un 30 por ciento más en sus compras.

Sin embargo, no todas las reseñas son legítimas. Las reseñas falsas escritas por personas reales ya son comunes en los sitios de reseñas. pero es probable que la cantidad de falsificaciones generadas por las máquinas aumente sustancialmente.

Según el estudiante de doctorado Mika Juuti de la Universidad de Aalto, las revisiones falsas basadas en algoritmos son fáciles hoy en día, precisa y rápida de generar. La mayor parte del tiempo las personas no pueden distinguir entre las reseñas falsas genuinas y las generadas por máquinas.

"Las empresas que se portan mal pueden intentar aumentar sus ventas creando una imagen de marca positiva de forma artificial o generando críticas negativas falsas sobre un competidor. La motivación es:por supuesto, dinero:las reseñas en línea son un gran negocio para los destinos de viaje, hoteles, proveedores de servicios y productos de consumo, "dice Mika Juuti.

En 2017, investigadores de la Universidad de Chicago describieron un método para entrenar un modelo de aprendizaje automático, una red neuronal profunda, utilizando un conjunto de datos de tres millones de valoraciones reales de restaurantes en Yelp. Después del entrenamiento, el modelo generó reseñas de restaurantes falsas personaje a personaje.

Hubo un ligero contratiempo en el método, sin embargo; le costó mantenerse en el tema. Para una reseña de un restaurante japonés en Las Vegas, el modelo podría hacer referencias a un restaurante italiano en Baltimore. Este tipo de errores son, por supuesto, fácilmente detectado por los lectores.

Para ayudar al generador de reseñas a mantenerse en la marca, Juuti y su equipo utilizaron una técnica llamada traducción automática neuronal para darle al modelo un sentido de contexto. Usando una secuencia de texto de "calificación de revisión, nombre del restaurante, ciudad, estado, y etiquetas de alimentos, "empezaron a obtener resultados creíbles.

"En el estudio de usuarios que realizamos, mostramos a los participantes reseñas reales escritas por humanos y reseñas falsas generadas por máquinas y les pedimos que identificaran las falsificaciones. Se pensó erróneamente que hasta el 60 por ciento de las reseñas falsas eran reales, "dice Juuti.

Juuti y sus colegas luego idearon un clasificador que podría detectar las falsificaciones. El clasificador resultó funcionar bien, particularmente en los casos en los que los evaluadores humanos tuvieron más dificultades para decir si una revisión es real o no.

El estudio se realizó en colaboración con el grupo de investigación Secure Systems de la Universidad de Aalto e investigadores de la Universidad de Waseda en Japón. Se presentó en el Simposio Europeo de Investigación en Seguridad Informática de 2018 en septiembre.