A Mustafa le encanta el buen café. En su tiempo libre, a menudo busca máquinas de café de alta gama que actualmente no puede pagar pero para las que está ahorrando. Un día, viajar a la boda de un amigo en el extranjero, se sienta junto a otro amigo en el avión. Cuando Mustafa se queja de cuánto pagó por su boleto, resulta que su amigo pagó menos de la mitad de lo que pagó, a pesar de que reservaron casi al mismo tiempo.

Investiga las posibles razones de esto y concluye que debe estar relacionado con su búsqueda de costosos equipos y máquinas de café. Está muy enojado por esto y se queja a la aerolínea, quienes le envían una disculpa tibia que se refiere a modelos de precios personalizados. Mustafa siente que esto es injusto pero no lo desafía. Seguirlo más le costaría tiempo y dinero.

Esta historia, que es hipotética, pero puede ocurrir y ocurre:demuestra el potencial de que las personas se vean perjudicadas por el uso de datos en la era actual de los "macrodatos". El análisis de big data implica el uso de grandes cantidades de datos de muchas fuentes que están vinculadas y analizadas para encontrar patrones que ayuden a predecir el comportamiento humano. Tal análisis, incluso cuando es perfectamente legal, puede dañar a las personas.

Mustafa, por ejemplo, Es probable que se haya visto afectado por prácticas de precios personalizados mediante las cuales su búsqueda de cafeteras de alta gama se ha utilizado para hacer ciertas suposiciones sobre su disposición a pagar o su poder adquisitivo. Esto, a su vez, puede haber llevado a su pasaje aéreo de mayor precio. Si bien esto no ha resultado en daños graves en el caso de Mustafa, Los casos de daños emocionales y financieros graves son, Desafortunadamente, no es raro, incluida la denegación de hipotecas para personas y los riesgos para la solvencia crediticia general de una persona con base en asociaciones con otras personas. Esto podría suceder si una persona comparte algunas características similares a otras personas que tienen un historial de pago deficiente.

También pueden ocurrir casos de daño emocional. Imagínese una pareja que descubre que está esperando un hijo muy deseado, pero sufre un aborto espontáneo a los cinco meses. La pareja puede descubrir que continúa recibiendo anuncios de tiendas especializadas en productos para bebés meses después. celebrando cuáles deberían haber sido "hitos" clave, causando angustia. Este es otro escenario hipotético pero completamente posible.

La ley, o la falta de ella

En muchos de estos casos, porque es posible que la práctica nociva no haya infringido ninguna ley, aquellos que se vieron perjudicados por el uso de datos tienen opciones legales limitadas o nulas abiertas para ellos. ¿Qué le pasó a Mustafa? por ejemplo, era perfectamente legal, ya que no existen leyes vigentes que prohíban los precios personalizados como tales. Nuestros sistemas legales actuales no protegen adecuadamente a las personas de los daños que surgen de los macrodatos.

Esto se debe a que es muy difícil rastrear cómo se vinculan y utilizan nuestros datos. Incluso si la compañía aérea hubiera hecho algo ilegal, como leyes de protección de datos infringidas, Sería casi imposible para Mustafa averiguarlo. Las personas que sienten que se han visto perjudicadas por el uso de datos pueden tener dificultades para mostrar cómo se han utilizado sus datos para causar este daño. qué datos estaban involucrados o qué controlador de datos los utilizó. Y, por lo tanto, es posible que carezcan de las pruebas que necesitarían para obtener un remedio legal.

Es más, incluso si muestran cómo algo que alguien hizo con sus datos los perjudicó, ese uso particular de la información del cliente, para ajustar los precios, por ejemplo, no puede ser ilegal.

Igualmente, el daño puede ser causado no por los propios datos, sino por el uso de datos de otras personas (datos de terceros). Por ejemplo, en el caso de Mustafa, podría ser que otras personas que también estaban interesadas en costosas máquinas de café tuvieran ingresos muy altos, o compró artículos caros. Esto puede haber sido usado para sugerir que Mustafa también entraba en esta categoría, lo que puede haber resultado en precios más altos para él por otros productos. Una persona perjudicada por el uso de datos de terceros a menudo no tendrá recursos en virtud de las leyes de protección de datos vigentes.

Un nuevo sistema

Para ayudar a abordar estos problemas, sostenemos que debemos aceptar que algunos riesgos del uso de datos no se pueden prevenir. En lugar de centrarse únicamente en tratar de minimizar o evitar tales riesgos, también necesitamos encontrar formas de brindar un mejor apoyo a las personas que sufren daños por el uso de datos, por ejemplo, monitoreando activamente y respondiendo a los daños causados ​​por el uso de datos, incluidos los usos legales de los datos.

Creemos que como parte de este sistema, debería crearse un nuevo tipo de institución. Los llamamos organismos de mitigación de daños. Estos se establecerían a nivel nacional, y las personas que se sintieron perjudicadas por el uso de datos, pero no calificaba para recursos legales, podría acudir a ellos para informarles sobre el daño que creen que surgió del uso de datos. A diferencia de los remedios tradicionales, Los organismos de mitigación de daños podrían brindar apoyo incluso en los casos en que no se viola ninguna ley. Serían fáciles de usar para las personas y flexible, para que puedan ayudar a las personas dónde y cómo más lo necesitan, otorgando a las personas más poder y fortaleciendo la responsabilidad colectiva por el uso de datos.

Estos organismos propuestos recopilarían información sobre los tipos de daños que ocurren:actualmente no existen organismos nacionales o internacionales que recopilen información sobre daños a los datos de forma sistemática. También enviarían información a los encargados de formular políticas y a los usuarios de datos para ayudar a mejorar la forma en que se hacen las cosas. Y en los casos en que las personas sufren daños económicos pero no tienen acceso a ayuda legal, también podrían proporcionar apoyo financiero.

El análisis de big data es elogiado con razón por las muchas oportunidades nuevas que ofrece. Pero será inevitable que algunas personas resulten perjudicadas. Como una sociedad, tenemos que afrontar esta verdad, y brindar una mejor asistencia a quienes sufren daños, para que nadie que asuma los costos de estas nuevas prácticas se quede solo.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.