La mayoría de nosotros conocemos plataformas tecnológicas como Facebook y seguimiento de Google, almacenar y ganar dinero con nuestros datos. Pero constantemente hay nuevas revelaciones sobre cuánta privacidad ha sido eliminada.

Lo último proviene del Wall Street Journal, que lanzó una bomba el viernes cuando sus pruebas revelaron que muchas aplicaciones populares de teléfonos inteligentes han estado enviando datos personales a Facebook. Según se informa, eso incluye datos de las aplicaciones de seguimiento de la frecuencia cardíaca y del período:"Flo Period &Ovulation Tracker de Flo Health Inc., que afirma tener 25 millones de usuarios activos, le dijo a Facebook cuando un usuario estaba teniendo su período o informó a la aplicación de su intención de quedar embarazada, las pruebas mostraron ".

Cuando usamos tecnologías que rastrean nuestros datos, entramos en un sistema regido por algoritmos. Y cuanta más información entreguemos, cuanto más nos entrelazamos con sistemas algorítmicos que no controlamos.

Necesitamos con urgencia protecciones que velen por nuestros intereses personales en este sistema. Proponemos el concepto de "guardianes algorítmicos" como una solución eficaz.

¿Cómo funcionan los algoritmos de seguimiento de datos?

Diario, sin nuestro conocimiento, las empresas de tecnología utilizan nuestros datos para predecir nuestros hábitos, preferencias y comportamiento. Los algoritmos que operan detrás de todo, desde los sistemas de recomendación de música hasta los sistemas de seguridad del hogar de reconocimiento facial, utilizan esos datos para crear una versión gemela digital de nosotros.

Luego, recibimos contenido y publicidad basados ​​en lo que el algoritmo ha decidido que queremos y necesitamos. sin explicar cómo se tomó esa decisión, o permitirnos cualquier aportación al proceso de toma de decisiones.

Y nuestros intereses probablemente estén en segundo lugar después de aquellos que desarrollaron el algoritmo.

Al contrario de lo que sugiere el concepto, no controlamos directamente la "personalización", y casi no tenemos forma de proteger nuestra autonomía en estas transacciones de datos y toma de decisiones.

¿Qué es un 'guardián algorítmico'?

Hemos propuesto el concepto de guardianes algorítmicos, que podría programarse para administrar nuestras interacciones digitales con plataformas sociales y aplicaciones de acuerdo con nuestras preferencias personales.

Se conciben como bots, asistentes personales o tecnología de hologramas que nos acompañan en todos los lugares en los que nos aventuramos en línea, y alertarnos de lo que sucede detrás de escena.

Estos guardianes son en sí mismos algoritmos, pero trabajan solo para nosotros. Como software de virus informático, aquellos que no protejan a los usuarios cerrarán, mientras que aquellos que ganen reputación como guardianes de confianza, triunfarán.

En terminos practicos, nuestros tutores nos harían reconocibles o anónimos cuando así lo decidamos. También alterarían nuestra identidad digital según nuestros deseos, para que podamos utilizar diferentes servicios con diferentes conjuntos de preferencias personales. Nuestros tutores mantienen nuestra información personal en nuestras propias manos asegurándose de que nuestras copias de seguridad y contraseñas estén seguras. Decidiríamos qué se recuerda y qué se olvida.

Un guardián algorítmico haría:

• alertarnos si nuestra ubicación, la actividad o las conversaciones en línea estaban siendo monitoreadas o rastreadas, y danos la opción de desaparecer
• Ayúdanos a comprender los puntos relevantes de los términos y condiciones largos y engorrosos cuando nos suscribimos a un servicio en línea.
• darnos una explicación simple cuando no entendemos qué está sucediendo con nuestros datos entre nuestra computadora, registros telefónicos y las docenas de aplicaciones que se ejecutan en segundo plano en nuestros teléfonos
• notificarnos si una aplicación está enviando datos desde nuestros teléfonos a terceros, y danos la opción de bloquearlo en tiempo real
• díganos si nuestros datos han sido monetizados por un tercero y para qué fueron.

Visualizamos a los guardianes algorítmicos como la próxima generación de asistentes personales actuales como Siri, Alexa o Watson. Gracias a la tecnología portátil y a los modelos avanzados de interacciones entre humanos y computadoras, serán de fácil y constante acceso.

Nuestros guardianes digitales no necesitan ser inteligentes de la misma manera que los humanos. Más bien, deben ser inteligentes en relación con el entorno que habitan, reconociendo y entendiendo los otros algoritmos que encuentran.

En todo caso, incluso si los guardianes algorítmicos (a diferencia de los algoritmos de terceros) son propiedad del usuario y están totalmente bajo nuestro propio control, Ser capaz de entender cómo funcionan será una prioridad para que sean plenamente fiables.

¿Cuándo llegarán los guardianes algorítmicos?

La tecnología para habilitar guardianes algorítmicos está surgiendo mientras hablamos. Lo que se está quedando atrás es la comprensión generalizada de que lo necesitamos.

Puede ver versiones primitivas de la tecnología de guardianes algorítmicos en bóvedas digitales para almacenar y administrar contraseñas, y en configuraciones de software que nos dan cierto control sobre cómo se utilizan nuestros datos.

El aprendizaje automático explicable es un tema candente en este momento, pero todavía mucho en el ámbito de la investigación. Aborda el problema de la "caja negra", donde no tenemos información sobre cómo un algoritmo llegó realmente a su decisión final. En la práctica, es posible que sepamos que nuestra solicitud de préstamo ha sido denegada, pero no sabemos si fue por nuestro historial de facturas de energía impagas, o por nuestro apellido.

Sin esta responsabilidad, momentos clave de nuestras vidas están mediados por desconocidos, invisible, y algoritmos arbitrarios. Los guardianes algorítmicos podrían asumir el papel de comunicar y explicar estas decisiones.

Ahora que los algoritmos se han vuelto omnipresentes en la vida diaria, la explicabilidad ya no es una opción, pero un área que requiere urgentemente más atención.

Necesitamos desarrollar modelos de guardián algorítmicos específicos en los próximos años para sentar las bases de los sistemas algorítmicos abiertos durante la próxima década. De esa manera, si una aplicación quiere decirle a Facebook que estás embarazada, lo sabrá antes de que suceda.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.