Recientemente asistí a una gran reunión de profesores para discutir la evaluación de los estudiantes graduados, reclutamiento y retención.

"Deje que los datos impulsen sus objetivos, "repitió uno de los oradores, como un mantra, con entusiasmo y convicción genuinos, y no pude evitar hacer una mueca.

El lema me pareció sintomático de lo que la psicóloga social Shoshana Zuboff ha denominado un "golpe de estado".

Si un golpe de Estado denota la sustitución ilegal de un sistema político por otro, un coup des gens - "gens" que significa "pueblo" en francés - se caracteriza por la sustitución forzada de seres humanos por sistemas de información abstractos.

En mi libro reciente, "El yo terminal, "Muestro cómo nos vemos cada vez más obligados a interactuar con la tecnología informática en todos los aspectos de nuestra vida diaria. Entre muchos otros efectos, esta interacción forzada nos obliga a sincronizar nuestras funciones cognitivas con la lógica de la computadora y alimentarla con un sinfín de flujos de datos, haciéndonos maduros para la vigilancia y la explotación constantes.

Gestionar los flujos de 'el nuevo aceite'

Las empresas ahora utilizan los datos para ayudarles a evaluar, rango, seleccionar o descartar clientes potenciales. Puede usarse para medir el riesgo médico, solvencia crediticia, Salud psicológica, desempeño laboral, hábitos de gasto, preferencias de comida, estados de ánimo, preferencias de citas y opiniones políticas.

Como dijo la Comisaria europea de Consumidores, Meglena Kuneva, "Los datos personales son el nuevo aceite de Internet y la nueva moneda del mundo digital".

El alto valor otorgado a los datos ha dado lugar a lo que el sociólogo francés Paul Virilio llama un "fundamentalismo informacional", una ideología que exalta la información digital como el bien último y el poder supremo al que todos deben rendir su voluntad. tiempo y sentido común.

Para funcionar de manera eficiente, la mayoría de las instituciones deben gestionar de forma inteligente estos crecientes flujos de datos. Sin embargo, la capacidad tecnológica para gestionar grandes cantidades de datos no conduce necesariamente a un análisis inteligente.

De lo contrario, señala el académico de estudios de medios Mark Andrejevic, "Nos hemos convertido en analistas de inteligencia clasificando más datos de los que podemos absorber". Las personas simplemente no tienen la capacidad intelectual para examinar los flujos de información en constante crecimiento que necesitan procesar y extraer para tomar decisiones inteligentes.

Una parte cada vez mayor de nuestra vida cotidiana requiere no solo procesar las "bombas de información":los correos electrónicos, mensajes noticias y anuncios de última hora, que detonan aleatoriamente en nuestra vida diaria. También exige que ingresemos información constantemente en el sistema.

Piense en el creciente número de trabajadores del conocimiento y profesionales en diferentes sectores de la economía que esencialmente se han convertido en asistentes de entrada de datos. Su trabajo consiste principalmente en proporcionar siempre más información a un organismo digital cada vez más hambriento, por razones que parecen obvias pero que rara vez se cuestionan.

Lo vemos en los datos de nivel granular que ahora se espera que muchos maestros de escuelas públicas ingresen sobre todos los aspectos del aprendizaje de sus estudiantes. Lo vemos en el infinito y a menudo defectuoso, encuestas a los profesionales de todo tipo que deben completar sobre sus tareas diarias, progreso y "satisfacción".

Este trabajo de ingreso de datos alucinante capacita a los trabajadores del conocimiento, los aliena y traiciona una trágica mala gestión del capital humano.

El caballo de Troya digital

Si el deber de ingresar información se aplica abiertamente en el trabajo, se induce de forma encubierta en casa. Siempre que navegamos tranquilamente por Internet, consultar sitios web, haciendo clic en enlaces o compartiendo nuestras imágenes, política y preferencias, también estamos, de mala gana y sin saberlo, produciendo gigantescos volúmenes de información. Otros invisibles luego cosechan con avidez, Tienda, organizar y vender estos datos con fines de control social, persuasión y modificación de la conducta.

"En Google, eres lo que haces clic. En Facebook, eres lo que compartes, "escribe el CEO de Upworthy, Eli Pariser.

Esta extracción de información digital puede influir en la vida humana real. En su extenso análisis de la vigilancia corporativa en la vida cotidiana, El estudioso de la cultura digital Wolfe Christl advierte que las empresas de minería de datos están manejando datos personales para tomar automáticamente decisiones sobre las personas que pueden empeorar las desigualdades existentes.

Por ejemplo, Christl muestra cómo las empresas de análisis de la salud como GNS Healthcare recopilan cantidades masivas de datos de la genómica, registros médicos, datos de laboratorio y dispositivos de salud móviles para proporcionar información sobre los usuarios a las compañías de seguros de salud. Estas empresas pueden entonces manipular significativamente los costos del seguro médico para diferentes categorías de solicitantes.

Similar, señala que los datos recopilados sobre la estabilidad emocional de alguien, la felicidad y la probabilidad de tener un bebé pueden influir en su contratación, retenido o promovido.

Con algoritmos que desplazan cada vez más a los humanos en este tipo de toma de decisiones, el destino de los ciudadanos está cada vez más determinado por los sistemas de información. Como explica Zuboff, es una tendencia que reduce a las personas a fuentes de extracción de datos y objetivos de explotación.

El aspecto más desconcertante de esta situación no son las capacidades de vigilancia en sí mismas, tan desalentadores como son. Es nuestra sumisión tácita a un régimen de vigilancia constante y remota que, excepto en películas de espías o delirios paranoicos, se habría considerado absurdo hace algunas décadas.

Más preocupante en una entrevista de 2017 en "60 Minutes, "El exgerente de marketing de Google, Tristan Harris, explicó los motivos insidiosos de la recolección de datos:las empresas de tecnología no solo están tratando de encontrar información sobre los usuarios para venderla a las empresas que desean impulsar la mercancía. Están compitiendo para crear la mejor" piratería cerebral "programas que recopilan la información más precisa sobre lo que hace que los usuarios se muevan emocionalmente y lo que llama su atención.

El objetivo es manipular las reacciones emocionales de los usuarios, de forma remota y a nivel neuronal. En las manos equivocadas Este tipo de manipulación se puede utilizar no solo para vender cosas a la gente, sino también para influir en sus decisiones políticas. Según el politólogo Collin Bennett, este proyecto está bien encaminado.

Acceso denegado

Para colmo de males, es casi imposible que los usuarios detecten qué información se recopila sobre ellos, quién lo recolecta y qué hacen con él.

Cada deslizamiento en la pantalla de un teléfono inteligente y cada mensaje que se escribe se registra como "señales" que ayudan a obtener información sobre la personalidad de un usuario. intereses, estado de ánimo y salud financiera. Las puntuaciones de crédito de los amigos de Facebook de un usuario pueden incluso utilizarse para calcular su propia solvencia. Debido al completo anonimato de las agencias que recopilan y utilizan estos datos, es poco realista esperar que uno pueda corregir - y evitar las consecuencias de - los errores que inevitablemente surgen en el "perfil" de alguien.

Es angustioso sentirse monitoreado unilateralmente, impotente y desinformado. Según un estudio, aquellos que se dan cuenta de que su privacidad ha sido expuesta sin su consentimiento experimentan "emociones, respuestas psicoanalíticas y corporales que a veces son increíblemente profundas ".

Pero esta vigilancia también es una forma de explotación.

Después de todo, somos nosotros los que producimos esta información. Somos los que sacrificamos cada vez más nuestro tiempo para leer las pautas del sitio web, ver vídeos instructivos, completar formularios digitales, reenviar información, Mantener las redes sociales digitales y generar información valiosa sobre nosotros mismos para que otros la utilicen.

Quienes generan este valor, ¿no deberían tener más control sobre las condiciones de su producción? venta, difusión y uso? Y si este derecho no puede otorgarse debido a inextricables dificultades tecnológicas, ¿No debería imponerse el mismo nivel de transparencia a quienes recopilan, venderlo y usarlo?

El régimen del algoritmo

La creciente dependencia de la información, la normalización de la vigilancia y el uso cada vez mayor de los sistemas de información para tomar decisiones importantes sobre la vida de los ciudadanos equivale a un "golpe de estado".

Sin embargo, la democracia requiere privacidad, y la libertad implica protección contra la invasión, ya sea físico o digital. En su famoso tratado sobre la Cuarta Enmienda, El juez de la Corte Suprema Brandeis argumentó que "el derecho a ser dejado solo" es "el derecho más valorado por los hombres civilizados" y es "fundamental para una sociedad libre y civil".

Los ciudadanos adultos de una sociedad democrática deberían tener derecho a decidir qué tipo de información se recopila sobre ellos. quiénes pueden usar esa información y cómo pueden usarla. Deben tener derecho a verificar que esta información sea precisa y, cuando no lo es para corregirlo. Deberían tener el derecho, y la responsabilidad, de cuestionar esta adicción bulímica por los datos y su propósito final.

Como escribe Dave Eggers en su novela "El círculo, "" La búsqueda incesante de datos para cuantificar el valor de cualquier esfuerzo es catastrófica para la verdadera comprensión ".

Este artículo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el artículo original.