Allá por la década de 1990, hace toda una vida en términos de Internet, el sociólogo español Manuel Castells publicó varios libros que trazaban el auge de las redes de información. Predijo que en la era de las redes, Se acumularía más valor controlando los flujos de información que controlando el contenido en sí.

En otras palabras, aquellos que se posicionaron a sí mismos como centros de red (los enrutadores y conmutadores de información) se convertirían en los guardianes del poder en la era digital.

Con el auge de los gigantes de Internet Google, Facebook, Amazon y otros, esta idea parece obvia ahora. Pero durante las últimas dos décadas, surgió un modelo de negocio fundamentalmente nuevo que ni siquiera Castells había previsto:uno en el que atraer usuarios a las plataformas digitales tiene prioridad sobre todo lo demás, incluido lo que el usuario podría decir, hacer, o compra en esa plataforma.

La recopilación de información se convirtió en el imperativo dominante para los gigantes tecnológicos, ayudados voluntariamente por usuarios encantados primero por la novedad, luego, por la conveniencia y la autoexpresión que ofrece estar en línea. El resultado fue una explosión de información, que los gigantes en línea pueden recopilar y utilizar con fines de lucro.

La gran escala de esta empresa significa que gran parte de ella es invisible para el usuario cotidiano. Las grandes plataformas son ahora tan complejas que su funcionamiento interno se ha vuelto opaco incluso para sus ingenieros y administradores. Si el sistema ahora es tan grande que ni siquiera quienes trabajan en él pueden ver la imagen completa, Entonces, ¿qué esperanzas tienen los reguladores o el público?

Por supuesto, los gobiernos están tratando de contraatacar. Las leyes de GDPR en Europa, el informe ACCC Digital Platforms en Australia, y la Ley DETOUR presentada al Congreso de los Estados Unidos en abril, todos son intentos significativos de recuperar alguna agencia. Al mismo tiempo, las sociedades de todo el mundo están empezando a comprender que estos esfuerzos, si bien es crucial, no son suficientes.

Los porteros reinan supremo

Si piensa en Internet como una máquina gigantesca para compartir y copiar información, entonces queda claro que los sistemas para clasificar esa información son de vital importancia. No pienses solo en la herramienta de búsqueda de Google, pero también de la forma en que Google y Amazon dominan la computación en la nube, los sistemas en gran parte invisibles que hacen que Internet sea utilizable.

Tiempo extraordinario, estas plataformas han logrado un control cada vez mayor sobre cómo fluye la información a través de ellas. Pero es un tipo de control desconocido, cada vez más involucrando a los autónomos, sistemas de autoaprendizaje que son cada vez más inescrutables para los humanos.

El control de la información es primordial, por eso, plataformas como Google, Amazon y Facebook se han elevado a la supremacía. Pero eso no significa que estas plataformas necesariamente deban competir o coludir entre sí. Internet es realmente enorme un hecho que ha permitido que cada plataforma se convierta en emperador de un nicho en crecimiento:Google para búsqueda, Facebook para redes sociales, Amazon para minoristas, etcétera. En cada dominio, desempeñaron el papel de titulares, disruptor, e innovador, todo al mismo tiempo.

Ahora nadie compite con ellos. Si eres un individuo, negocio, o gobierno, si necesitas internet, necesitas sus servicios. Los monstruos de la era de las redes son estructurales.

Los algoritmos están ejecutando el espectáculo

Para que estas plataformas se mantengan en la cima, la innovación es un requisito constante. A medida que el trabajo de clasificación se hace cada vez más grande y complejo, estamos viendo el desarrollo de algoritmos tan avanzados que sus creadores humanos han perdido la capacidad de comprender su funcionamiento interno. Y si el resultado satisface la tarea en cuestión, el funcionamiento interno del sistema se considera de menor importancia.

Mientras tanto, la letanía de efectos adversos es innegable. Este nuevo y valiente mundo dirigido por máquinas está erosionando nuestra capacidad para identificar, localizar, y confiar en información autorizada, a favor de la velocidad.

Es cierto que el paciente ya se encontraba mal; Las sociedades han sido vaciadas por tres décadas de fundamentalismo de mercado. Pero como advirtió recientemente el historiador de tecnología estadounidense George Dyson, El código de autorreplicación está ahora disponible en el ecosistema cibernético. Lo que comenzó como una forma de que los humanos persuadieran a otros a adoptar los comportamientos deseados ahora amenaza con transformarse en nada menos que la manipulación de humanos por parte de máquinas.

La era digital ha estimulado un enorme crecimiento en disciplinas de investigación como la psicología social, conducta economica, y neurociencia. Han aportado conocimientos asombrosos sobre la cognición y el comportamiento humanos, con usos potenciales que están lejos de ser benignos.

Incluso si este esfuerzo hubiera sido fundado con las mejores intenciones, Los accidentes abundan cuando los humanos falibles intervienen en sistemas complejos con bases éticas y legales incipientes. Agregue intenciones malignas a la mezcla:interferencia electoral, guerra de información, extremismo en línea, y los desafíos solo aumentan.

Si todavía piensa en las tecnologías digitales como herramientas, lo que implica que usted, el usuario, tienen el control total, es necesario que lo piense de nuevo. La verdad es que nadie sabe realmente adónde nos llevará el código digital autorreplicable. Tu eres la retroalimentación no la instrucción.

Los reguladores no saben por dónde empezar

Existe un consenso cada vez mayor de que se requiere urgentemente una intervención reguladora para evitar más trastornos sociales, y llevar la supervisión democrática y legal a las prácticas de los monopolios más grandes del mundo. Pero, si Dyson tiene razón, el genio ya está fuera de la botella.

Encantado por la novedad y la comodidad de la vida en línea, Sin darnos cuenta, hemos permitido que Silicon Valley realice un "golpe desde arriba". Ya es hora de que la ideología que inspiró este golpe, y ahora gobierna gran parte de la actividad humana cotidiana, está expuesta a escrutinio.

Los desafíos de la era de la información digital se extienden más allá de los monopolios y la privacidad. Este régimen de tecnologías fue construido por diseño sin preocupaciones sobre la explotación. Esas vulnerabilidades son extensas y se seguirán abusando de ellas. y ahora que esta tecnología es una parte tan íntima de la vida diaria, su remediación debe llevarse a cabo sin temor ni favoritismos.

Sin embargo, la intervención legislativa y reglamentaria solo puede ser eficaz si la industria, los gobiernos y la sociedad civil se combinan para construir, por diseño, una era de la información digital digna de ese nombre, lo que no nos deja a todos abiertos a la explotación.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.