Podemos recordar 2018 como el año en que el potencial distópico de la tecnología se hizo evidente, desde el papel de Facebook que permite la recolección de nuestros datos personales para la interferencia electoral hasta una serie aparentemente interminable de revelaciones sobre el lado oscuro del espíritu de conectar todo de Silicon Valley.

La lista es larga:herramientas de alta tecnología para la represión de la inmigración. Miedos a la adicción a los teléfonos inteligentes. Algoritmos de YouTube que llevan a los jóvenes al extremismo. Un experimento en bebés editados genéticamente.

Timbres y salas de conciertos que pueden identificar rostros individuales y alertar a la policía. Reutilización de sitios web de genealogía para buscar sospechosos de delitos basados ​​en el ADN de un familiar. Sistemas automatizados que controlan los movimientos y hábitos de los trabajadores. Coches eléctricos en Shanghai transmitiendo todos sus movimientos al gobierno.

Ha sido suficiente para agotar incluso a los visionarios de ciencia ficción más imaginativos.

"No parece que estemos viviendo en el futuro ahora, como que vivimos en un futuro retro, ", escribió el novelista William Gibson este mes en Twitter. goofy retro-future de los 90 ".

Más nos espera en 2019, a medida que aumentan los esfuerzos de vigilancia y recopilación de datos y los sistemas de inteligencia artificial comienzan a parecer más humanos, leer expresiones faciales y generar imágenes de video falsas tan realistas que será más difícil detectar distorsiones maliciosas de la verdad.

Pero también hay contramedidas en marcha en el Congreso y el gobierno estatal, e incluso entre los empleados de las empresas de tecnología que son más activos para garantizar que su trabajo tenga fines positivos.

"Algo que fue alentador este año fue que, junto con este desfile de escándalos, hubo una creciente conciencia pública de que hay una crisis de responsabilidad en la tecnología, "dijo Meredith Whittaker, cofundador del AI Now Institute de la Universidad de Nueva York para estudiar las implicaciones sociales de la inteligencia artificial.

El grupo ha compilado una larga lista de lo que hizo que 2018 fuera tan siniestro, aunque muchos son ejemplos de que el público simplemente se está dando cuenta de los problemas que se han acumulado durante años. Uno de los casos más preocupantes fue la revelación en marzo de que la empresa de extracción de datos políticos Cambridge Analytica barrió la información personal de millones de usuarios de Facebook con el propósito de manipular las elecciones nacionales.

"Realmente ayudó a que la gente se diera cuenta de que estos sistemas realmente están tocando el núcleo de nuestras vidas y dando forma a nuestras instituciones sociales, "Dijo Whittaker.

Eso fue además de otros desastres de Facebook, incluido su papel en el fomento de la violencia en Myanmar, importantes violaciones de datos y preocupaciones constantes sobre el alojamiento de cuentas falsas para la propaganda rusa.

No era solo Facebook. Google atrajo la preocupación por su vigilancia continua de los usuarios después de que The Associated Press informara que estaba rastreando los movimientos de las personas, les guste o no.

También enfrentó disensos internos sobre su colaboración con el ejército estadounidense para crear drones con "visión por computadora" para ayudar a encontrar objetivos en el campo de batalla y una propuesta secreta para lanzar un motor de búsqueda censurado en China. Y dio a conocer un asistente de voz notablemente humano que suena tan real que las personas al otro lado del teléfono no sabían que estaban hablando con una computadora.

Esas y otras preocupaciones surgieron en diciembre cuando los legisladores interrogaron al director ejecutivo de Google, Sundar Pichai, en una audiencia del Congreso, una secuela de cálculos públicos similares de este año con el director ejecutivo de Facebook, Mark Zuckerberg, y otros ejecutivos de tecnología.

"Era necesario convocar esta audiencia debido a la creciente brecha de desconfianza entre las empresas de tecnología y el pueblo estadounidense, ", Dijo el líder de la mayoría republicana en la Cámara de Representantes, Kevin McCarthy.

El pionero de Internet Vint Cerf dijo que él y otros ingenieros nunca imaginaron que su visión de una red mundial de computadoras conectadas se transformaría 45 años después en un sistema de vigilancia que recopila información personal o una máquina de propaganda que podría influir en las elecciones.

"Solo intentábamos que funcionara, "recordó Cerf, que ahora es el principal evangelista de Internet de Google. "Pero ahora que está en manos del público en general, hay personas que ... quieren que funcione de una manera que obviamente daña, o se benefician ellos mismos, o perturba el sistema político. Así que vamos a tener que lidiar con eso ".

Contrariamente a los temores futuristas de que los robots "superinteligentes" tomen el control, los peligros reales de nuestra era tecnológica se han infiltrado de manera más prosaica, a menudo en forma de innovaciones tecnológicas que agradecemos por hacer la vida más conveniente.

Parte de la preocupación de los expertos sobre el salto hacia la conexión de todos los dispositivos domésticos a Internet y dejar que las computadoras hagan nuestro trabajo es que la tecnología todavía tiene fallas y está influenciada por errores y prejuicios humanos. Uber y Tesla fueron investigados por accidentes fatales de autos sin conductor en marzo, IBM fue objeto de escrutinio por trabajar con la policía de la ciudad de Nueva York para construir un sistema de reconocimiento facial que pueda detectar el origen étnico. y Amazon recibió críticas por proporcionar su propio servicio de reconocimiento facial defectuoso a las agencias de aplicación de la ley.

En algunos casos, La oposición a la prisa de la industria tecnológica por aplicar sus innovaciones más recientes a usos comerciales cuestionables proviene de sus propios empleados. Los trabajadores de Google ayudaron a echar a pique el contrato de drones del Pentágono de la empresa, y trabajadores de Amazon, Microsoft y Salesforce buscaron cancelar los contratos de sus empresas para suministrar servicios tecnológicos a las autoridades de inmigración.

"Se volvió obvio para mucha gente que la retórica de hacer el bien y beneficiar a la sociedad y 'No seas malvado' no era lo que estas empresas realmente estaban haciendo, "dijo Whittaker, quien también es un científico investigador en Google que fundó su grupo de Investigación Abierta.

Al mismo tiempo, incluso algunos titanes de la tecnología han hecho sonar las alarmas. Los ingenieros y diseñadores destacados se han pronunciado cada vez más sobre proteger a los niños de los productos tecnológicos que crean hábitos que ayudaron a crear.

Y luego está el presidente de Microsoft, Brad Smith, quien en diciembre pidió la regulación de la tecnología de reconocimiento facial para que "el año 2024 no parezca una página" de "1984" de George Orwell.

En una publicación de blog y un discurso en Washington, Smith pintó una visión sombría de los sistemas de vigilancia del gobierno que todo lo ve obligando a los disidentes a esconderse en habitaciones oscuras "para introducir códigos con señales de mano en los brazos de los demás".

Para evitar un escenario tan orwelliano, Smith aboga por regular la tecnología para que cualquier persona que esté a punto de someterse a vigilancia sea debidamente notificada. Pero los defensores de la privacidad argumentan que eso no es suficiente.

Tales debates ya están ocurriendo en estados como Illinois, donde una estricta ley de reconocimiento facial ha enfrentado desafíos de la industria tecnológica, y California, que en 2018 aprobó la ley de mayor alcance del país para dar a los consumidores más control sobre sus datos personales. Entra en vigor en 2020.

El tema podría recibir nueva atención en el Congreso el próximo año a medida que más republicanos se acerquen a la idea de las regulaciones básicas de privacidad en línea y la mayoría demócrata entrante adopte un enfoque más escéptico hacia las empresas de tecnología que muchos políticos liberales alguna vez vieron como aliados y como donantes prolíficos de campaña. .

El enfoque de "déjalos en paz" de la era de Internet temprana ya no funcionará, dijo el representante David Cicilline, un demócrata de Rhode Island preparado para tomar el mando del subcomité antimonopolio de la Cámara.

"Estamos viendo ahora algunas de las consecuencias de los abusos que pueden ocurrir en estas plataformas si permanecen sin regular sin una supervisión o aplicación significativa, "Dijo Cicilline.

Demasiada regulación puede traer sus propios efectos secundarios indeseables, Cerf advirtió.

"Es gracioso en cierto modo porque se suponía que este entorno en línea eliminaría la fricción de nuestra capacidad para realizar transacciones, ", dijo." Si en nuestro deseo, si no celo, para proteger la privacidad de las personas arrojamos arena en los engranajes de todo, podemos terminar con un sistema muy seguro que no funciona muy bien ".

© 2018 The Associated Press. Reservados todos los derechos.