El gigante tecnológico estadounidense Microsoft se ha asociado con una universidad militar china para desarrollar sistemas de inteligencia artificial que potencialmente podrían mejorar las capacidades de vigilancia y censura del gobierno. Dos senadores estadounidenses condenaron públicamente la asociación, pero lo que la Universidad de Tecnología de Defensa Nacional de China quiere de Microsoft no es la única preocupación.

Como muestra mi investigación, El advenimiento de la represión digital está afectando profundamente la relación entre ciudadano y Estado. Las nuevas tecnologías están armando a los gobiernos con capacidades sin precedentes para monitorear, rastrear y vigilar a personas individuales. Incluso los gobiernos de las democracias con fuertes tradiciones de estado de derecho se ven tentados a abusar de estas nuevas capacidades.

En estados con instituciones que no rinden cuentas y frecuentes abusos contra los derechos humanos, Los sistemas de IA probablemente causarán un daño mayor. China es un ejemplo destacado. Su liderazgo ha adoptado con entusiasmo las tecnologías de IA, y ha establecido el estado de vigilancia más sofisticado del mundo en la provincia de Xinjiang, rastrear los movimientos diarios de los ciudadanos y el uso de teléfonos inteligentes.

Su explotación de estas tecnologías presenta un modelo escalofriante para sus compañeros autócratas y representa una amenaza directa para las sociedades democráticas abiertas. Aunque no hay evidencia de que otros gobiernos hayan replicado este nivel de vigilancia de la IA, Las empresas chinas están exportando activamente las mismas tecnologías subyacentes en todo el mundo.

Mayor dependencia de las herramientas de inteligencia artificial en EE. UU.

Los sistemas de inteligencia artificial están en todas partes del mundo moderno, ayudando a ejecutar teléfonos inteligentes, motores de búsqueda de internet, asistentes de voz digitales y colas de películas de Netflix. Muchas personas no se dan cuenta de la rapidez con la que se expande la IA. gracias a la cantidad cada vez mayor de datos que se analizarán, mejorando algoritmos y chips informáticos avanzados.

Cada vez que haya más información disponible y el análisis sea más fácil, los gobiernos están interesados, y no solo los autoritarios. En los EE.UU., por ejemplo, la década de 1970 vio revelaciones de que las agencias gubernamentales, como el FBI, CIA y NSA - habían establecido amplias redes de vigilancia doméstica para monitorear y acosar a los manifestantes por los derechos civiles, activistas políticos y grupos de nativos americanos. Estos problemas no han desaparecido:la tecnología digital actual ha profundizado la capacidad de más agencias para llevar a cabo una vigilancia aún más intrusiva.

Por ejemplo, La policía de EE. UU. Ha adoptado con entusiasmo las tecnologías de inteligencia artificial. Han comenzado a usar un software que está destinado a predecir dónde ocurrirán los delitos para decidir dónde enviar a los oficiales a patrullar. También utilizan el reconocimiento facial y el análisis de ADN en investigaciones penales. Pero los análisis de estos sistemas muestran que los datos sobre los que se entrenan esos sistemas a menudo están sesgados, conduciendo a resultados injustos, como determinar falsamente que los afroamericanos tienen más probabilidades de cometer delitos que otros grupos.

Vigilancia de IA en todo el mundo

En países autoritarios, Los sistemas de inteligencia artificial pueden ayudar directamente al control y la vigilancia domésticos, ayudar a las fuerzas de seguridad internas a procesar cantidades masivas de información, incluidas las publicaciones en las redes sociales, mensajes de texto, correos electrónicos y llamadas telefónicas, de manera más rápida y eficiente. La policía puede identificar tendencias sociales y personas específicas que podrían amenazar al régimen basándose en la información descubierta por estos sistemas.

Por ejemplo, el gobierno chino ha utilizado la inteligencia artificial en medidas enérgicas a gran escala en regiones que albergan a minorías étnicas dentro de China. Los sistemas de vigilancia en Xinjiang y Tibet han sido descritos como "orwellianos". Estos esfuerzos han incluido muestras de ADN obligatorias, Monitoreo de la red Wi-Fi y cámaras de reconocimiento facial generalizadas, todos conectados a plataformas integradas de análisis de datos. Con la ayuda de estos sistemas, Las autoridades chinas tienen, según el Departamento de Estado de EE. UU., "Detenidos arbitrariamente" entre 1 y 2 millones de personas.

Mi investigación analiza 90 países de todo el mundo con tipos de gobierno que van desde autoritarios cerrados hasta democracias defectuosas, incluyendo Tailandia, Pavo, Bangladesh y Kenia. Descubrí que las empresas chinas están exportando tecnología de vigilancia de inteligencia artificial a al menos 54 de estos países. Frecuentemente, esta tecnología está empaquetada como parte de la iniciativa insignia de la Franja y la Ruta de China, que financia una extensa red de carreteras, vias ferreas, oleoductos y redes de telecomunicaciones que atienden al 60% de la población mundial y economías que generan el 40% del PIB mundial.

Por ejemplo, Empresas chinas como Huawei y ZTE están construyendo "ciudades inteligentes" en Pakistán, Filipinas y Kenia, con una amplia tecnología de vigilancia incorporada. Por ejemplo, Huawei ha equipado Bonifacio Global City en Filipinas con cámaras de alta definición conectadas a Internet que brindan "vigilancia de seguridad inteligente 24/7 con análisis de datos para detectar delitos y ayudar a administrar el tráfico".

Hikvision, Yitu y SenseTime están suministrando cámaras de reconocimiento facial de última generación para su uso en lugares como Singapur, que anunció el establecimiento de un programa de vigilancia con 110, 000 cámaras montadas en postes de luz alrededor de la ciudad-estado. Zimbabwe está creando una base de datos nacional de imágenes que se puede utilizar para el reconocimiento facial.

Sin embargo, vender equipos avanzados con fines de lucro es diferente a compartir tecnología con un propósito geopolítico expreso. Estas nuevas capacidades pueden plantar las semillas de la vigilancia global:a medida que los gobiernos se vuelven cada vez más dependientes de la tecnología china para gestionar sus poblaciones y mantener el poder, enfrentarán una mayor presión para alinearse con la agenda de China. Pero por ahora parece que el motivo principal de China es dominar el mercado de nuevas tecnologías y ganar mucho dinero en el proceso.

IA y desinformación

Además de proporcionar capacidades de vigilancia amplias y detalladas, La IA puede ayudar a los gobiernos represivos a manipular la información disponible y difundir desinformación. Estas campañas pueden ser automatizadas o asistidas por automatización, y desplegar mensajes hiperpersonalizados dirigidos a (o contra) personas o grupos específicos.

La IA también sustenta la tecnología comúnmente llamada "deepfake, "en el que los algoritmos crean falsificaciones de audio y video realistas. Enlodar las aguas entre la verdad y la ficción puede resultar útil en una elección apretada, cuando un candidato puede crear videos falsos que muestren a un oponente haciendo y diciendo cosas que en realidad nunca sucedieron.

En mi opinión, Los responsables de la formulación de políticas en las democracias deberían pensar detenidamente sobre los riesgos de los sistemas de IA para sus propias sociedades y para las personas que viven bajo regímenes autoritarios en todo el mundo. Una pregunta fundamental es cuántos países adoptarán el modelo de vigilancia digital de China. Pero no solo los países autoritarios están sintiendo el tirón. Y tampoco son solo las empresas chinas que difunden la tecnología:muchas empresas estadounidenses, Microsoft incluido, pero IBM, Cisco y Thermo Fisher también, han proporcionado capacidades sofisticadas a gobiernos desagradables. El mal uso de la IA no se limita a los estados autocráticos.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.