A medida que la inteligencia artificial se vuelve más omnipresente, su potencial y los desafíos que presenta se están enfocando cada vez más. La forma en que equilibramos los riesgos y las oportunidades se perfila como una de las cuestiones definitorias de nuestra era. De la misma manera que las ciudades han surgido como centros de innovación en cultura, política y comercio, también están definiendo las fronteras de la gobernanza de la IA.

Algunos ejemplos de cómo las ciudades han tomado la iniciativa incluyen la Coalición de Ciudades por los Derechos Digitales, la Declaración de Montreal para una IA Responsable y el Diálogo Abierto sobre Ética de la IA. Otros se pueden encontrar en la prohibición de la tecnología de reconocimiento facial de San Francisco y el impulso de la ciudad de Nueva York para regular la venta de sistemas de contratación automatizados y la creación de un oficial de políticas y gestión de algoritmos. Los institutos urbanos, las universidades y otros centros educativos también han avanzado con una serie de iniciativas de ética de la IA.

Estos esfuerzos apuntan a un paradigma emergente al que se ha denominado localismo de IA. Es parte de un fenómeno más grande, a menudo llamado Nuevo Localismo, que involucra a las ciudades que toman la iniciativa en la regulación y la formulación de políticas para desarrollar enfoques específicos del contexto para una variedad de problemas y desafíos. También hemos visto una mayor adopción de enfoques centrados en la ciudad dentro de los marcos del derecho internacional.

Al hacerlo, las autoridades municipales están llenando los vacíos dejados por marcos de gobernanza estatales, nacionales o globales insuficientes relacionados con la IA y otros temas complejos. Los últimos años, por ejemplo, han visto el surgimiento del "localismo de banda ancha", en el que los gobiernos locales abordan la brecha digital; y "localismo de privacidad", ambos en respuesta a los desafíos planteados por el mayor uso de datos para la aplicación de la ley o el reclutamiento.

El localismo de la IA abarca una amplia variedad de problemas, partes interesadas y contextos. Además de las prohibiciones del reconocimiento facial impulsado por IA, los gobiernos e instituciones locales están analizando las reglas de adquisición relacionadas con el uso de IA por parte de entidades públicas, los registros públicos de los sistemas de IA de los gobiernos locales y los programas de educación pública sobre IA. Pero incluso a medida que se multiplican las iniciativas y los estudios de casos, todavía nos falta un método sistemático para evaluar su eficacia, o incluso la necesidad misma de ellos. Esto limita la capacidad de los legisladores para desarrollar una regulación adecuada y, en términos más generales, frena el crecimiento del campo.

Creación de un marco de localismo de IA

A continuación se presentan diez principios para ayudar a sistematizar nuestro enfoque del localismo de IA. Considerados en conjunto, se suman a un marco incipiente para implementar y evaluar iniciativas en todo el mundo:

• Los principios proporcionan una estrella polar para la gobernanza: Establecer y articular un conjunto claro de principios rectores es un punto de partida esencial. Por ejemplo, la Carta de Tecnologías Emergentes de Londres, lanzada por la alcaldía en 2021 para delinear "directrices prácticas y éticas" para la investigación sobre tecnologías emergentes y pilotos de tecnología de ciudades inteligentes, es un ejemplo. Existen proyectos similares en Nantes, Francia, que implementó una carta de datos para subrayar el compromiso del gobierno local con la soberanía, protección, transparencia e innovación de los datos. Dichos esfuerzos ayudan a las partes interesadas a trazar un curso que equilibre efectivamente el potencial y los desafíos que plantea la IA al tiempo que afirma un compromiso con la apertura y la transparencia en el uso de datos para el público.
• La participación pública proporciona una licencia social: Establecer confianza es esencial para fomentar el uso responsable de la tecnología, así como una mayor aceptación y adopción por parte del público. Las formas de participación pública (colaboración colectiva, campañas de concientización, miniasambleas y más) pueden ayudar a generar confianza y deben ser parte de un proceso deliberativo emprendido por los formuladores de políticas. Por ejemplo, el Departamento de Igualdad en el Empleo y la Vivienda de California celebró su primera audiencia pública virtual con ciudadanos y grupos de defensa de los trabajadores sobre el uso creciente de la IA en la contratación y los recursos humanos, y el potencial de sesgo tecnológico en la contratación.
• La alfabetización en IA permite una participación significativa: El objetivo de la alfabetización en IA es fomentar la familiaridad con la tecnología en sí, así como con los problemas éticos, políticos, económicos y culturales asociados. Por ejemplo, el Instituto de Ética de la IA de Montreal, una organización sin fines de lucro enfocada en promover la alfabetización de la IA, brinda información gratuita, oportuna y digerible sobre la IA y los acontecimientos relacionados con la IA en todo el mundo.
• Aproveche la experiencia local: Los formuladores de políticas deberían aprovechar la experiencia en IA de las ciudades estableciendo o apoyando centros de investigación. Dos ejemplos son la Confederación de Laboratorios para la Investigación de Inteligencia Artificial en Europa (CLAIRE), un proyecto paneuropeo que tiene un enfoque europeo en los usos de la IA en las ciudades y "How Busy Is Toon", un sitio web desarrollado por el Ayuntamiento de Newcastle y la Universidad de Newcastle. para proporcionar información de tránsito en tiempo real sobre el centro de la ciudad.
• Innovar en la forma en que se brinda transparencia: Para generar confianza y fomentar el compromiso, AI Localism debe abarcar principios y prácticas de transparencia comprobados. Por ejemplo, Ámsterdam y Helsinki divulgan el uso de la IA y explican cómo se emplean los algoritmos para fines específicos. Además, AI Localism puede innovar en la forma en que se brinda transparencia, infundiendo conciencia y sistemas para identificar y superar los "puntos ciegos de AI" y otras formas de sesgo inconsciente.
• Establecer medios para la rendición de cuentas y la supervisión: Una de las características más destacadas de AI Localism es el reconocimiento de la necesidad de rendición de cuentas y supervisión para garantizar que se cumplan los principios de una gobernanza receptiva. Los ejemplos incluyen el Oficial de políticas y gestión de algoritmos de la ciudad de Nueva York, el Consejo asesor sobre el uso ético de la IA y los datos de Singapur y el Grupo de trabajo asesor de vigilancia de Seattle.
• Límites de señales mediante leyes y políticas vinculantes: Los principios son tan buenos como se implementan o se hacen cumplir. La ratificación de la legislación, como la Ley de privacidad biométrica de la ciudad de Nueva York, que requiere avisos claros de que las empresas recopilan datos biométricos, limita la forma en que las empresas pueden usar dichos datos. También prohíbe vender y sacar provecho de los datos, envía un mensaje claro a los consumidores de que se respetan sus derechos y protecciones de datos y responsabiliza a las corporaciones de respetar los privilegios de privacidad.
• Utilice la adquisición para dar forma a mercados de IA responsables: Como lo han hecho los gobiernos municipales y de otro tipo en otras áreas de la vida pública, las ciudades deben utilizar políticas de adquisiciones para fomentar iniciativas de IA responsables. Por ejemplo, el Consejo de Berkeley, California, aprobó una ordenanza que requiere que los departamentos públicos justifiquen el uso de nuevas tecnologías de vigilancia y que los beneficios de estas herramientas superen los daños antes de la adquisición.
• Establezca colaboraciones de datos para abordar las asimetrías: Las colaboraciones de datos son una forma emergente de asociación intersectorial, en la que los datos privados se reutilizan y se implementan para el bien público. Además de generar nuevos conocimientos e innovaciones, tales asociaciones también pueden ser herramientas poderosas para romper las asimetrías de datos que subyacen y generan tantas desigualdades socioeconómicas más amplias. Fomentar las colaboraciones de datos, mediante la identificación de posibles asociaciones y el emparejamiento de la oferta y la demanda, es, por lo tanto, un componente importante de AI Localism. Los esfuerzos iniciales incluyen Amsterdam Data Exchange, que permite que los datos se compartan de forma segura para abordar problemas locales.
• Haga que la buena gobernanza sea estratégica: Demasiadas estrategias de IA no incluyen gobernanza y demasiados enfoques de gobernanza no son estratégicos. Por lo tanto, es imperativo que las ciudades tengan una visión clara de cómo ven que se utilizan los datos y la IA para mejorar el bienestar local. Trazar una estrategia de IA, como la emprendió el Ayuntamiento de Barcelona en 2021, puede crear vías para incorporar el uso inteligente de IA en todas las agencias y abrir la conciencia de IA a los residentes para hacer que el uso responsable de los datos y las consideraciones sean un hilo común en lugar de un ejercicio aislado dentro de los locales. gobierno.

El localismo de la IA es un área emergente, y tanto su práctica como su investigación siguen cambiando. La tecnología en sí continúa cambiando rápidamente, ofreciendo una especie de objetivo móvil para la gobernanza y la regulación. Su estado de flujo destaca la necesidad del tipo de marco descrito anteriormente. En lugar de ponerse al día, respondiendo reactivamente a las sucesivas oleadas de innovación tecnológica, los formuladores de políticas pueden responder de manera más consistente y responsable, desde una base de principios que tiene en cuenta las necesidades a menudo contrapuestas de varias partes interesadas. + Explora más

Para construir ciudades sostenibles, involucra a quienes viven en ellas

Este artículo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el artículo original.