El uso de algoritmos en el gobierno está transformando la forma en que los burócratas trabajan y toman decisiones en diferentes áreas, como la asistencia sanitaria o la justicia penal. Los expertos abordan los desafíos de transparencia del uso de algoritmos en los procedimientos de toma de decisiones a nivel macro, meso-, y micro-niveles en este número especial de Política de información .

Los algoritmos de aprendizaje automático tienen un gran potencial para hacer que los servicios gubernamentales sean más justos y efectivos y tienen el potencial de "liberar" la toma de decisiones de la subjetividad humana. según investigaciones recientes. Los algoritmos se utilizan en muchos contextos de servicio público. Por ejemplo, dentro del sistema legal se ha demostrado que los algoritmos pueden predecir la reincidencia mejor que los jueces de los tribunales penales. Al mismo tiempo, los críticos destacan varios peligros de la toma de decisiones algorítmica, como los prejuicios raciales y la falta de transparencia.

Algunos académicos han argumentado que la introducción de algoritmos en los procedimientos de toma de decisiones puede causar cambios profundos en la forma en que los burócratas toman decisiones y que los algoritmos pueden afectar rutinas y estructuras organizacionales más amplias. Este número especial sobre la transparencia de los algoritmos presenta seis contribuciones para agudizar nuestra comprensión conceptual y empírica del uso de algoritmos en el gobierno.

"Ha habido un aumento en las críticas hacia la 'caja negra' de la toma de decisiones algorítmicas en el gobierno, "explica los editores invitados Sarah Giest (Universidad de Leiden) y Stephan Grimmelikhuijsen (Universidad de Utrecht)". En esta colección de números especiales, mostramos que no es suficiente desempaquetar los detalles técnicos de los algoritmos, pero también mira institucional, organizativo, y el contexto individual dentro del cual operan estos algoritmos para comprender verdaderamente cómo podemos lograr algoritmos transparentes y responsables en el gobierno. Por ejemplo, las regulaciones pueden habilitar mecanismos de transparencia, Sin embargo, las organizaciones crean nuevas políticas sobre cómo se deben usar los algoritmos, y los servidores públicos individuales crean nuevos repertorios profesionales. Todos estos niveles interactúan y afectan la transparencia algorítmica en las organizaciones públicas ".

Los desafíos de transparencia para el uso de algoritmos trascienden los diferentes niveles de gobierno, desde el nivel europeo hasta los burócratas públicos individuales. Estos desafíos también pueden tomar diferentes formas; la transparencia puede ser habilitada o limitada por herramientas técnicas, así como por pautas regulatorias o políticas organizacionales. Los artículos de este número abordan los desafíos de transparencia del uso de algoritmos a nivel macro, meso-, y micro-nivel. El nivel macro describe los fenómenos desde una perspectiva institucional:qué sistemas nacionales, las regulaciones y las culturas juegan un papel en la toma de decisiones algorítmicas. El nivel meso presta atención principalmente al nivel organizativo y de equipo, mientras que el nivel micro se centra en los atributos individuales, como creencias, motivación, interacciones, y comportamientos.

"Los llamados a 'mantener a los humanos informados' pueden ser puntos discutibles si no entendemos cómo los algoritmos impactan la toma de decisiones humana y cómo el diseño algorítmico impacta las posibilidades prácticas de transparencia y discreción humana, "señala Rik Peeters, profesor investigador de Administración Pública en el Centro de Investigación y Docencia en Economía (CIDE) de la Ciudad de México. En una revisión de la literatura académica reciente sobre la dinámica a nivel micro de los sistemas algorítmicos, analiza tres variables de diseño que determinan las condiciones previas para la transparencia y la discreción humanas e identifica cuatro fuentes principales de variación en la "interacción humano-algoritmo".

El artículo saca dos conclusiones principales:Primero, los agentes humanos rara vez están completamente "fuera del circuito", "y los niveles de supervisión y anulación diseñados en algoritmos deben entenderse como un continuo. El segundo se refiere a la racionalidad limitada, comportamiento satisfactorio, sesgo de automatización, y mecanismos de afrontamiento de primera línea que desempeñan un papel crucial en la forma en que los seres humanos utilizan los algoritmos en los procesos de toma de decisiones.

Para futuras investigaciones, el Dr. Peeters sugiere observar más de cerca los mecanismos de comportamiento en combinación con la identificación de las habilidades relevantes de los burócratas al tratar con algoritmos. "Sin una comprensión básica de los algoritmos con los que tienen que trabajar los burócratas de las pantallas y de la calle, Es difícil imaginar cómo pueden usar adecuadamente su discreción y evaluar críticamente los procedimientos y resultados algorítmicos. Los profesionales deben tener la formación suficiente para supervisar los algoritmos con los que están trabajando ".

A nivel macro, los algoritmos pueden ser una herramienta importante para permitir la transparencia institucional, escribe Alex Ingrams, Doctor., Gobernanza y Asuntos Globales, Instituto de Administración Pública, Universidad de Leiden, Leiden, Los países bajos. Este estudio evalúa un enfoque de aprendizaje automático para abrir comentarios públicos para la formulación de políticas a fin de aumentar la transparencia institucional de los comentarios públicos en un proceso de elaboración de leyes en los Estados Unidos. El artículo aplica un análisis de aprendizaje automático no supervisado de miles de comentarios públicos presentados a la Administración de Seguridad del Transporte de los Estados Unidos sobre una regulación propuesta en 2013 para el uso de nuevos escáneres de imágenes de cuerpo completo en los aeropuertos. El algoritmo destaca los grupos de temas destacados en los comentarios públicos que podrían ayudar a los legisladores a comprender los procesos de comentarios públicos abiertos. "Los algoritmos no solo deben estar sujetos a transparencia, sino que también pueden utilizarse como herramienta para la transparencia en la toma de decisiones del gobierno, "comenta el Dr. Ingrams.

"La certeza regulatoria en combinación con la capacidad organizativa y de gestión impulsará la forma en que se desarrolla y utiliza la tecnología y qué mecanismos de transparencia existen para cada paso, "noten los editores invitados." Por sí solos, estos son temas más importantes que abordar en términos de desarrollar y aprobar leyes o proporcionar capacitación y orientación a los gerentes públicos y burócratas. El hecho de que estén vinculados complica aún más este proceso. Resaltar estos vínculos es un primer paso hacia una visión más amplia de por qué los mecanismos de transparencia se implementan en algunos escenarios y no en otros, y abre la puerta a análisis comparativos para futuras investigaciones y nuevos conocimientos para los responsables de la formulación de políticas. Abogar por el uso responsable y transparente de algoritmos, La investigación futura debería analizar la interacción entre micro, meso-, y dinámica a nivel macro ".

"Estamos orgullosos de presentar este número especial, el número 100 de Política de información . Su enfoque en la gobernanza de la IA demuestra nuestro deseo continuo de abordar los problemas contemporáneos en la administración electrónica y la importancia de mostrar una investigación excelente y los conocimientos que ofrecen las perspectivas de la política de la información. "agreguen el profesor Albert Meijer (Universidad de Utrecht) y el profesor William Webster (Universidad de Stirling), Editores en Jefe.