No faltan las críticas sobre el uso de la IA en los procesos públicos de toma de decisiones. Los académicos, por ejemplo, han descrito los algoritmos como un "cóctel tóxico para la democracia" al señalar la disponibilidad cada vez mayor de grandes datos que pueden manipularse para influir en el discurso público en direcciones específicas (problemáticas). ¿Podemos darle la vuelta al argumento y defender el aprovechamiento del potencial de las tecnologías digitales para aumentar la calidad de la democracia en tiempos de populismo desenfrenado? De hecho, podemos recurrir a teorías democráticas que se basan puramente en marcos de entrada para abarcar la dimensión compleja tanto de los procesos políticos como de la formulación de políticas.

Intentemos proporcionar una clasificación no exhaustiva examinando los pasos de los procedimientos de formulación de políticas y toma de decisiones. En el contexto de la toma de decisiones públicas, los algoritmos pueden funcionar de varias maneras. La IA puede:a) representar el mundo, por ejemplo, mediante la transmisión de datos demográficos; b) predecir o probar la conveniencia de un determinado curso de acción a la luz de los resultados que éste pueda determinar, como la evaluación del riesgo de detención migratoria; c) tomar una decisión, generalmente asumiendo la confiabilidad inherente del resultado y/o la eficiencia del proceso, por ejemplo, seleccionando a las personas que se beneficiarán de una decisión de asignación que se haya tomado dentro del proceso político tradicional; y d) actuar como administrador de algoritmos supervisando y controlando a los servidores públicos que deben tomar decisiones complejas.

En cada uno de estos escenarios, los algoritmos juegan diferentes roles. Las funciones de representación y predicción implican que los algoritmos pueden proporcionar a los tomadores de decisiones información precisa sobre una opción política dada. Por lo tanto, los algoritmos no reemplazan las opciones políticas, sino que crean las condiciones para que una alternativa política se enfrente a resultados concretos. La función de selección utiliza algoritmos para acelerar los procedimientos que, de otro modo, requerirían un examen cuidadoso y prolongado. Los algoritmos pueden así asegurar la eficiencia del proceso selectivo y la consistencia de los resultados. En los escenarios descritos anteriormente en c) y d), el algoritmo toma decisiones en lugar del tomador de decisiones identificado a través del proceso político ordinario.

En este contexto, la toma de decisiones algorítmica no es apta para ninguna de esas tareas si se espera que alcance decisiones sustantivas de forma independiente. Por el contrario, la IA puede impulsar los procesos democráticos si se observan algunas condiciones para su correcto funcionamiento. En particular, al analizar la lógica de la legitimidad democrática, podemos concluir que la IA debe ir acompañada de la necesidad de 1) comprender y seleccionar los problemas cívicos que merecen ser abordados por las instituciones políticas; 2) controlar qué temas llegan a las instituciones democráticas; 3) evaluar y cuestionar los resultados de un determinado curso de una decisión tomada por o en virtud de una IA. En otras palabras, los algoritmos pueden aumentar la legitimidad democrática en tiempos de populismo desenfrenado, siempre que su uso se lleve a cabo dentro de un marco que maximice la igualdad política y la toma de decisiones racional al permitir una participación más amplia, la consideración de diversos problemas sociales y la supervisión de las decisiones tomadas.

En esas condiciones, la eficiencia y la representación de la realidad que puede producir un proceso algorítmico exponen las falacias o la "verdad fácil" de la retórica populista. La toma de decisiones algorítmica no es buena porque la salida es intrínsecamente confiable. Es bueno siempre que esté integrado en un marco democrático que permita tanto a los representados como a los representantes ejercer opciones y controlar el proceso de toma de decisiones. De esta forma, los algoritmos pueden desenmascarar la retórica populista al ser un instrumento de conocimiento y, por tanto, una herramienta para leer la realidad y ayudar a resolver sus problemas. + Explora más

Predecir la raza de los pacientes puede mejorar la equidad en la prestación de atención médica, según un nuevo análisis