La inteligencia artificial (IA) ha generado un interés considerable en las últimas décadas, debido a sus prometedoras aplicaciones en una amplia gama de campos. Pero, también ha provocado un debate en curso sobre si los riesgos de usar IA superan sus beneficios. La mayor preocupación con la IA es la falta de gobernanza, lo que brinda a las grandes empresas (popularmente llamadas "Big Tech") acceso ilimitado a datos privados. Múltiples escándalos en el pasado reciente han confirmado las amenazas de esto, como el infame escándalo de Cambridge Analytica de 2018, en el que Facebook cometió una importante violación de la privacidad al filtrar información confidencial del usuario a una empresa de extracción de datos. Es más, aunque la IA debería desarrollarse de forma socialmente responsable, los gobiernos a menudo no imponen legislaciones estrictas sobre el desarrollo de la IA, lo que puede ser perjudicial, en lugar de beneficioso, para la sociedad.

En un nuevo estudio publicado en Sustainable Development, El Dr. Jon Truby de la Universidad de Qatar habla sobre cómo la IA no regulada es una amenaza para los Objetivos de Desarrollo Sostenible (ODS), un conjunto de directrices creadas por las Naciones Unidas (ONU) para el desarrollo sostenible de todos los países. El Dr. Truby señala que esta amenaza es especialmente frecuente en los países en desarrollo, que a menudo relajan las regulaciones de IA para atraer inversiones de Big Tech. El Dr. Truby explica:"En este estudio, Propongo la necesidad de medidas regulatorias proactivas en el desarrollo de la IA, lo que ayudaría a garantizar que la IA funcione en beneficio del desarrollo sostenible ".

En su estudio, El Dr. Truby analiza tres ejemplos para mostrar cómo la IA no regulada puede ser perjudicial para los ODS. Para empezar, se centra en el ODS 16, un objetivo que se desarrolló para combatir la corrupción, crimen organizado, y terrorismo. Explica que debido a que la IA se usa comúnmente en las bases de datos de seguridad nacional, los delincuentes pueden utilizarlo indebidamente para lavar dinero u organizar el crimen. Esto es especialmente relevante en los países en desarrollo, donde los datos de entrada pueden ser fácilmente accesibles debido a malas medidas de protección. El Dr. Truby sugiere que, Para prevenir esto, debe haber una evaluación de riesgos en cada etapa del desarrollo de la IA. Es más, El software de IA debe diseñarse de manera que sea inaccesible cuando exista la amenaza de que sea pirateado. Dichas restricciones pueden minimizar el riesgo de que los piratas informáticos obtengan acceso al software.

Luego, El Dr. Truby toma el ejemplo del ODS 8, un objetivo que busca incrementar el acceso público a los servicios financieros. La IA se utiliza habitualmente en las instituciones financieras para simplificar y hacer más eficiente la banca. Pero, mientras aprende, La IA podría desarrollar inadvertidamente ciertos sesgos, como reducir las oportunidades financieras para ciertas minorías. El Dr. Truby explica que para evitar tales sesgos, necesitamos transparencia en los procesos impulsados ​​por la IA. La revisión e intervención humanas en cada paso pueden garantizar que tal discriminación no pase desapercibida. Es más, es necesario capacitar a los desarrolladores de software para que reconozcan las implicaciones dañinas de los sesgos, para que pueda regularse de manera más eficiente.

Finalmente, El Dr. Truby explica cómo la IA es una amenaza para el ODS 10, un objetivo que se centra en la igualdad de oportunidades. Explica cómo las grandes empresas pueden utilizar la inteligencia artificial para generar oportunidades de empleo en los países en desarrollo y que esto podría amenazar a las empresas más pequeñas y locales. Sin embargo, si se diseña pensando en el desarrollo sostenible, La IA puede crear mejores oportunidades laborales y aumentar la productividad al eliminar los trabajos que requieren mucha mano de obra.

Indiscutiblemente, La IA es una tecnología poderosa que debe usarse con cuidado y eficiencia. Aunque el Dr. Truby es optimista sobre las implicaciones futuras de la IA, él cree que los desarrolladores y los legisladores deben actuar con cautela a través de una gobernanza eficaz. Concluye, "Los riesgos de la IA para la sociedad y los posibles perjuicios para el desarrollo sostenible pueden ser graves si no se gestionan correctamente. Por otro lado, regular la IA puede ser inmensamente beneficioso para el desarrollo, lo que hace que las personas sean más productivas y estén más satisfechas con su empleo y sus oportunidades ".