La inteligencia artificial parece estar "aumentando la desigualdad, "y su despliegue debe estar sujeto a estrictas regulaciones y límites, especialmente para tecnologías sensibles como el reconocimiento facial, un informe de investigación dijo el jueves.

El Instituto AI Now, un centro de la Universidad de Nueva York que estudia las implicaciones sociales de la inteligencia artificial, dijo que a medida que estas tecnologías se implementan ampliamente, los impactos negativos están comenzando a surgir.

El informe de 93 páginas examinó las preocupaciones planteadas "por la gestión de trabajadores habilitada por IA, a determinaciones algorítmicas de beneficios y servicios sociales, a la vigilancia y seguimiento de inmigrantes y comunidades subrepresentadas, "escribieron los investigadores.

"Lo que queda claro es que en diversos dominios y contextos, La IA está aumentando la desigualdad, poner la información y el control en manos de quienes ya tienen poder y desempoderar aún más a quienes no lo tienen ".

Los investigadores dijeron que los sistemas de inteligencia artificial se están implementando en áreas como la atención médica, educación, empleo, justicia penal "sin las debidas garantías o estructuras de rendición de cuentas".

El informe dijo que los gobiernos y las empresas deberían detener el uso del reconocimiento facial "en contextos sociales y políticos sensibles" hasta que se comprendan mejor los riesgos. y ese subconjunto — "reconocimiento de afectos" o la lectura de emociones por tecnología informática — debería prohibirse a la luz de las dudas sobre si funciona.

No se debe permitir que el reconocimiento de las emociones "desempeñe un papel en las decisiones importantes sobre la vida humana, como quién es entrevistado o contratado para un trabajo, el precio del seguro, evaluaciones del dolor del paciente, o el desempeño de los estudiantes en la escuela, "decía el informe.

También pidió que los trabajadores de la tecnología "tengan derecho a saber lo que están construyendo y a impugnar los usos no éticos o dañinos de su trabajo".

El informe AI Now dijo que las organizaciones médicas que utilizan tecnologías avanzadas deben implementar políticas de protección de datos y permitir que las personas tengan oportunidades de "aprobación afirmativa" para retirarse del estudio o tratamiento. y de la investigación que utiliza su información médica.

Mas ampliamente, los investigadores dijeron que la industria de la inteligencia artificial necesita hacer "cambios estructurales" para garantizar que los algoritmos no refuercen el racismo, prejuicio o falta de diversidad.

"La industria de la IA es sorprendentemente homogénea, debido en gran parte al trato que da a las mujeres, gente de color, minorías de género, y otros grupos subrepresentados, "decía el informe.

Se están realizando esfuerzos para regular los sistemas de IA, pero "están siendo superados por la adopción gubernamental de sistemas de inteligencia artificial para vigilar y controlar, " según el informe.

"A pesar de la creciente preocupación pública y la acción reguladora, el despliegue del reconocimiento facial y otras tecnologías de IA riesgosas apenas se ha ralentizado, "escribieron los investigadores.

"Los proyectos de las llamadas 'ciudades inteligentes' en todo el mundo están consolidando el poder sobre la vida cívica en manos de empresas de tecnología con fines de lucro, poniéndolos a cargo de la gestión de información y recursos críticos ".

© 2019 AFP