El controvertido programa de reconocimiento facial de Amazon, Rekognition, identificó falsamente a 28 miembros del Congreso durante una prueba del programa por parte de la Unión Estadounidense de Libertades Civiles, dijo el jueves el grupo de derechos civiles.

En su prueba, la ACLU escaneó fotos de todos los miembros del Congreso y el sistema las comparó con una base de datos pública de 25, 000 fotografías policiales.

El grupo utilizó la configuración predeterminada de "umbral de confianza" del 80 por ciento para Rekognition, lo que significa que la prueba contó una coincidencia de rostros con un 80 por ciento de certeza o más.

En ese escenario, el sistema identificó erróneamente a 28 miembros del Congreso, un número desproporcionado de los cuales eran personas de color, etiquetándolos en cambio como personas completamente diferentes que han sido arrestadas por un crimen.

Los rostros de los miembros del Congreso utilizados en la prueba incluyen republicanos y demócratas, hombres y mujeres y legisladores de todas las edades.

Amazon respondió que cuando se usa el reconocimiento facial para actividades de aplicación de la ley, recomienda establecer el umbral de confianza en el 95 por ciento o más.

Un portavoz de Amazon Web Services dijo en un comunicado que los resultados de las pruebas podrían haberse mejorado aumentando el umbral de confianza. Si bien el 80 por ciento es un umbral aceptable para las fotos de artículos y objetos cotidianos, no es apropiado para identificar a personas con un "nivel razonable de certeza".

En su informe sobre sus hallazgos, la ACLU dijo que la configuración predeterminada para el programa era del 80 por ciento y que Amazon recomienda ese nivel para la verificación del usuario basada en la cara.

La herramienta se utiliza para el reconocimiento facial en escenarios fuera de la aplicación de la ley. Por ejemplo, durante la boda real del príncipe Harry y Meghan Markle en mayo, La emisora ​​británica Sky News utilizó Rekognition para ayudarlo a identificar a las celebridades cuando ingresaban al Castillo de Windsor.

Pinterest también ha utilizado el software para hacer coincidir imágenes, por tiendas para rastrear personas, para identificar contenido potencialmente inseguro o inapropiado en línea y para encontrar texto en imágenes.

Privacidad y vigilancia

Amazon ha sido criticada recientemente por vender el servicio de reconocimiento facial a las agencias de aplicación de la ley debido a la preocupación de que pueda usarse para rastrear a las personas que llevan a cabo su vida diaria. o en protestas políticas o en otras situaciones donde la mayoría de la gente ahora presume que es anónima.

Debido a estas preocupaciones, grupos de derechos civiles, Los defensores de la privacidad e incluso algunos empleados y accionistas de Amazon han pedido al CEO Jeff Bezos que deje de permitir que la policía y las agencias federales utilicen la tecnología de reconocimiento facial.

Los resultados de la prueba de la ACLU "demuestran por qué el Congreso debería unirse a la ACLU para pedir una moratoria sobre el uso de vigilancia facial por parte de las fuerzas del orden, "escribió Jacob Snow, abogado de tecnología y libertades civiles de la ACLU del norte de California.

Hace dos años, Amazon creó la herramienta de reconocimiento facial y de productos como una forma para que los clientes busquen rápidamente una base de datos de imágenes y busquen coincidencias. Rekognition requiere que el usuario tenga dos conjuntos de imágenes. El primero es generalmente una gran base de datos de personas conocidas. Luego, el usuario envía imágenes sobre el individuo que el software luego compara con las de la gran base de datos para encontrar lo que cree que son coincidencias.

Snow dijo que el producto ha sido comercializado "agresivamente" a la policía. Al menos dos agencias, uno en Orlando, Florida, y uno en el condado de Washington, Oregón, están probando Rekognition actualmente.

El analista a cargo del programa del condado de Washington dice que nunca se basaría en el software de reconocimiento facial para hablar con un posible sospechoso. mucho menos arrestarlos.

El departamento no establece un umbral de confianza en absoluto porque todas las decisiones las toman los humanos, dijo Chris Adzima, el analista senior de sistemas de información de la Oficina del Sheriff del Condado de Washington en Hillsboro, Oregón.

"Cuando tenemos una imagen de una investigación activa, el investigador lo pondrá en nuestro sistema y el sistema escupirá los cinco resultados más probables. Luego, el investigador revisará esos cinco para determinar si alguno de esos son posibles pistas, " él dijo.

Incluso entonces, el investigador debe realizar la debida diligencia, correr el nombre para ver si la persona tenía antecedentes o contacto conocido con víctimas potenciales.

Si bien Adzima dijo que el condado de Washington tiene mucho éxito en el uso del reconocimiento facial para ayudar a identificar a las personas que eventualmente estuvieron vinculadas a delitos, "casi ninguno de ellos estaba por debajo del umbral de confianza del 95%, " él dijo.

La tecnología de reconocimiento facial se utilizó con éxito para identificar al hombre arrestado por el tiroteo en la sala de redacción de Capital Gazette en Baltimore. Maryland.

Pero la ACLU y otros defensores de la privacidad dicen que la tecnología es una invasión de la privacidad. Y dicen que podría usarse para apuntar y rastrear inmigrantes o manifestantes.

En Mayo, 34 grupos de derechos civiles enviaron una carta al CEO de Amazon, Jeff Bezos, diciendo que la gente debería ser "libre de caminar por la calle sin ser vigilada por el gobierno".

Ese mismo mes miembros del Caucus Negro del Congreso, también envió una carta a Bezos, que dijo que estaban preocupados por las "profundas consecuencias negativas no deseadas" que esta tecnología podría tener para los afroamericanos, inmigrantes indocumentados y manifestantes.

"Los 'puntos ciegos' basados ​​en la raza en la inteligencia artificial, especialmente aquellos que se manifiestan en la tecnología de reconocimiento facial, han sido bien documentados, "decía la carta.

Estos "puntos ciegos" en la IA de reconocimiento facial incluyen un incidente en 2015 en el que una aplicación de fotos de Google identificó imágenes de usuarios afroamericanos como "gorilas" y un estudio publicado a principios de este año por el Instituto de Tecnología de Massachusetts que encontró un software de reconocimiento facial, utilizado para identificar el género de una persona, tenía una tasa de error del 0,8 por ciento para los hombres de piel clara y del 34,7 por ciento para las mujeres de piel oscura. El estudio utilizó tres tipos diferentes de software comercial de reconocimiento facial.

Seis miembros del Congressional Black Caucus fueron identificados erróneamente en la prueba de Rekognition de la ACLU.

Representantes Jimmy Gomez (D-Calif.) Y John Lewis (D-Ga.), que fueron ambos falsamente identificados durante la prueba, envió una carta a Bezos el jueves pidiendo reunirse de inmediato para abordar los "defectos" de la tecnología "con el fin de evitar resultados inexactos".

© 2018 USA Today
Distribuido por Tribune Content Agency, LLC.