La tecnología de reconocimiento facial se está extendiendo rápidamente. Ya muy extendido en China, El software que identifica a las personas comparando imágenes de sus rostros con una base de datos de registros se está adoptando ahora en gran parte del resto del mundo. Es común entre las fuerzas policiales, pero también se ha utilizado en los aeropuertos, estaciones de ferrocarril y centros comerciales.

El rápido crecimiento de esta tecnología ha provocado un debate muy necesario. Activistas politicos, Los académicos e incluso las fuerzas policiales están expresando serias preocupaciones sobre el impacto que podría tener el reconocimiento facial en una cultura política basada en los derechos y la democracia.

Preocupaciones por los derechos humanos

Como alguien que investiga el futuro de los derechos humanos, Comparto estas preocupaciones. Aquí hay diez razones por las que deberíamos preocuparnos por el uso de la tecnología de reconocimiento facial en espacios públicos.

(1) Nos encamina hacia la vigilancia general automatizada.

CCTV ya está muy extendido en todo el mundo, pero para que los gobiernos usen imágenes en su contra, tienen que encontrar clips específicos de usted haciendo algo que puedan reclamar como evidencia. La tecnología de reconocimiento facial lleva la monitorización a nuevos niveles. Permite la vigilancia en vivo automatizada e indiscriminada de las personas mientras realizan sus actividades diarias, dando a las autoridades la oportunidad de realizar un seguimiento de todos sus movimientos.

(2) Opera sin un marco legal o regulatorio claro

La mayoría de los países no tienen una legislación específica que regule el uso de la tecnología de reconocimiento facial. aunque algunos legisladores están intentando cambiar esto. Este limbo legal abre la puerta al abuso, como obtener nuestras imágenes sin nuestro conocimiento o consentimiento y usarlas de maneras que no aprobaríamos.

(3) Viola los principios de necesidad y proporcionalidad

Un principio de derechos humanos comúnmente establecido, reconocidos por organizaciones de la ONU al Panel de Ética Policial de Londres, es que la vigilancia debe ser necesaria y proporcionada. Esto significa que la vigilancia debe restringirse a la persecución de delitos graves en lugar de permitir la injerencia injustificada en nuestra libertad y derechos fundamentales. La tecnología de reconocimiento facial está en desacuerdo con estos principios. Es una tecnología de control que es sintomática de la desconfianza del estado hacia sus ciudadanos.

(4) Viola nuestro derecho a la privacidad

El derecho a la privacidad importa, incluso en espacios públicos. Protege la expresión de nuestra identidad sin intrusiones injustificadas del Estado o de empresas privadas. Grabación indiscriminada y a gran escala de la tecnología de reconocimiento facial, almacenar y analizar nuestras imágenes socava este derecho porque significa que ya no podemos hacer nada en público sin que el estado lo sepa.

(5) Tiene un efecto paralizador en nuestra cultura política democrática.

La vigilancia general puede disuadir a las personas de asistir a eventos públicos. Puede reprimir la participación en protestas políticas y campañas de cambio. Y puede desalentar el comportamiento inconformista. Este efecto paralizador constituye una grave vulneración del derecho a la libertad de reunión, asociación, y expresión.

(6) Niega a los ciudadanos la oportunidad de dar su consentimiento

Existe una falta de información detallada y específica sobre cómo se utiliza realmente el reconocimiento facial. Esto significa que no tenemos la oportunidad de dar su consentimiento para la grabación, analizar y almacenar nuestras imágenes en bases de datos. Negándonos la oportunidad de consentir, se nos niega la elección y el control sobre el uso de nuestras propias imágenes.

(7) A menudo es inexacto

La tecnología de reconocimiento facial promete una identificación precisa. Pero numerosos estudios han destacado cómo los algoritmos entrenados en conjuntos de datos con prejuicios raciales identifican erróneamente a las personas de color, especialmente mujeres de color. Tal sesgo algorítmico es particularmente preocupante si resulta en arrestos ilegales, o si lleva a agencias públicas y empresas privadas a discriminar a las mujeres y personas de origen étnico minoritario.

(8) Puede provocar un sesgo de automatización

Si las personas que utilizan software de reconocimiento facial creen erróneamente que la tecnología es infalible, puede conducir a malas decisiones. Este "sesgo de automatización" debe evitarse. Los resultados generados por máquinas no deberían determinar cómo las agencias estatales o las corporaciones privadas tratan a las personas. Los operadores humanos capacitados deben ejercer un control significativo y tomar decisiones basadas en la ley.

(9) Implica que hay listas de vigilancia secretas del gobierno.

Las bases de datos que contienen nuestras imágenes faciales deberían hacer sonar las alarmas. Implican que las empresas privadas y los organismos encargados de hacer cumplir la ley están compartiendo nuestras imágenes para crear listas de vigilancia de posibles sospechosos sin nuestro conocimiento o consentimiento. Esta es una seria amenaza para nuestros derechos individuales y libertades civiles. La seguridad de estas bases de datos, y su vulnerabilidad a las acciones de los piratas informáticos, también es motivo de preocupación.

(10) Se puede utilizar para dirigirse a grupos ya vulnerables.

La tecnología de reconocimiento facial se puede utilizar para la vigilancia general. Pero también se puede implementar de forma selectiva, por ejemplo, para identificar migrantes y refugiados. La venta de software de reconocimiento facial a agencias como el controvertido Servicio de Inmigración y Control de Aduanas de EE. UU. (ICE), que ha sido muy criticada por sus tácticas para tratar con los migrantes, debería preocupar a cualquiera que se preocupe por los derechos humanos. Y el uso de dispositivos móviles de mano con una aplicación de reconocimiento facial por parte de las fuerzas policiales aumenta el espectro de un perfil racial mejorado a nivel de la calle.

Debate muy necesario

Con tantas preocupaciones sobre la tecnología de reconocimiento facial, Necesitamos desesperadamente una conversación más destacada sobre su impacto en nuestros derechos y libertades civiles. Sin una regulación adecuada de estos sistemas, corremos el riesgo de crear estados policiales distópicos en lo que alguna vez fueron libres, países democráticos.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.