Una tarde en nuestro laboratorio, mi colega y yo estábamos probando nuestro nuevo prototipo de software de reconocimiento facial en una computadora portátil. El software usó una cámara de video para escanear nuestros rostros y adivinar nuestra edad y sexo. Adivinó correctamente mi edad, pero cuando mi colega, que era de África, lo probó, la cámara no detectó ningún rostro. Intentamos encender las luces de la habitación, ajustamos los asientos y el fondo, pero el sistema seguía teniendo problemas para detectar su rostro.

Después de muchos intentos fallidos, el software finalmente detectó su rostro, pero se equivocó de edad y proporcionó el género incorrecto.

Nuestro software era solo un prototipo, pero la dificultad para trabajar con tonos de piel más oscuros refleja las experiencias de las personas de color que intentan usar la tecnología de reconocimiento facial. En los últimos años, los investigadores han demostrado la injusticia de los sistemas de reconocimiento facial y han descubierto que el software y los algoritmos desarrollados por las grandes empresas tecnológicas son más precisos para reconocer los tonos de piel más claros que los más oscuros.

Sin embargo, The Guardian informó recientemente que el Ministerio del Interior del Reino Unido planea hacer que los inmigrantes condenados por delitos penales escaneen sus rostros cinco veces al día utilizando un reloj inteligente equipado con tecnología de reconocimiento facial. Un portavoz del Ministerio del Interior dijo que la tecnología de reconocimiento facial no se usaría con los solicitantes de asilo que llegan ilegalmente al Reino Unido y que el informe sobre su uso en delincuentes inmigrantes era "puramente especulativo".

Obtenga el equilibrio adecuado

Siempre habrá una tensión entre la seguridad nacional y los derechos individuales. La seguridad de muchos puede tener prioridad sobre la privacidad de unos pocos. Por ejemplo, en noviembre de 2015, cuando el grupo terrorista ISIS atacó París y mató a 130 personas, la policía de París encontró un teléfono que uno de los terroristas había abandonado en el lugar y leyó los mensajes almacenados en él.

Hay muchos matices en este tema. Debemos preguntarnos, ¿qué derechos se ven frenados por una violación de la privacidad, en qué medida, y quién juzga si una violación de la privacidad está en equilibrio con la gravedad de un delito penal?

En el caso de los delincuentes que toman fotografías de sus rostros varias veces al día, podríamos argumentar que la violación de la privacidad es de interés para la seguridad nacional de la mayoría de las personas, si el delito es grave. El gobierno tiene derecho a tomar tal decisión ya que es responsable de la seguridad de sus ciudadanos. Sin embargo, para delitos menores, el reconocimiento facial puede ser una medida demasiado fuerte.

En su plan, el Ministerio del Interior no ha diferenciado entre infractores leves y graves; ni ha proporcionado evidencia convincente de que el reconocimiento facial mejore el cumplimiento de las leyes de inmigración por parte de las personas.

En todo el mundo, sabemos que es más probable que el reconocimiento facial se utilice para vigilar a las personas de color al monitorear sus movimientos con más frecuencia que los de las personas blancas. Esto es a pesar del hecho de que los sistemas de reconocimiento facial son más precisos con los tonos de piel más claros que con los más oscuros.

Tomar una foto de tu cara y subirla cinco veces al día puede parecer degradante. Las fallas con tonos de piel más oscuros podrían hacer que registrarse en el sistema sea más que una experiencia frustrante. Podría haber consecuencias graves para los infractores si la tecnología falla.

Las fallas en el reconocimiento facial también podrían crear problemas de seguridad nacional para el gobierno. Por ejemplo, podría identificar erróneamente la cara de una persona como otra. La tecnología de reconocimiento facial no está lista para algo tan importante como la seguridad nacional.

La alternativa

Otra opción que el gobierno está considerando para los delincuentes migrantes es el rastreo de ubicación. El monitoreo electrónico ya realiza un seguimiento de las personas con antecedentes penales en el Reino Unido mediante etiquetas en los tobillos, y tendría sentido aplicar la misma tecnología a los delincuentes inmigrantes y no inmigrantes por igual.

El rastreo de ubicación viene con sus propios problemas éticos para la privacidad personal y la vigilancia racial. Debido a la naturaleza intrusiva del monitoreo electrónico, algunas personas que usan estos dispositivos pueden sufrir depresión, ansiedad o pensamientos suicidas.

Pero la tecnología de seguimiento de ubicación ofrece opciones, al menos. Por ejemplo, los datos se pueden manejar de manera sensible siguiendo las pautas de privacidad de datos, como la Ley de Protección de Datos de 2018 del Reino Unido. Podemos minimizar la cantidad de datos de ubicación que recopilamos al rastrear la ubicación de alguien solo una o dos veces al día. Podemos anonimizar los datos, solo haciendo visibles los nombres de las personas cuando y donde sea necesario.

El Ministerio del Interior del Reino Unido podría usar datos de ubicación para señalar actividades sospechosas, como si un delincuente ingresa a un área en la que se le ha prohibido. Para los delincuentes menores, no necesitamos rastrear la ubicación exacta de la persona, sino solo el área general, como un código postal o una ciudad.

Como sociedad, debemos esforzarnos por mantener la dignidad y la privacidad de las personas, excepto en los casos más graves. Más importante aún, debemos asegurarnos de que la tecnología no tenga el potencial de discriminar a un grupo de personas en función de su origen étnico. La ley y el reglamento deben aplicarse por igual a todas las personas.

El portavoz del Ministerio del Interior agregó:"El público espera que controlemos a los delincuentes extranjeros condenados... Los delincuentes extranjeros no deben tener ninguna duda de nuestra determinación de deportarlos, y el gobierno está haciendo todo lo posible para aumentar la cantidad de delincuentes extranjeros que están siendo deportados. " + Explora más

El reconocimiento facial fue clave para identificar al sospechoso del tiroteo estadounidense

Este artículo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el artículo original.