La tecnología de reconocimiento facial se está utilizando en la guerra por primera vez. Podría ser un cambio de juego en Ucrania, donde se está utilizando para identificar a los muertos y reunir a las familias. Pero si no logramos lidiar con la ética de esta tecnología ahora, podríamos encontrarnos en un campo minado de derechos humanos.

El Ministerio de Defensa de Ucrania ha estado utilizando el software de reconocimiento facial Clearview AI desde marzo de 2022 para construir un caso de crímenes de guerra e identificar a los muertos, tanto rusos como ucranianos. El Ministerio de Transformación Digital de Ucrania dijo que está utilizando la tecnología Clearview AI para brindar a los rusos la oportunidad de experimentar el "verdadero costo de la guerra" y para que las familias sepan que si quieren encontrar los cuerpos de sus seres queridos, son " bienvenido a venir a Ucrania".

Ucrania tiene acceso gratuito al software. También se está utilizando en los puestos de control y podría ayudar a reunir a los refugiados con sus familias.

La reacción negativa a la privacidad

Sin embargo, el mes pasado, la Oficina del Comisionado de Información del Reino Unido (ICO, por sus siglas en inglés) multó a Clearview AI con más de 7,5 millones de libras esterlinas por recopilar imágenes de personas en el Reino Unido y en otros lugares de la web y las redes sociales. Se ordenó eliminar las imágenes y dejar de obtener y utilizar los datos personales de los residentes del Reino Unido disponibles públicamente en Internet. Originalmente, la ICO dijo que tenía la intención de multar a Clearview AI con 17 millones de libras esterlinas.

Según la ICO, dada la gran cantidad de usuarios de redes sociales del Reino Unido, es probable que la base de datos de rostros de Clearview AI contenga una cantidad significativa de imágenes recopiladas sin consentimiento.

Un abogado de Clearview, AI Lee Wolosky, dijo:"Si bien apreciamos el deseo de la ICO de reducir su sanción monetaria en Clearview AI, mantenemos nuestra posición de que la decisión de imponer una multa es incorrecta como cuestión de derecho. Clearview AI no está sujeto a la jurisdicción de la ICO, y Clearview AI no hace negocios en el Reino Unido en este momento".

Clearview AI ha dicho que quiere 100 mil millones de imágenes de rostros en su base de datos para principios de 2023, el equivalente a 14 por cada persona en la Tierra. Múltiples fotos de la misma persona mejoran la precisión del sistema.

Según el sitio web de Clearview AI, su tecnología de reconocimiento facial ayuda a las fuerzas del orden público a combatir el crimen y permite a las empresas de transporte, bancos y otras empresas comerciales detectar robos, prevenir fraudes y verificar identidades.

Buzzfeed informó en febrero de 2020 que varias fuerzas policiales británicas habían utilizado previamente Clearview AI. Una portavoz de Clearview AI dijo que la policía del Reino Unido no tiene acceso a su tecnología, mientras que los portavoces de la Agencia Nacional contra el Crimen y la policía metropolitana no confirmaron ni negaron el uso de herramientas o técnicas específicas. Sin embargo, en marzo de 2022, el College of Policing publicó una nueva guía para las fuerzas policiales del Reino Unido sobre el uso del reconocimiento facial en vivo.

El gobierno del Reino Unido planea reemplazar las leyes clave de derechos humanos con una nueva Declaración de Derechos Moderna que podría dificultar, si no imposibilitar, que las personas impugnen decisiones basadas en evidencia de IA en los tribunales, incluido el reconocimiento facial.

Según el grupo de defensa Liberty, es probable que el proyecto de ley tenga un impacto desproporcionado en las comunidades con exceso de vigilancia, ya que crearía diferentes clases de demandantes en función de su comportamiento anterior.

Una herramienta para la guerra

El director ejecutivo de Clearview AI, Hoan Ton-That, dijo que su software de reconocimiento facial ha permitido a los funcionarios del gobierno y las fuerzas del orden ucranianos almacenar más de 2 mil millones de imágenes de VKontakte, un servicio de redes sociales ruso. Hoan dijo que el software puede ayudar a los funcionarios ucranianos a identificar soldados muertos de manera más eficiente que las huellas dactilares, y funciona incluso si la cara de un soldado está dañada.

Pero hay pruebas contradictorias sobre la eficacia del software de reconocimiento facial. Según el Departamento de Energía de EE. UU., la descomposición del rostro de una persona puede reducir la precisión del software. Por otro lado, investigaciones científicas recientes demostraron resultados relacionados con la identificación de personas muertas que eran similares o mejores que la evaluación humana.

La investigación sugiere que las huellas dactilares, los registros dentales y el ADN siguen siendo las técnicas de identificación más confiables. Pero son herramientas para profesionales capacitados, mientras que el reconocimiento facial puede ser utilizado por no expertos.

Otro problema señalado por la investigación es que el reconocimiento facial puede emparejar por error dos imágenes o no hacer coincidir las fotos de la misma persona. En Ucrania, las consecuencias de cualquier posible error con la IA podrían ser desastrosas. Un civil inocente podría morir si se lo identifica erróneamente como un soldado ruso.

Una historia controvertida

En 2016, Hoan comenzó a contratar ingenieros informáticos para crear el algoritmo de Clearview AI. Pero no fue hasta 2019 que la compañía estadounidense de reconocimiento facial comenzó a proporcionar discretamente su software a la policía y las fuerzas del orden de EE. UU.

En enero de 2020, el New York Times publicó su historia:'La empresa secreta que podría acabar con la privacidad tal como la conocemos'. Este artículo llevó a más de 40 organizaciones tecnológicas y de derechos civiles a enviar una carta a la Junta de Supervisión de Privacidad y Libertades Civiles y a cuatro comités del Congreso de EE. UU., exigiendo la suspensión del software de reconocimiento facial de Clearview AI.

En febrero de 2020, luego de una filtración de datos de la lista de clientes de Clearview AI, BuzzFeed reveló que el software de reconocimiento facial de Clearview AI estaba siendo utilizado por personas en más de 2200 departamentos de aplicación de la ley, agencias gubernamentales y empresas en 27 países diferentes.

El 9 de mayo de 2022, Clearview AI acordó dejar de vender acceso a su base de datos de rostros a personas y empresas en los EE. UU., luego de que la Unión Estadounidense de Libertades Civiles presentara una demanda acusando a Clearview AI de violar una ley de privacidad de Illinois.

En los últimos dos años, las autoridades de protección de datos de Canadá, Francia, Italia, Austria y Grecia han multado, investigado o prohibido que Clearview AI recopile imágenes de personas.

El futuro de Clearview AI en el Reino Unido es incierto. El peor escenario para la gente común y las empresas sería que el gobierno del Reino Unido no tuviera en cuenta las preocupaciones planteadas en respuesta a su consulta sobre la Modern Bill of Rights. Liberty ha advertido sobre una posible "toma de poder" de los derechos humanos.

El mejor resultado, en mi opinión, sería que el gobierno del Reino Unido desechara sus planes para una Declaración de Derechos Moderna. Esto también significaría que los tribunales del Reino Unido deberían seguir teniendo en cuenta los casos del Tribunal Europeo de Derechos Humanos como jurisprudencia.

A menos que se adopten leyes que rijan el uso del reconocimiento facial, el uso policial de esta tecnología corre el riesgo de violar los derechos de privacidad, la protección de datos y las leyes de igualdad.