Crédito:JR Korpa/Unsplash
El rostro humano es especial. Es a la vez público y personal. Nuestros rostros revelan información confidencial sobre nosotros:quiénes somos, por supuesto, pero también nuestro género, emociones, estado de salud y más.
Los legisladores de Australia, al igual que los de todo el mundo, nunca anticiparon que nuestros datos faciales se recolectarían a escala industrial y luego se usarían en todo, desde nuestros teléfonos inteligentes hasta las cámaras CCTV de la policía. Por lo tanto, no debería sorprendernos que nuestras leyes no hayan seguido el ritmo del extraordinario auge de la tecnología de reconocimiento facial.
Pero, ¿qué tipo de leyes necesitamos? La tecnología se puede utilizar tanto para el bien como para el mal, por lo que ni prohibirla ni la lucha libre actual parecen ideales.
Sin embargo, la falla regulatoria ha dejado a nuestra comunidad vulnerable a los usos dañinos del reconocimiento facial. Para llenar el vacío legal, proponemos una "ley modelo":un resumen de la legislación que los gobiernos de Australia podrían adoptar o adaptar para regular los usos riesgosos del reconocimiento facial y permitir los seguros.
El reto de las tecnologías de reconocimiento facial
Los casos de uso de las tecnologías de reconocimiento facial parecen estar limitados únicamente por nuestra imaginación. Muchos de nosotros no pensamos en usar el reconocimiento facial para desbloquear nuestros dispositivos electrónicos. Sin embargo, la tecnología también se ha probado o implementado en toda Australia en una amplia gama de situaciones, incluidas escuelas, aeropuertos, tiendas minoristas, clubes y lugares de juego, y la aplicación de la ley.
A medida que el uso del reconocimiento facial crece aproximadamente un 20 % anual, también lo hace el riesgo para los humanos, especialmente en contextos de alto riesgo como la vigilancia.
En los EE. UU., la dependencia de la tecnología de reconocimiento facial propensa a errores ha dado lugar a numerosos casos de injusticia, especialmente los que involucran a los negros. Estos incluyen el arresto y la detención injustos de Robert Williams y la exclusión injusta de una joven negra de una pista de patinaje en Detroit.
Muchas de las compañías tecnológicas más grandes del mundo, incluidas Meta, Amazon y Microsoft, han reducido o descontinuado sus servicios relacionados con el reconocimiento facial. Han citado preocupaciones sobre la seguridad del consumidor y la falta de una regulación efectiva.
Esto es loable, pero también ha provocado una especie de "fallo del mercado regulatorio". Si bien esas empresas se han retirado, otras empresas con menos escrúpulos se han hecho con una mayor cuota del mercado de reconocimiento facial.
Tome la empresa estadounidense Clearview AI. Extrajo miles de millones de imágenes de rostros de las redes sociales y otros sitios web sin el consentimiento de las personas afectadas, luego creó un servicio de comparación de rostros que vendió a la Policía Federal Australiana y otros organismos encargados de hacer cumplir la ley en todo el mundo.
En 2021, el Comisionado de Información y Privacidad de Australia descubrió que tanto Clearview AI como AFP habían infringido la ley de privacidad de Australia, pero las acciones de cumplimiento como esta son raras.
Sin embargo, los australianos quieren una mejor regulación del reconocimiento facial. Esto se ha demostrado en el informe de 2021 de la Comisión de Derechos Humanos de Australia, la investigación CHOICE de 2022 sobre el uso de la tecnología de reconocimiento facial por parte de los principales minoristas y en la investigación que hemos encargado en el Instituto de Tecnología Humana como parte de nuestra ley modelo.
Opciones para la reforma del reconocimiento facial
¿Qué opciones tiene Australia? La primera es no hacer nada. Pero esto significaría aceptar que estaremos desprotegidos del uso dañino de las tecnologías de reconocimiento facial y nos mantendría en nuestra trayectoria actual hacia la vigilancia masiva.
Otra opción sería prohibir por completo la tecnología de reconocimiento facial. De hecho, algunas jurisdicciones han instituido moratorias sobre la tecnología, pero contienen muchas excepciones (para usos positivos) y, en el mejor de los casos, son una solución temporal.
En nuestra opinión, la mejor opción de reforma es una ley que regule las tecnologías de reconocimiento facial según su riesgo. Tal ley alentaría el reconocimiento facial con un claro beneficio público, al mismo tiempo que protegería contra los usos nocivos de la tecnología.
Una ley basada en el riesgo para la regulación de la tecnología de reconocimiento facial
Nuestra ley modelo requeriría que cualquier persona que desarrolle o implemente sistemas de reconocimiento facial en Australia realice una evaluación de impacto rigurosa para evaluar el riesgo para los derechos humanos.
A medida que aumenta el nivel de riesgo, también lo harían los requisitos o restricciones legales. Los desarrolladores también deberán cumplir con un estándar técnico para el reconocimiento facial, alineado con los estándares internacionales para el rendimiento de la IA y la buena gestión de datos.
La ley modelo contiene una prohibición general de los usos de alto riesgo de las aplicaciones de reconocimiento facial. Por ejemplo, se prohibiría una aplicación de "análisis facial" que pretendiera evaluar la orientación sexual de las personas y luego tomar decisiones sobre ellas. (Lamentablemente, esta no es una hipótesis descabellada).
La ley modelo también prevé tres excepciones a la prohibición de la tecnología de reconocimiento facial de alto riesgo:
Revisión por parte del regulador y las personas afectadas
Cualquier ley tendría que ser aplicada por un regulador con los poderes y recursos apropiados. ¿Quién debería ser?
La mayoría de las partes interesadas que consultamos, incluidos usuarios comerciales, empresas de tecnología y representantes de la sociedad civil, propusieron que la Oficina del Comisionado de Información de Australia (OAIC, por sus siglas en inglés) estaría bien preparada para ser el regulador de la regulación facial. Para ciertos usuarios confidenciales, como el ejército y ciertas agencias de seguridad, también puede ser necesario un régimen de supervisión especializado.
El momento de la reforma es ahora
Nunca habíamos visto tantos grupos e individuos de la sociedad civil, la industria y el gobierno tan comprometidos y alineados con la necesidad de una reforma de la tecnología de reconocimiento facial. Esto se refleja en el apoyo a la ley modelo tanto del Consejo de Tecnología de Australia como de CHOICE.
Dado el aumento extraordinario de los usos del reconocimiento facial y un consenso emergente entre las partes interesadas, el fiscal general federal debería aprovechar este momento y liderar la reforma nacional. La primera prioridad es presentar un proyecto de ley federal, que fácilmente podría basarse en nuestra ley modelo. El fiscal general también debería colaborar con los estados y territorios para armonizar la ley australiana sobre reconocimiento facial.
Esta reforma propuesta es importante en sus propios términos:no podemos permitir que las tecnologías de reconocimiento facial permanezcan efectivamente sin regulación. También demostraría cómo Australia puede usar la ley para protegerse contra los usos nocivos de las nuevas tecnologías, al mismo tiempo que incentiva la innovación para el beneficio público.
Puede encontrar más información sobre la ley modelo en nuestro informe "Tecnología de reconocimiento facial:Hacia una ley modelo".
Este artículo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el artículo original. Nuevo informe ofrece un plan para la regulación de la tecnología de reconocimiento facial
