Australia del Sur ha comenzado una prueba de una nueva aplicación COVID para monitorear las llegadas al estado. El primer ministro de Sudáfrica, Steven Marshall, afirmó que "todos los australianos del sur deberían sentirse muy orgullosos de que somos el piloto nacional de la aplicación de cuarentena en el hogar".

Luego se duplicó y se jactó de que estaba "bastante seguro de que la tecnología que hemos desarrollado dentro del gobierno de Australia del Sur se convertirá en el estándar nacional y se implementará en todo el país".

Victoria también ha anunciado una inminente cuarentena domiciliaria "con apoyo tecnológico", aunque los detalles siguen sin estar claros. La cuarentena domiciliaria también estará disponible para las llegadas internacionales. según el primer ministro Scott Morrison.

La aplicación de Australia del Sur ha recibido poca atención en Australia, pero en Estados Unidos, la revista Atlantic, de tendencia izquierdista, lo calificó como "tan orwelliano como cualquier otro en el mundo libre". Los medios de derecha como Fox News y Breitbart también se unieron al ataque, y por una vez me encuentro de acuerdo con ellos.

Seguimiento de ubicación y reconocimiento facial

A pesar de las afirmaciones de SA Premier, esta no es la primera aplicación de este tipo que se utiliza en Australia. Una aplicación similar de cuarentena domiciliaria ya está en uso para las llegadas a WA, y en algunos casos el Territorio del Norte.

Ambas aplicaciones utilizan software de geolocalización y reconocimiento facial para rastrear e identificar a los que están en cuarentena. Los usuarios deben demostrar que están en casa cuando la aplicación lo solicite al azar.

En SA, tiene 15 minutos para obtener el software de reconocimiento facial y verificar que todavía está en casa. En WA, es más una carrera. Tiene solo 5 minutos antes de arriesgarse a que la policía llame a la puerta.

Otra diferencia es que la aplicación SA es opcional. En la actualidad. La aplicación WA ya es obligatoria para las llegadas desde áreas de alto riesgo como Victoria. Para áreas de riesgo extremo como Nueva Gales del Sur, está directamente en un hotel de cuarentena.

Razones de preocupación

Pero, ¿por qué estamos desarrollando tales aplicaciones de cuarentena domiciliaria en primer lugar? cuando ya tenemos una tecnología barata para hacer esto? Si queremos controlar que la gente esté en casa (y eso es un gran si ), ¿No sería mucho más simple una de las etiquetas de tobillo que ya utilizan nuestros servicios correctivos para la detención domiciliaria? más seguro y más robusto?

Hay muchas razones para preocuparse por las aplicaciones de cuarentena domiciliaria.

Primero, probablemente serán mucho más fáciles de piratear que las etiquetas de tobillo. ¿Cuántos de nosotros hemos pirateado bloques geográficos para acceder a Netflix en EE. UU.? o para ver otro contenido digital de otro país? Falsificar la ubicación GPS en un teléfono inteligente no es mucho más difícil.

Segundo, el software de reconocimiento facial a menudo tiene fallas, y con frecuencia tiene prejuicios contra las personas de color y las mujeres. El documental Coded Bias hace un gran trabajo eliminando estos prejuicios.

A pesar de años de esfuerzo, incluso los grandes gigantes tecnológicos como Google y Amazon no han podido eliminar estos sesgos de su software. Tengo pocas esperanzas de que el gobierno de Sudáfrica o la empresa GenVis de WA, los desarrolladores de las dos aplicaciones australianas de cuarentena domiciliaria, lo habrá hecho mejor.

En efecto, La Comisión Australiana de Derechos Humanos ha pedido una moratoria sobre el uso de software de reconocimiento facial en entornos de alto riesgo, como la policía, hasta que exista una mejor regulación para proteger los derechos humanos y la privacidad.

Tercera, Es necesario que haya un debate público y mucho más detallado sobre cuestiones como la privacidad, y salvaguardas implementadas en base a esta discusión, antes de la tecnología que se está utilizando.

Con las aplicaciones de facturación de COVID, se nos prometió que los datos solo se utilizarían con fines de salud pública. Pero las fuerzas policiales de Australia han accedido a esta información con otros fines en al menos seis ocasiones. Esto socava gravemente la confianza del público y el uso de dichas aplicaciones.

Antes de su lanzamiento, La aplicación COVIDSafe de la Commonwealth tenía prohibiciones legislativas establecidas sobre el uso de los datos recopilados para cualquier cosa que no fuera el rastreo de contactos. Esto quizás nos dio una falsa sensación de seguridad, ya que las aplicaciones de registro COVID producidas por el estado no tenían tales garantías legales. Solo algunos estados han introducido leyes retrospectivamente para proporcionar tales protecciones.

Cuatro, tenemos que preocuparnos por cómo un software como este legitima tecnologías como el reconocimiento facial que, en última instancia, erosionan derechos fundamentales como el derecho a la privacidad.

Si las aplicaciones de cuarentena domiciliaria funcionan correctamente, ¿Abrirán la puerta al uso del reconocimiento facial en otros entornos? ¿Para identificar a los montacargas? ¿Para proporcionar acceso al bienestar? ¿O a la asistencia sanitaria? ¿A qué mundo orwelliano nos llevará esto?

Los peligros del reconocimiento facial

En China, ya hemos visto el uso de software de reconocimiento facial para monitorear y perseguir a la minoría uigur. En los EE.UU, al menos tres personas negras ya han terminado erróneamente en la cárcel debido a errores de reconocimiento facial.

El reconocimiento facial es una tecnología que es peligrosa si no funciona (como suele ocurrir). Y peligroso si lo hace. Cambia la velocidad escala y costo de la vigilancia.

Con software de reconocimiento facial detrás de las cámaras CCTV que se encuentran en muchas esquinas, puede ser rastreado 24 horas al día, 7 días a la semana. Ya no eres anónimo cuando sales de compras. O cuando protestas por la importancia de las vidas de los negros o la emergencia climática.

La alta tecnología no es la solución

El software de alta tecnología como el reconocimiento facial no es una solución para los problemas que han plagado la respuesta de Australia a la pandemia. No puede remediar la imposibilidad de comprar suficientes vacunas, la falta de construcción de instalaciones de cuarentena dedicadas, o las luchas internas y la puntuación entre estados y con la Commonwealth.

Nunca pensé que diría esto pero considerándolo todo, Creo que preferiría una etiqueta en el tobillo. Y si la imagen de la etiqueta del tobillo parece demasiado inquietante para usted, podríamos hacer lo que ha hecho Hong Kong y convertirlo en una pulsera.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.