El video de la policía con equipo antidisturbios chocando con manifestantes desarmados a raíz del asesinato de George Floyd por el oficial de policía de Minneapolis Derek Chauvin ha llenado las redes sociales. Mientras tanto, La vigilancia policial de los manifestantes se ha mantenido en gran parte fuera de la vista.

Local, Las organizaciones policiales estatales y federales utilizan una variedad de tecnologías de vigilancia para identificar y rastrear a los manifestantes. desde el reconocimiento facial hasta los drones de grado militar.

El uso policial de estas técnicas de vigilancia al estilo de la seguridad nacional, justificadas como técnicas rentables que evitan el sesgo y el error humanos, ha crecido de la mano con la creciente militarización de la aplicación de la ley. Extensa investigación, incluido el mío, ha demostrado que estas amplias y poderosas capacidades de vigilancia han exacerbado en lugar de reducir el sesgo, extralimitación y abuso en la policía, y representan una amenaza creciente para las libertades civiles.

Los esfuerzos de reforma policial se centran cada vez más en el uso de tecnologías de vigilancia por parte de las organizaciones encargadas de hacer cumplir la ley. A raíz de los disturbios actuales, IBM, Amazon y Microsoft han puesto freno al uso policial de la tecnología de reconocimiento facial de las empresas. Y los proyectos de ley de reforma policial presentados por los demócratas en la Cámara de Representantes de Estados Unidos exigen regular el uso policial de los sistemas de reconocimiento facial.

Una década de vigilancia de macrodatos

No siempre hemos vivido en un mundo de cámaras policiales sensores inteligentes y analítica predictiva. La recesión y la rabia alimentaron el auge inicial de las tecnologías de vigilancia de big data. En 2009, ante lo federal, recortes presupuestarios estatales y locales causados ​​por la Gran Recesión, Los departamentos de policía comenzaron a buscar formas de hacer más con menos. Las empresas de tecnología se apresuraron a llenar los vacíos, ofreciendo nuevas formas de vigilancia basada en datos como modelos de eficiencia y reducción de costos.

Luego, en 2014, el asesinato policial de Michael Brown en Ferguson, Misuri, volcó las ya deterioradas relaciones policiales y comunitarias. Los asesinatos de Michael Brown, Eric Garner, Philando Castilla, Tamir Rice, Walter Scott, Sandra Bland, Freddie Gray y George Floyd provocaron protestas en todo el país y pidieron justicia racial y reforma policial. La policía entró en crisis cuando la indignación de la comunidad amenazó con deslegitimar la estructura de poder policial existente.

En respuesta a las amenazas gemelas de las presiones de costos y las críticas de la comunidad, Los departamentos de policía acogieron aún más a las nuevas empresas de tecnología que vendían eficiencias de big data y la esperanza de que algo "impulsado por los datos" permitiera a las comunidades ir más allá de los problemas demasiado humanos de la vigilancia. El análisis predictivo y las capacidades de video bodycam se vendieron como soluciones objetivas a los prejuicios raciales. En gran medida, la estrategia de relaciones públicas funcionó, lo que ha permitido a las fuerzas del orden adoptar la vigilancia policial predictiva y una mayor vigilancia digital.

Hoy dia, en medio de una nueva indignación contra el racismo estructural y la brutalidad policial, y a la sombra de una recesión económica aún más profunda, Las organizaciones encargadas de hacer cumplir la ley enfrentan la misma tentación de adoptar una solución basada en tecnología para problemas sociales profundos. Es probable que los jefes de policía quieran pasar página de los niveles actuales de ira y desconfianza de la comunidad.

Los peligros de la vigilancia de alta tecnología

En lugar de repetir los errores de los últimos 12 años, las comunidades tienen la oportunidad de rechazar la expansión de la vigilancia de macrodatos. Los peligros solo han aumentado, los daños que ha dejado claro la experiencia.

Esas pequeñas empresas de nueva creación que se apresuraron inicialmente al negocio de la vigilancia han sido reemplazadas por grandes empresas de tecnología con bolsillos profundos y grandes ambiciones.

Axon capitalizó las demandas de responsabilidad policial después de las protestas en Ferguson y Baltimore para convertirse en una empresa multimillonaria que brinda servicios digitales para cámaras corporales usadas por la policía. Amazon ha estado ampliando sus asociaciones con cientos de departamentos de policía a través de sus cámaras Ring y la aplicación Neighbors. Otras empresas como BriefCam, Palantir y Shotspotter ofrecen una gran cantidad de análisis de video, análisis de redes sociales y otras tecnologías de sensores con la capacidad de vender tecnología a bajo precio a corto plazo con la esperanza de obtener una ventaja de mercado a largo plazo.

La tecnología en sí es más poderosa. Los modelos algorítmicos creados hace una década palidecen en comparación con las capacidades de aprendizaje automático actuales. Las transmisiones de las cámaras de video se han digitalizado y aumentado con capacidades analíticas y de reconocimiento facial. convirtiendo la vigilancia estática en una máquina del tiempo virtual para encontrar patrones en multitudes. A la trampa de datos se suman los teléfonos inteligentes, hogares inteligentes y autos inteligentes, que ahora permiten a la policía descubrir los rastros digitales de las personas con relativa facilidad.

La tecnología está más interconectada. Uno de los factores limitantes naturales de la tecnología de vigilancia de macrodatos de primera generación fue el hecho de que permaneció aislada. Las bases de datos no se pueden comunicar entre sí. Los datos no se pueden compartir fácilmente. Ese factor limitante se ha reducido a medida que se han desarrollado más sistemas de datos agregados dentro del gobierno y por proveedores privados.

La promesa de objetivo, la tecnología imparcial no funcionó. El sesgo racial en la vigilancia policial no se solucionó encendiendo una cámara. En cambio, la tecnología creó nuevos problemas, incluso destacando la falta de rendición de cuentas por casos de violencia policial de alto perfil.

Lecciones para controlar el espionaje policial

Los daños de la vigilancia de macrodatos han sido expuestos repetidamente. Los programas que intentaron predecir el comportamiento de las personas en Chicago y Los Ángeles se cerraron después de que devastadoras auditorías catalogaran su impacto discriminatorio y su fracaso práctico. Los sistemas predictivos basados ​​en el lugar se han cerrado en Los Ángeles y otras ciudades que inicialmente habían adoptado la tecnología. Escándalos relacionados con el reconocimiento facial, La tecnología de análisis de redes sociales y la vigilancia de sensores a gran escala sirven como una advertencia de que la tecnología no puede abordar los problemas más profundos de la raza. poder y privacidad que se encuentran en el corazón de la policía moderna.

La lección de la primera era de vigilancia de macrodatos es que las cuestiones de raza, la transparencia y los derechos constitucionales deben estar a la vanguardia del diseño, regulación y uso. Cada error puede atribuirse a la imposibilidad de ver cómo encaja la tecnología de vigilancia en el contexto del poder policial moderno, un contexto que incluye cuestiones de larga data de racismo y control social. Todas las soluciones apuntan a abordar ese desequilibrio de energía en la parte delantera, a través de la supervisión local, participación comunitaria y ley federal, no después de que se haya adoptado la tecnología.

Los debates sobre la desfinanciación, La desmilitarización y la reinvención de las prácticas policiales existentes deben incluir un debate sobre la vigilancia policial. Hay una década de pasos en falso de los que aprender y desafíos de privacidad y justicia racial que definen la era en el futuro. La forma en que los departamentos de policía respondan al llamado de la sirena de la vigilancia de big data revelará si están en camino de repetir los mismos errores.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.