Imagina que vives en una ciudad inteligente que conoce tu rostro y sigue todos tus movimientos:los lugares a los que vas, la gente que ves, y todas las cosas que haces a lo largo del camino.

Tiempo extraordinario, La inteligencia artificial autónoma (IA) crea un perfil que informa sobre la probabilidad de que cometa un delito. Cuando ese riesgo es alto, la policía toma medidas preventivas. Bienvenido a la hipervigilancia y la próxima generación de vigilancia policial predictiva.

Tanto India como China están implementando actualmente este nivel de vigilancia para reducir las tasas de criminalidad y detectar terroristas antes de que ataquen.

Japón también está buscando sistemas predictivos antes de los Juegos Olímpicos de Tokio 2020. Londres y otras partes del Reino Unido han estado utilizando tecnología similar durante algún tiempo.

Puede que ya esté sucediendo en la ciudad donde vives.

Penetrante, La vigilancia en tiempo real como esta es posible porque es más potente, Las computadoras que procesan números pueden procesar los torrentes de datos de reconocimiento facial y análisis de la marcha provenientes de miles de cámaras de video, todo coordinado por una inteligencia artificial avanzada que puede darle sentido a todo.

No hace mucho tiempo, confiamos en las patrullas policiales con ojos de águila para garantizar la seguridad pública. Fue entonces cuando vivíamos en comunidades bastante pequeñas donde la gente se conocía de vista.

Pero a medida que las ciudades siguieron creciendo, volviéndose demasiado grande para el oficial de policía solo, televisión de circuito cerrado (CCTV), Se empezaron a utilizar el reconocimiento facial y los sistemas predictivos de generaciones anteriores.

La moralidad de la hipervigilancia

La opinión está dividida sobre la ética de la vigilancia policial predictiva.

Los defensores de la privacidad y los defensores de las libertades civiles tienen preocupaciones, si no objeciones, a este nivel de vigilancia, por temor a que se convierta en un instrumento de discriminación.

Mientras tanto, Los defensores de la seguridad pública y la lucha contra el terrorismo argumentan que la tecnología predictiva tiene un gran potencial para frustrar ataques terroristas y otras amenazas a la seguridad pública.

Ambos argumentos tienen fuerza y ​​validez, entonces la pregunta es ¿dónde trazamos exactamente la línea divisoria entre el interés público y la libertad individual?

La respuesta diferirá caso por caso. Cada jurisdicción debe negociar la respuesta teniendo en cuenta todas las preocupaciones de las partes interesadas.

Desde que los terroristas atacaron en los Estados Unidos el 11 de septiembre, 2001, el grado de vigilancia y búsqueda en los aeropuertos ha aumentado de forma espectacular.

A tiempo, el público viajero llegó a aceptar la situación como algo que favorecía sus propios intereses y los de sus compañeros de viaje.

La privacidad comienza y termina en la puerta principal

En general, se acepta que tiene derecho a la privacidad en su propio hogar. Cuando cierras la puerta de entrada, se puede esperar razonablemente que nadie mire ni escuche.

La excepción es cuando está en casa pero participa en una actividad delictiva que amenaza a la comunidad. Aquí es donde trazamos la línea divisoria en este caso entre los derechos individuales y el bien común.

Pero cuando sales afuera cualquiera puede mirarte si lo desea. También pueden escuchar la conversación que estás teniendo. No hay derecho a la privacidad de la mirada del público, y nunca lo ha sido.

Pero mirar es diferente a hacer predicciones, y la incómoda verdad es que la tecnología policial predictiva tiene el potencial de ser utilizada como una herramienta de opresión. Gestionar este riesgo de forma abierta La sociedad democrática es sin duda un desafío, pero no uno insuperable con frenos y contrapesos.

Sopesando los riesgos y los beneficios

Dada la experiencia general de vigilancia policial predictiva, parece que hay un caso sólido para su uso continuo.

En Australia, por ejemplo, Según los informes, 15 ataques terroristas fueron frustrados en los últimos tres años gracias al trabajo policial respaldado por algoritmos informáticos.

La pregunta es, ¿Cómo minimizamos los riesgos a un nivel aceptable?

La respuesta corta es establecer un marco legal que garantice la transparencia ética en cualquier método policial predictivo de IA. incluyendo cómo se combinan los algoritmos.

También garantizaría rigurosamente que los datos introducidos en los sistemas predictivos sean precisos e imparciales. Como con cualquier sistema informático, la salida es tan buena como la entrada - basura en, la basura fuera, como dice el dicho.

Esto es necesario para abordar las preocupaciones actuales sobre el sesgo inherente en los sistemas predictivos.

Se ha observado que no todas las fuerzas policiales son iguales. En los Estados Unidos hay no menos de 12, 000 policías locales. Es probable que haya diferencias reflejado en la calidad del liderazgo y la disponibilidad de recursos.

Asociación humano / AI

La policía no es perfecta y los oficiales humanos no lo hacen bien todo el tiempo.

Pero en lo que respecta a la inteligencia artificial en el ámbito policial, Creo que siempre debería haber un lugar en la aplicación de la ley para los instintos finamente afinados de un oficial humano experimentado templado por un sistema de controles y contrapesos.

La tecnología siempre debe estar subordinada a lo humano, asumiendo el papel de ayudante de apoyo a la toma de decisiones.

De esa manera, cuando llegue la era de la hipervigilancia a su ciudad natal, será un humano responsable, no una máquina, por inteligente que sea, que decide si una persona representa un riesgo grave para la seguridad pública.

Este artículo se publicó originalmente en The Conversation. Lea el artículo original.