Se espera que el Servicio de Policía de Queensland (QPS) comience un juicio utilizando inteligencia artificial (IA) para determinar el riesgo futuro que representan los perpetradores de violencia doméstica conocidos.

Los perpetradores identificados como de "alto riesgo", según las llamadas anteriores a una dirección, actividad delictiva pasada y otros datos en poder de la policía:la policía visitará su casa antes de que aumente la violencia doméstica, y antes de que se haya cometido ningún delito.

Es necesario encontrar mejores formas de mejorar la seguridad de las mujeres sometidas a violencia doméstica. Sin embargo, El uso de la tecnología de inteligencia artificial en este contexto puede tener consecuencias no deseadas, y el plan propuesto plantea serias dudas sobre el papel de la policía en la prevención de incidentes de violencia doméstica.

El enfoque se basa en un algoritmo que se ha desarrollado a partir de datos administrativos de QPS existentes (QPRIME). Todos los algoritmos estadísticos deben evaluar el riesgo en función de los datos disponibles, lo que a su vez significa que son tan buenos como los datos que los sustentan.

Los expertos que critican el uso de herramientas de evaluación de riesgos basadas en datos en la vigilancia señalan la falta de transparencia en los tipos específicos de datos analizados. así como también cómo se actúa sobre las predicciones basadas en estos datos.

Debido a cómo opera la policía, Los datos clave que se capturan de manera más consistente son información sobre situaciones pasadas a las que se ha llamado a la policía, y datos de antecedentes penales.

El uso de esta información para entrenar un algoritmo de inteligencia artificial podría reforzar los prejuicios existentes en el sistema de justicia penal. Podría crear un ciclo de retroalimentación interminable entre la policía y los miembros del público que tienen más contacto con la policía.

En Australia, son aborígenes e isleños del Estrecho de Torres. No es difícil imaginar que bajo este nuevo régimen, los aborígenes y los isleños del Estrecho de Torres recibirán más visitas de la policía.

El representante de QPS, Ben Martain, ha dicho que la policía no podrá acusar a alguien a quien golpeen por una presunta infracción en el futuro.

También dijo para el piloto, Los atributos de origen étnico y ubicación geográfica se eliminaron antes de entrenar el modelo de IA. Pero a pesar de esto, Parece probable que los aborígenes y los isleños del Estrecho de Torres continúen siendo un objetivo desproporcionado, ya que están sobrerrepresentados en todo tipo de contactos policiales.

Introduciendo riesgo

El objetivo de estas estrategias policiales basadas en la inteligencia artificial es prevenir o reducir la delincuencia, mediante una evaluación del riesgo de futuros delitos. En teoria, esto significa que la policía intervendrá temprano para evitar que ocurra un crimen en primer lugar.

Sin embargo, con este enfoque hay riesgos que la policía puede crear crimen. En la mayoría de los hogares, un golpe inesperado a la puerta por parte de la policía no sería bienvenido, y mucho menos en uno en el que la policía haya asistido previamente para realizar registros o arrestos.

En este programa "preventivo", los perpetradores y las víctimas con las que viven pueden estar nerviosos, agitados o incluso enojados por la intrusión policial en su casa sin razón aparente.

Una persona visitada puede utilizar un lenguaje ofensivo o negarse a proporcionar su nombre. No sería sorprendente que esto diera lugar a cargos.

Tales cargos pueden hacer que la persona visitada se ponga aún más nerviosa, agitado o enojado, y luego pueden descubrir que están acusados ​​de agresión y resistencia a la policía. Esto se conoce popularmente como "trifecta", donde una persona que de otra manera no ha ofendido es finalmente acusada de lenguaje ofensivo, resistir el arresto y agredir a la policía.

Los poderes estándar en la caja de herramientas de la policía son arrestar y acusar. Con el plan propuesto por QPS, existe un riesgo evidente de ampliar la red de criminalización para ambos perpetradores, así como víctimas que pueden ser identificadas erróneamente como perpetradores. Por ejemplo, a veces, las víctimas que han utilizado la violencia en defensa propia han sido arrestadas en lugar del perpetrador.

Dando más daño a las víctimas

El papel de la víctima en un programa de este tipo también es motivo de preocupación. Cualquier programa que profundice la vigilancia de los perpetradores también profundiza la vigilancia de las víctimas.

Las víctimas no siempre quieren que la policía intervenga en sus vidas. En algunos casos, esta forma de vigilancia proactiva puede parecer una extensión del control, en lugar de ayudar. ¿Qué sucede cuando la policía visita y descubre que un perpetrador de alto riesgo y la víctima están viviendo juntos nuevamente?

Las víctimas pueden temer que las autoridades de protección infantil se involucren y se sientan obligadas a encubrir el hecho de que todavía están con el perpetrador. Y una vez que la víctima ha sido presionada para que mienta, pueden ser reacios a llamar a la policía la próxima vez que necesiten la intervención de la policía.

En algunos casos, el agresor o la víctima pueden decidir no seguir los consejos de seguridad de los agentes de policía que lo visitan. No está claro qué podría hacer la policía en una situación en la que le piden al perpetrador que se vaya, o intentar llevar a una víctima a un lugar seguro, pero se niegan.

La misión de cualquier intervención de violencia doméstica debe ser restaurar el poder a las víctimas. Pero sabemos que las intervenciones no ayudan a todas las mujeres (u hombres) por igual. Desigualdades estructurales, incluyendo raza y clase, significa que las intervenciones son experimentadas de manera diferente por diferentes personas.

¿Tendrá una víctima algo que decir sobre si la policía participa en la vigilancia proactiva de su perpetrador? ¿Deberían tener algo que decir?

¿Hay opciones más seguras?

En el contexto de la evaluación de riesgos, muchos expertos argumentan que las mujeres a menudo (aunque no siempre) tienen un fuerte sentido de cuándo están en mayor riesgo.

Las visitas de contacto ordenadas por un tribunal de familia pueden ser uno de esos momentos de alto riesgo. Sin embargo, en estas situaciones, las mujeres a menudo informan que la policía se niega a ayudar a mantenerlas a ellas y a sus hijos a salvo. ¿Cómo se tiene en cuenta la voz de la víctima en la evaluación de riesgos con esta herramienta?

Una preocupación particular es si la policía está realmente equipada para intervenir en circunstancias en las que no hay delito. Ben Martain, representante de QPS, dijo que cuando los perpetradores "no están en un punto de crisis, en un estado emocional elevado, o afectados por las drogas o el alcohol "; por lo general, están" más dispuestos a reconocer esto como una oportunidad decisiva en sus vidas ".

Pero la propia policía ha cuestionado su papel en las circunstancias de violencia doméstica, destacando en cambio el papel potencial que pueden tener los trabajadores sociales, en su lugar.

No está claro si la policía es el servicio mejor posicionado para intervenir cuando no hay disturbios identificados. Queensland ya cuenta con protocolos de intercambio de información que involucran a equipos encargados específicamente de responder a personas involucradas en relaciones de alto riesgo de violencia doméstica. Estos equipos incluyen trabajadores de apoyo basados ​​en la comunidad.

Este puede ser un mejor camino para la intervención durante esos períodos críticos de calma.

Este artículo se ha vuelto a publicar de The Conversation con una licencia de Creative Commons. Lea el artículo original.