Con un informe de incidente policial ciego mostrado, El fiscal de distrito de San Francisco, George Gascon, izquierda, y Alex Chohlas-Wood, Subdirector, Laboratorio de Políticas Computacionales de Stanford, hablar sobre la implementación de una herramienta de inteligencia artificial para eliminar el potencial de sesgo en las decisiones de cobro, durante una conferencia de prensa el miércoles, 12 de junio 2019, en San Francisco. En un experimento único en su tipo, Los fiscales de San Francisco están recurriendo a la inteligencia artificial para reducir los prejuicios en los tribunales penales. (Foto AP / Eric Risberg)
En un experimento único en su tipo, Los fiscales de San Francisco están recurriendo a la inteligencia artificial para reducir los prejuicios raciales en los tribunales, Adoptar un sistema que elimine ciertos detalles de identificación de los informes policiales y deje solo hechos clave para gobernar las decisiones de acusación.
El fiscal de distrito George Gascon anunció el miércoles que su oficina comenzará a utilizar la tecnología en julio para "sacar la raza de la ecuación" al decidir si acusar a los sospechosos de un delito.
Los expertos en justicia penal dicen que nunca han oído hablar de un proyecto como este, y aplaudieron la idea como creativa, esfuerzo audaz para hacer que las prácticas de carga sean más daltónicas.
La oficina de Gascon trabajó con científicos e ingenieros de datos en el Laboratorio de Políticas Computacionales de Stanford para desarrollar un sistema que toma informes policiales electrónicos y elimina automáticamente el nombre de un sospechoso. raza y colores de cabello y ojos. También se eliminarán los nombres de testigos y agentes de policía, junto con barrios o distritos específicos que podrían indicar la raza de los involucrados.
"El sistema de justicia penal ha tenido un impacto terrible en las personas de color en este país, especialmente afroamericanos, por generaciones, "Dijo Gascón en una entrevista previa al anuncio." Si todos los fiscales eliminaran la raza al tomar decisiones sobre cargos, probablemente estaríamos en un lugar mucho mejor como nación de lo que estamos hoy ".
Con un informe policial hipotético mostrado, El fiscal de distrito de San Francisco, George Gascon, habla sobre la implementación de una herramienta de inteligencia artificial para eliminar el potencial de sesgo en las decisiones de cobro durante una conferencia de prensa el miércoles. 12 de junio 2019, en San Francisco. En un experimento único en su tipo, Los fiscales de San Francisco están recurriendo a la inteligencia artificial para reducir los prejuicios en los tribunales penales. Están adoptando un sistema que elimina ciertos detalles de identificación de los informes policiales y deja solo hechos clave para gobernar las decisiones de acusación. Gascón anunció que su oficina comenzará a usar la tecnología en julio para "sacar la raza de la ecuación" al decidir si acusar a los sospechosos de un crimen. (Foto AP / Eric Risberg)
Gascon dijo que su objetivo era desarrollar un modelo que pudiera usarse en otros lugares, y la tecnología se ofrecerá gratuitamente a otros fiscales de todo el país.
"Realmente los elogio, es un movimiento valiente, "dijo Lucy Lang, ex fiscal de la ciudad de Nueva York y director ejecutivo del Instituto para la Innovación en la Fiscalía del Colegio de Justicia Criminal John Jay.
La tecnología depende de los humanos para recopilar los hechos iniciales, que todavía puede estar influenciado por prejuicios raciales. Los fiscales tomarán una decisión de acusación inicial basada en el informe policial redactado. Luego mirarán el informe completo, con detalles restaurados, para ver si existen razones atenuantes para reconsiderar la primera decisión, Dijo Gascón.
Lang y otros expertos dijeron que esperan ver los resultados y que esperan que el sistema sea un trabajo en progreso.
El fiscal de distrito de San Francisco, George Gascon, izquierda, anuncia la implementación de una herramienta de inteligencia artificial para eliminar el potencial de sesgo en las decisiones de cobro como Alex Chohlas-Wood, Subdirector, Laboratorio de Políticas Computacionales de Stanford, escucha durante una conferencia de prensa el miércoles, 12 de junio 2019, en San Francisco. En un experimento único en su tipo, Los fiscales de San Francisco están recurriendo a la inteligencia artificial para reducir los prejuicios en los tribunales penales. (Foto AP / Eric Risberg)
El fiscal de distrito de San Francisco, George Gascon, izquierda, anuncia la implementación de una herramienta de inteligencia artificial para eliminar el potencial de sesgo en las decisiones de cobro como Alex Chohlas-Wood, Subdirector, Laboratorio de Políticas Computacionales de Stanford, escucha durante una conferencia de prensa el miércoles, 12 de junio 2019, en San Francisco. En un experimento único en su tipo, Los fiscales de San Francisco están recurriendo a la inteligencia artificial para reducir los prejuicios en los tribunales penales. (Foto AP / Eric Risberg)
En este martes 16 de febrero Foto de archivo de 2016, El fiscal de distrito de San Francisco, George Gascon, se muestra en una conferencia de prensa en San Francisco, El miércoles, 12 de junio 2019, Gascon está anunciando lo que parece ser el primer programa de su tipo que utiliza inteligencia artificial para reducir los prejuicios en el sistema de justicia penal. A partir del próximo mes, Los fiscales decidirán si acusar a un sospechoso basándose en informes policiales "daltónicos" en los que los nombres, Se han eliminado la raza y otros detalles de identificación. (Foto AP / Jeff Chiu)
"Me quito el sombrero por probar cosas nuevas, "dijo Phillip Atiba Goff, presidente del Center for Policing Equity. "Hay tantos factores contextuales que podrían indicar la raza y el origen étnico que es difícil imaginar cómo incluso un humano podría sacar todo eso".
Un estudio de 2017 encargado por el fiscal de distrito de San Francisco encontró "disparidades raciales y étnicas sustanciales en los resultados de la justicia penal". Los afroamericanos representaban solo el 6% de la población del condado, pero representaron el 41% de los arrestos entre 2008 y 2014.
El estudio encontró "poca evidencia de prejuicios abiertos contra una raza o grupo étnico" entre los fiscales que procesan delitos. Pero Gascon dijo que quería encontrar una manera de ayudar a eliminar un sesgo implícito que podría desencadenarse por la raza de un sospechoso. un nombre que suena étnico o un vecindario plagado de delincuencia donde fueron arrestados.
Después de que comienza, el programa se revisará semanalmente, dijo Maria Mckee, el director de análisis e investigación del DA.
La medida se produce después de que San Francisco se convirtiera el mes pasado en la primera ciudad de EE. UU. En prohibir el uso del reconocimiento facial por parte de la policía y otras agencias de la ciudad. La decisión reflejó una creciente reacción contra la tecnología de inteligencia artificial a medida que las ciudades buscan regular la vigilancia por parte de las agencias municipales.
© 2019 The Associated Press. Reservados todos los derechos.
