La evidencia de ADN a menudo no es tan hermética como muchas personas piensan. Las técnicas sensibles desarrolladas durante los últimos 20 años significan que la policía ahora puede detectar rastros diminutos de ADN en la escena del crimen o en una pieza de evidencia. Pero los rastros de un perpetrador a menudo se mezclan con los de muchas otras personas que han sido transferidas al sitio de la muestra, por ejemplo, mediante un apretón de manos. Y este problema ha llevado a personas a ser condenadas por error.

Los científicos han desarrollado algoritmos para separar esta sopa de ADN y medir las cantidades relativas de ADN de cada persona en una muestra. Estos métodos de "genotipado probabilístico" han permitido a los investigadores forenses indicar qué tan probable es que el ADN de un individuo se haya incluido en una muestra mixta encontrada en la escena del crimen.

Y ahora, Se están desarrollando técnicas de inteligencia artificial (IA) más sofisticadas en un intento de extraer perfiles de ADN y tratar de averiguar si una muestra de ADN proviene directamente de alguien que estaba en la escena del crimen. o si acababa de ser transferido inocentemente.

Pero si esta tecnología tiene éxito, podría introducir un nuevo problema, porque actualmente es imposible entender exactamente cómo esta IA llega a sus conclusiones. ¿Y cómo podemos confiar en la tecnología para proporcionar evidencia vital si no podemos interrogar cómo produjo esa evidencia en primer lugar? Tiene el potencial de abrir el camino a más errores judiciales, por lo que esta falta de transparencia puede ser una barrera para el uso de la tecnología en investigaciones forenses.

Surgieron desafíos similares cuando el software de análisis de ADN se desarrolló por primera vez hace una década. La evidencia derivada del software de mezcla de ADN se encontró rápidamente con desafíos de los equipos de defensa (incluido el de OJ Simpson), a quienes les preocupaba que la fiscalía demostrara que el software se había validado correctamente.

¿Qué tan precisos fueron los resultados? y ¿cuál fue la tasa de error conocida? ¿Cómo funcionó exactamente el software y podría adaptarse a las hipótesis de defensa? ¿Fueron los resultados realmente tan confiables que un jurado podría condenar con seguridad?

Es un principio fundamental de la ley que las pruebas deben estar abiertas al escrutinio. El jurado no puede basarse en afirmaciones tajantes (afirmaciones hechas sin pruebas), sin importar quién los haga y qué experiencia tengan. Pero los propietarios del software argumentaron que era su propiedad intelectual protegida y que su funcionamiento no debería hacerse público.

Se produjo una batalla que implicó el uso de procedimientos judiciales novedosos para permitir que los equipos de defensa examinaran en privado cómo funcionaba el software. Finalmente, se convenció a los tribunales de que se necesitaba un acceso completo al código fuente, sobre todo para probar hipótesis distintas de las planteadas por la acusación.

Pero el software no ha resuelto por completo los problemas de las mezclas de ADN y los pequeños, muestras degradadas. Todavía no sabemos con certeza si el ADN de una muestra proviene directamente de una persona o se transfirió allí. Esto se complica por el hecho de que diferentes personas arrojan ADN a diferentes velocidades, un fenómeno conocido como su "estado de muda".

Por ejemplo, una muestra tomada de un arma homicida podría contener más ADN de alguien que no la ha tocado que de la persona que realmente cometió el asesinato. Se ha acusado a personas de delitos graves por este motivo.

Agregue el hecho de que el ADN se transfiere a diferentes velocidades a través de diferentes superficies y en diferentes condiciones ambientales y puede volverse casi imposible saber exactamente de dónde proviene el ADN en una muestra. Este problema de "transferencia y persistencia" amenaza con socavar seriamente el ADN forense.

Como resultado, Se están realizando experimentos para encontrar formas de cuantificar con mayor precisión la transferencia de ADN en diferentes circunstancias. Y la IA tiene el potencial de analizar los datos de estos experimentos y usarlos para indicar el origen del ADN en una muestra.

Pero el software basado en inteligencia artificial tiene un problema de transparencia aún mayor que el software de genotipado probabilístico, y uno que actualmente es fundamental para la forma en que funciona. La forma exacta en que funciona el software no es solo un secreto comercial, no está claro ni siquiera para los desarrolladores de software.

Problemas de transparencia

La IA utiliza algoritmos matemáticos para completar tareas como hacer coincidir una expresión facial con un conjunto particular de emociones. Pero, crucialmente, es capaz de aprender a través de un proceso de prueba y error y manipula gradualmente sus algoritmos subyacentes para volverse más eficiente.

Es este proceso de manipulación y cambio el que no siempre es transparente. El software hace sus cambios increíblemente rápido de acuerdo con su propia lógica indescifrable. Puede obtener resultados fantásticamente eficientes, pero no podemos decir cómo lo hizo. Actúa como una caja negra que toma entradas y da salidas, pero cuyo funcionamiento interno es invisible. Los programadores pueden pasar por un proceso de desarrollo más claro, pero es más lento y menos eficiente.

Este problema de transparencia afecta a muchas aplicaciones más amplias de la IA. Por ejemplo, hace que sea muy difícil corregir los sistemas de inteligencia artificial cuyas decisiones muestran un sesgo racial o de género, como los que se utilizan para examinar los currículums de los empleados, o para apuntar a los recursos policiales.

Y el advenimiento del análisis de ADN impulsado por IA agregará una dimensión adicional a los problemas que ya se han encontrado. Los abogados defensores podrían cuestionar con razón el uso de esta tecnología, incluso si su uso se limita a la recopilación de inteligencia en lugar de proporcionar pruebas de procesamiento. A menos que los problemas de transparencia se aborden en una etapa temprana, los obstáculos para el uso de la IA en el campo forense podrían resultar insuperables.

¿Cómo podemos abordar estos desafíos? Una opción puede ser optar por los menos eficientes, formas restringidas de IA. Pero si el propósito de la IA es hacer las tareas de las que somos menos capaces o estamos menos dispuestos a hacer nosotros mismos, entonces, reducir la eficiencia puede ser una mala solución. Cualquiera que sea la forma de IA que optemos por utilizar, dentro de un sistema acusatorio de justicia penal debe existir la posibilidad de revisión, para aplicar ingeniería inversa a todas las decisiones automatizadas, y para que terceros proporcionen una validación inequívoca.

Por último, esto no es meramente un problema técnico, sino un problema ético urgente que afecta al corazón de nuestros sistemas de justicia penal. Está en juego el derecho a una feria, juicio abierto y transparente. Este es un requisito fundamental que debe abordarse antes de que la avalancha de avances tecnológicos nos lleve más allá del punto sin retorno.

Este artículo se vuelve a publicar de The Conversation bajo una licencia Creative Commons. Lea el artículo original.