Se necesita mucho para sorprender a Kelvin Lay. Mi amigo y colega fue responsable de establecer las primeras unidades dedicadas a la explotación infantil y la trata de personas en África, y durante muchos años fue investigador superior del Centro de Protección en Línea contra la Explotación Infantil de la Agencia Nacional contra el Crimen del Reino Unido, especializado en procesamientos extraterritoriales de niños. explotación en todo el mundo.
Pero lo que ocurrió cuando recientemente se ofreció como voluntario para una demostración de software de identificación de última generación lo dejó sin palabras. A los pocos segundos de recibir una imagen de cómo se ve Lay hoy, la aplicación de inteligencia artificial obtuvo una vertiginosa variedad de fotos suyas en línea que nunca había visto antes, incluidas las fotografías de fondo de otra persona de un partido de rugby de los British Lions en Auckland hace ocho años. años antes.
"Fue alucinante", me dijo Lay. "Y luego el manifestante bajó a dos fotografías más, tomadas en dos playas distintas, una en Turquía y otra en España, probablemente extraídas de las redes sociales. Eran de otra familia, pero conmigo, mi esposa y mis dos hijos al fondo. Los niños tendrían seis o siete años; ahora tienen 20 y 22 años."
La IA en cuestión formaba parte de un arsenal de nuevas herramientas desplegadas en Quito, Ecuador, en marzo, cuando Lay trabajó con un grupo de trabajo de diez países para identificar y localizar rápidamente a los perpetradores y víctimas de explotación y abuso sexual infantil en línea, una pandemia oculta con más de 300 millones de víctimas en todo el mundo cada año.
Ahí es donde entra en juego el trabajo del Childlight Global Child Safety Institute, con sede en la Universidad de Edimburgo. Lanzado hace poco más de un año, en marzo de 2023, con el apoyo financiero de la Human Dignity Foundation, la visión de Childlight es utilizar la iluminación. el poder de los datos y el conocimiento para comprender mejor la naturaleza y el alcance de la explotación y el abuso sexual infantil.
Soy profesor de investigación sobre protección infantil internacional y director de datos de Childlight, y durante casi 20 años he estado investigando el abuso sexual y el maltrato infantil, incluso con la Alianza de la Ciudad de Nueva York contra la Agresión Sexual y Unicef.
La lucha para mantener a nuestros jóvenes seguros y protegidos de cualquier daño se ha visto obstaculizada por una desconexión de los datos:los datos difieren en calidad y coherencia en todo el mundo, las definiciones difieren y, francamente, la transparencia no es lo que debería ser. Nuestro objetivo es trabajar en asociación con muchos otros para ayudar a unir el sistema, cerrar las brechas de datos y arrojar luz sobre algunos de los crímenes más oscuros del mundo.
Nuestro nuevo informe, Into The Light, ha producido las primeras estimaciones mundiales de la magnitud del problema en términos de víctimas y perpetradores.
Nuestras estimaciones se basan en un metanálisis de 125 estudios representativos publicados entre 2011 y 2023, y destacan que uno de cada ocho niños (302 millones de jóvenes) ha experimentado abuso y explotación sexual en línea en el período de un año anterior a las encuestas nacionales. /P>
Además, analizamos decenas de millones de informes presentados a las cinco principales organizaciones policiales y de vigilancia mundial:la Internet Watch Foundation (IWF), el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), el Centro Canadiense para la Protección Infantil (C3P), el Asociación Internacional de Líneas Directas de Internet (INHOPE) y Base de datos internacional sobre explotación sexual infantil (ICSE) de Interpol. Esto nos ayudó a comprender mejor la naturaleza de las imágenes y videos de abuso sexual infantil en línea.
Si bien las enormes lagunas de datos significan que esto es sólo un punto de partida y está lejos de ser una cifra definitiva, las cifras que hemos descubierto son impactantes.
Descubrimos que casi el 13 % de los niños del mundo han sido víctimas de tomar, compartir y exponer sin consentimiento imágenes y vídeos sexuales.
Además, se estima que poco más del 12 % de los niños en todo el mundo han sido objeto de solicitación en línea, como conversaciones sexuales no deseadas que pueden incluir mensajes de texto no consensuados, preguntas sexuales no deseadas y solicitudes de actos sexuales no deseados por parte de adultos u otros jóvenes.
Los casos se han disparado desde que COVID cambió los hábitos en línea del mundo. Por ejemplo, la Internet Watch Foundation (IWF) informó en 2023 que el material de abuso sexual infantil en el que se entrenaba a niños de escuela primaria de siete a diez años para realizar actos sexuales en línea había aumentado en más de un 1000 % desde que el Reino Unido entró en confinamiento.
La organización benéfica señaló que durante la pandemia, miles de niños se volvieron más dependientes de Internet para aprender, socializar y jugar y que esto era algo que los depredadores de Internet aprovecharon para obligar a más niños a realizar actividades sexuales, a veces incluso incluyendo a amigos o hermanos a través de cámaras web. y teléfonos inteligentes.
También ha habido un fuerte aumento en los informes de "sextorsión financiera", con niños chantajeados por imágenes sexuales que los abusadores les han engañado para que les proporcionen, a menudo con resultados trágicos, con una serie de suicidios en todo el mundo.
Este abuso también puede utilizar tecnología de IA deepfake, notoriamente utilizada recientemente para generar imágenes sexuales falsas de la cantante Taylor Swift.
Nuestras estimaciones indican que poco más del 3% de los niños en todo el mundo sufrieron extorsión sexual durante el año pasado.
Esta pandemia de explotación y abuso sexual infantil afecta a los alumnos de todas las aulas, de todas las escuelas, de todos los países, y debe abordarse urgentemente como una emergencia de salud pública. Como ocurre con todas las pandemias, como la COVID y el SIDA, el mundo debe unirse y brindar una respuesta de salud pública inmediata e integral.
Nuestro informe también destaca una encuesta que examina una muestra representativa de 4.918 hombres mayores de 18 años que viven en Australia, el Reino Unido y los Estados Unidos. Ha producido algunos hallazgos sorprendentes. En términos de perpetradores:
Internet ha permitido a las comunidades de delincuentes sexuales compartir fácil y rápidamente imágenes de abuso y explotación infantil en una escala asombrosa y esto, a su vez, aumenta la demanda de dicho contenido entre los nuevos usuarios y aumenta las tasas de abuso de niños, destrozando innumerables vidas.
De hecho, en 2023, empresas como X, Facebook, Instagram, Google, WhatsApp y miembros del público presentaron más de 36 millones de denuncias de imágenes sexuales en línea de niños que fueron víctimas de todas las formas de explotación y abuso sexual a organismos de control. . Eso equivale a un informe cada segundo.
Como en todo el mundo, Ecuador se encuentra en las garras de este problema moderno y transnacional:la rápida propagación de la explotación y el abuso sexual infantil en línea. Puede ver a un abusador en, digamos, Londres, pagar a otro abusador en algún lugar como Filipinas para producir imágenes de atrocidades contra un niño que a su vez se alojan en un centro de datos en los Países Bajos y se dispersan instantáneamente en muchos otros países.
Cuando Lay, quien también es director de compromiso y riesgo de Childlight, estuvo en Quito en 2024, la ley marcial significó que un gran hotel normalmente lleno de turistas que acudían en masa para disfrutar de las delicias de las Islas Galápagos, estaba inquietantemente tranquilo, salvo por un grupo de 40 agentes de la ley. analistas, investigadores y fiscales que tenían más de 15.000 imágenes y vídeos de abuso sexual infantil para analizar.
El caché de archivos incluía material registrado anualmente ante las autoridades, contenido de dispositivos incautados y de la base de datos sobre explotación sexual infantil internacional (ICSE) de Interpol. Los archivos estaban potencialmente vinculados a perpetradores en diez países de América Latina y el Caribe:Argentina, Chile, Colombia, Costa Rica, Ecuador, El Salvador, Honduras, Guatemala, Perú y República Dominicana.
La explotación infantil existe en todas partes del mundo pero, según la información de inteligencia de múltiples socios en el campo, estimamos que la mayoría de los países miembros de Interpol carecen de la capacitación y los recursos para responder adecuadamente a la evidencia de material de abuso sexual infantil compartido con ellos por las organizaciones. como el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). NCMEC es un organismo creado por el Congreso de los Estados Unidos para registrar y procesar evidencia de material de abuso sexual infantil subido en todo el mundo y detectado, en gran medida, por gigantes tecnológicos. Sin embargo, creemos que esta falta de capacidad significa que millones de informes que alertan a las autoridades sobre material abusivo ni siquiera se abren.
La operación en Ecuador, en conjunto con el Centro Internacional para Niños Desaparecidos y Explotados (ICMEC) y el Departamento de Seguridad Nacional de EE. UU., tenía como objetivo ayudar a cambiar esa situación apoyando a las autoridades a desarrollar más habilidades y confianza para identificar y localizar a delincuentes sexuales y rescatar a niños víctimas. P>
Un elemento central de la operación de Quito fue la base de datos de Interpol, que contiene alrededor de cinco millones de imágenes y vídeos que investigadores especializados de más de 68 países utilizan para compartir datos y cooperar en los casos.
Utilizando software de comparación de imágenes y videos (esencialmente un trabajo de identificación con fotografía que reconoce instantáneamente la huella digital de las imágenes), los investigadores pueden comparar rápidamente las imágenes que han descubierto con las imágenes contenidas en la base de datos. El software puede establecer conexiones instantáneamente entre víctimas, abusadores y lugares. También evita la duplicación de esfuerzos y ahorra un tiempo precioso al permitir a los investigadores saber si las imágenes ya han sido descubiertas o identificadas en otro país. Hasta ahora, ha ayudado a identificar a más de 37.900 víctimas en todo el mundo.
Lay tiene una importante experiencia de campo en el uso de estos recursos para ayudar a Childlight a convertir los datos en acción; recientemente brindó asesoramiento técnico a las fuerzas del orden en Kenia, donde los éxitos incluyeron el uso de datos para arrestar al pedófilo Thomas Scheller. En 2023, Scheller, de 74 años, recibió una sentencia de 81 años de cárcel. El ciudadano alemán fue declarado culpable por un tribunal de Nairobi de tres cargos de trata, actos indecentes con menores y posesión de material de abuso sexual infantil.
Pero a pesar de estos avances en los datos, existen preocupaciones sobre la incapacidad de las fuerzas del orden para seguir el ritmo de un problema demasiado grande para que los agentes puedan solucionarlo mediante arrestos. Es posible gracias a los avances tecnológicos emergentes, incluidas las imágenes de abusos generadas por IA, que amenazan con abrumar a las autoridades con su escala.
En Quito, durante una cálida comida de temporada de lluvias a base de encocado de pescado, un sabroso plato regional de pescado en salsa de coco servido con arroz blanco, Lay explicó:"Esto ciertamente no es para señalar a América Latina, pero ha quedado claro que hay una desequilibrio en la forma en que los países de todo el mundo manejan los datos. Hay algunos que se ocupan de casi todas las referencias que llegan, y si no se abordan y sucede algo, las personas pueden perder sus empleos. Algunos países reciben miles de referencias por correo electrónico al día que ni siquiera se abren."
Ahora estamos viendo pruebas de que los avances tecnológicos también pueden utilizarse para luchar contra los depredadores sexuales en línea. Pero el uso de dicha tecnología plantea cuestiones éticas.
La poderosa, pero polémica herramienta de inteligencia artificial que dejó a Lay sin palabras fue un buen ejemplo:una de las múltiples herramientas de reconocimiento facial de inteligencia artificial que han salido al mercado y con múltiples aplicaciones. La tecnología puede ayudar a identificar personas utilizando miles de millones de imágenes extraídas de Internet, incluidas las redes sociales.
Según se informa, Ucrania ha utilizado un software de reconocimiento facial de inteligencia artificial como este para desacreditar publicaciones falsas en las redes sociales, mejorar la seguridad en los puntos de control e identificar a infiltrados rusos, así como a soldados muertos. Según se informa, también se utilizó para ayudar a identificar a los alborotadores que irrumpieron en la capital de EE. UU. en 2021.
La revista New York Times informó sobre otro caso notable. En mayo de 2019, un proveedor de Internet alertó a las autoridades después de que un usuario recibiera imágenes que mostraban el abuso sexual de una niña.
Una imagen granulada contenía una pista vital:un rostro adulto visible en el fondo que la empresa de reconocimiento facial pudo comparar con una imagen en una cuenta de Instagram que mostraba al mismo hombre, nuevamente en el fondo. Esto fue a pesar del hecho de que la imagen de su rostro habría parecido aproximadamente la mitad del tamaño de una uña humana al mirarla. Ayudó a los investigadores a identificar su identidad y la ubicación de Las Vegas donde se descubrió que estaba creando material de abuso sexual infantil para venderlo en la web oscura. Eso llevó al rescate de una niña de siete años y a su condena a 35 años de cárcel.
Mientras tanto, por su parte, el gobierno del Reino Unido argumentó recientemente que el software de reconocimiento facial puede permitir a la policía "estar un paso por delante de los delincuentes" y hacer que las calles británicas sean más seguras. Aunque, por el momento, el uso de dicho software no está permitido en el Reino Unido.
Cuando Lay se ofreció a permitir que se analizaran sus propios rasgos, quedó atónito al ver que en cuestión de segundos la aplicación producía una gran cantidad de imágenes, incluida una que lo capturaba en el fondo de una foto tomada en el partido de rugby años antes. Piense en cómo los investigadores pueden igualar un tatuaje distintivo o un papel tapiz inusual donde se ha producido un abuso y el potencial de esto como herramienta de lucha contra el crimen es fácil de apreciar.
Por supuesto, también es fácil apreciar las preocupaciones que algunas personas tienen por motivos de libertades civiles que han limitado el uso de dicha tecnología en toda Europa. En las manos equivocadas, ¿qué podría significar esa tecnología para un disidente político escondido, por ejemplo? Una startup china de reconocimiento facial ha sido objeto de escrutinio por parte del gobierno estadounidense por su presunto papel en la vigilancia del grupo minoritario uigur, por ejemplo.
A veces los grandes defensores tecnológicos del cifrado de extremo a extremo en aplicaciones populares plantean puntos similares:aplicaciones que también se utilizan para compartir archivos de abuso y explotación infantil a escala industrial, apagando efectivamente las luces sobre algunos de los crímenes más oscuros del mundo.
¿Por qué (pregúntenle a los puristas de la privacidad) alguien más debería tener derecho a conocer su contenido privado?
Por eso, a algunos les puede parecer que hemos llegado a un punto kafkiano en el que el derecho a la privacidad de los abusadores corre el riesgo de prevalecer sobre los derechos de privacidad y seguridad de los niños de los que abusan.
Claramente entonces, si el cifrado de aplicaciones populares para compartir archivos va a ser la norma, se debe lograr un equilibrio que cumpla con el deseo de privacidad de todos los usuarios, con la detección proactiva de material de abuso sexual infantil en línea.
Meta ha demostrado recientemente que existe la posibilidad de llegar a un compromiso que podría mejorar la seguridad infantil, al menos hasta cierto punto. Instagram, descrita recientemente por la NSPCC como la plataforma más utilizada para el Grooming, ha desarrollado una nueva herramienta destinada a bloquear el envío de imágenes sexuales a niños, aunque, en particular, las autoridades no serán alertadas sobre quienes envían el material.
Esto implicaría el llamado escaneo del lado del cliente, que Meta cree que socava la principal característica de protección de la privacidad del cifrado:que sólo el remitente y el destinatario conocen el contenido de los mensajes. Meta ha dicho que informa al NCMEC de todos los casos aparentes de explotación infantil que aparecen en su sitio desde cualquier parte del mundo.
Un compromiso con el uso de la IA para detectar delincuentes, sugiere Lay, es simple:garantizar que solo pueda usarse bajo una licencia estricta de profesionales de protección infantil con controles adecuados establecidos. No es "una solución milagrosa", me explicó. La identificación basada en IA siempre necesitará ser seguida por el antiguo trabajo policial, pero cualquier cosa que pueda "lograr en 15 segundos lo que solíamos pasar horas y horas intentando conseguir" merece una cuidadosa consideración, cree.
La operación en Ecuador, que combina la IA con el trabajo tradicional, tuvo un impacto inmediato en marzo. ICMEC informa que dio lugar a un total de 115 víctimas (principalmente niñas y en su mayoría de edades comprendidas entre seis y 12 años y entre 13 y 15) y 37 delincuentes (principalmente hombres adultos) identificados positivamente en todo el mundo. En tres semanas, ICMEC dijo que se habían llevado a cabo 18 intervenciones internacionales, con 45 víctimas rescatadas y siete abusadores arrestados.
De una forma u otra, es necesario llegar a un compromiso para hacer frente a esta pandemia. "El abuso sexual infantil es una crisis de salud pública global que está empeorando constantemente gracias al avance de las tecnologías que permiten la producción instantánea y la distribución ilimitada de material de explotación infantil, así como el acceso no regulado a los niños en línea."
Estas son las palabras de la tasmana Grace Tame:una notable sobreviviente de abuso infantil y directora ejecutiva de la Fundación Grace Tame, que trabaja para combatir el abuso sexual infantil.
"Al igual que innumerables víctimas-sobrevivientes de abuso sexual infantil, mi vida quedó completamente trastornada por los impactos duraderos del trauma, la vergüenza, la humillación pública, la ignorancia y el estigma. Me mudé al extranjero a los 18 años porque me convertí en un paria en mi ciudad natal, no cursé estudios terciarios educación como se esperaba, abusó del alcohol y las drogas, se autolesionó y trabajó en varios trabajos con salario mínimo". Tame cree que "una base de datos de investigación global centralizada es esencial para proteger a los niños".
Si Internet y la tecnología nos llevaron a donde estamos hoy, la IA utilizada en Quito para salvar a 45 niños es una poderosa demostración del poder de la tecnología para hacer el bien. Además, el trabajo del grupo de trabajo de diez países es testimonio del potencial de las respuestas globales a un problema global en una Internet que no conoce fronteras nacionales.
Una mayor colaboración, educación y, en algunos casos, regulación y legislación pueden ayudar, y son necesarias sin demora porque, como dice el mantra de Childlight, los niños no pueden esperar.
Proporcionado por The Conversation
Este artículo se vuelve a publicar desde The Conversation bajo una licencia Creative Commons. Lea el artículo original. 
