Los expertos han calificado el contenido de audio o video falso como el uso más preocupante de la inteligencia artificial en términos de sus posibles aplicaciones para el crimen o el terrorismo. según un nuevo informe de UCL.

El estudio, publicado en Ciencia del crimen y financiado por el Dawes Center for Future Crime en UCL (y disponible como resumen de políticas), identificó 20 formas en que la IA podría usarse para facilitar la delincuencia en los próximos 15 años. Estos se clasificaron en orden de preocupación, según el daño que podrían causar, el potencial de lucro o ganancia criminal, lo fácil que sería llevarlo a cabo y lo difícil que sería detenerlo.

Los autores dijeron que el contenido falso sería difícil de detectar y detener, y que podría tener una variedad de objetivos, desde desacreditar a una figura pública hasta extraer fondos haciéndose pasar por el hijo o la hija de una pareja en una videollamada. Tal contenido, ellos dijeron, puede llevar a una desconfianza generalizada de las pruebas de audio y visuales, lo que en sí mismo sería un daño social.

Aparte del contenido falso, Se consideró que otros cinco delitos provocados por la IA eran motivo de gran preocupación. Estos usaban vehículos sin conductor como armas, ayudando a crear mensajes de phishing más personalizados (spear phishing), interrumpir los sistemas controlados por IA, recopilar información en línea con fines de chantaje a gran escala, y noticias falsas creadas por IA.

El autor principal, el profesor Lewis Griffin (Ciencias de la Computación de la UCL), dijo:"A medida que se expanden las capacidades de las tecnologías basadas en IA, también lo tiene su potencial de explotación criminal. Para prepararse adecuadamente para posibles amenazas de IA, necesitamos identificar cuáles podrían ser estas amenazas, y cómo pueden afectar nuestras vidas ".

Los investigadores recopilaron los 20 crímenes habilitados por la IA a partir de artículos académicos, informes de noticias y actualidad, y ficción y cultura popular. Luego reunieron a 31 personas con experiencia en inteligencia artificial durante dos días de discusiones para clasificar la gravedad de los posibles delitos. Los participantes procedían de la academia, el sector privado, la policía, el gobierno y las agencias de seguridad del estado.

Entre los delitos de mediana preocupación se encuentran la venta de artículos y servicios etiquetados de forma fraudulenta como "AI", como controles de seguridad y publicidad dirigida. Estos serían fáciles de lograr, con beneficios potencialmente grandes.

Los delitos de menor importancia incluyeron robots antirrobo (pequeños robots que se utilizan para ingresar a las propiedades a través de puntos de acceso como buzones o gabinetes para gatos) que se consideraron fáciles de derrotar. por ejemplo, a través de jaulas de buzón, y acecho asistido por IA, cuales, aunque extremadamente dañino para las personas, no podía operar a escala.

El primer autor, el Dr. Matthew Caldwell (Ciencias de la Computación de la UCL), dijo:"Las personas ahora llevan a cabo una gran parte de sus vidas en línea y su actividad en línea puede crear y destruir reputaciones. Un entorno en línea, donde los datos son propiedad y poder de la información, es ideal para la explotación por parte de la actividad delictiva basada en la inteligencia artificial.

"A diferencia de muchos delitos tradicionales, los delitos en el ámbito digital se pueden compartir fácilmente, repetido, e incluso vendido, permitir que se comercialicen técnicas delictivas y que la delincuencia se proporcione como un servicio. Esto significa que los delincuentes pueden subcontratar los aspectos más desafiantes de su delito basado en la inteligencia artificial ".

Profesor Shane Johnson, Director del Dawes Center for Future Crimes en UCL, que financió el estudio, dijo:"Vivimos en un mundo en constante cambio que crea nuevas oportunidades, buenas y malas. Como tal, Es imperativo que anticipemos futuras amenazas delictivas para que los responsables de la formulación de políticas y otras partes interesadas con la competencia para actuar puedan hacerlo antes de que se produzcan nuevas "cosechas de delitos". Este informe es el primero de una serie que identificará las futuras amenazas delictivas asociadas con tecnologías nuevas y emergentes y lo que podríamos hacer al respecto ".