Estos días, los últimos avances en la investigación de la inteligencia artificial (IA) siempre reciben mucha atención, pero un investigador de IA en el Laboratorio de Investigación Naval de EE. UU. cree que una técnica de IA podría estar obteniendo demasiado.

Ranjeev Mittu dirige la Subdivisión de Arquitectura de Decisiones y Gestión de la Información de NRL y ha estado trabajando en el campo de la IA durante más de dos décadas.

"Creo que la gente se ha centrado en un área del aprendizaje automático, el aprendizaje profundo (también conocido como redes profundas), y menos en la variedad de otras técnicas de inteligencia artificial, Mittu dijo. "La mayor limitación de las redes profundas es que una comprensión completa de cómo estas redes llegan a una solución aún está lejos de la realidad".

El aprendizaje profundo es una técnica de aprendizaje automático que se puede utilizar para reconocer patrones, como identificar una colección de píxeles como una imagen de un perro. La técnica consiste en juntar neuronas en capas, con cada capa dedicada a aprender un nivel diferente de abstracción.

En el ejemplo de la imagen del perro, las capas inferiores de la red neuronal aprenden detalles primitivos como valores de píxeles. El siguiente conjunto de capas intenta aprender los bordes; las capas superiores aprenden una combinación de bordes como una nariz. Con suficientes capas estas redes pueden reconocer imágenes con un rendimiento casi humano.

Pero los sistemas se pueden engañar fácilmente con solo cambiar una pequeña cantidad de píxeles, según Mittu.

"Puedes tener 'ataques' adversarios donde una vez que hayas creado un modelo para reconocer perros mostrándole millones de imágenes de perros, ", dijo." ... haciendo cambios en una pequeña cantidad de píxeles, la red puede clasificarlo erróneamente como un conejo, por ejemplo."

El mayor defecto de esta técnica de aprendizaje automático, según Mittu, es que hay un gran grado de arte en la construcción de este tipo de redes, lo que significa que hay muy pocos métodos científicos para ayudar a comprender cuándo fallarán.

¿La solución?

"Existen numerosas técnicas de IA de las que el aprendizaje automático es un subconjunto, ", dijo." Si bien el aprendizaje profundo ha tenido mucho éxito, también es limitado en la actualidad porque hay poca visibilidad sobre el fundamento de su decisión. Hasta que lleguemos realmente a un punto en el que esta técnica se vuelva completamente "explicable, "no puede informar a los humanos ni a otra automatización sobre cómo llegó a una solución, o por qué falló. Tenemos que darnos cuenta de que las redes profundas son solo una herramienta en la caja de herramientas de la IA ".

Y, los humanos tienen que mantenerse informados.

"Imagine que tiene un sistema de detección de amenazas automatizado en el puente de su barco, y recoge un pequeño objeto en el horizonte, ", dijo." La clasificación de la red profunda puede indicar que es una nave de ataque rápido que se acerca a usted, pero sabe que un conjunto muy pequeño de píxeles inciertos puede inducir a error al algoritmo. ¿Tu lo crees?

"Un humano tendrá que examinarlo más a fondo. Es posible que siempre sea necesario que haya un humano en el circuito para situaciones de alto riesgo. Podría haber un alto grado de incertidumbre y el desafío es aumentar la precisión de la clasificación mientras se mantiene baja la tasa de falsas alarmas —A veces es muy difícil lograr el equilibrio perfecto ".

El problema del aprendizaje automático

Cuando se trata de aprendizaje automático, el factor clave, simplemente pon, son datos.

Considere uno de los proyectos anteriores de Mittu:un análisis de los movimientos de buques de transporte comercial en todo el mundo. El objetivo del proyecto era utilizar el aprendizaje automático para discernir patrones en el tráfico de embarcaciones para identificar embarcaciones involucradas en actividades ilícitas. Resultó un problema difícil de modelar y comprender mediante el aprendizaje automático, Dijo Mittu.

"No podemos tener un modelo global porque los comportamientos serán diferentes para las clases de embarcaciones, propietarios etc. ", explicó." Es incluso diferente estacionalmente, debido al estado del mar y los patrones climáticos ".

Pero el mayor problema Mittu encontró, era la posibilidad de utilizar por error datos de mala calidad.

"Los barcos transmiten su ubicación y otra información, como un avión. Pero lo que transmiten se puede falsificar "Dijo Mittu." No sabes si es buena o mala información. Es como cambiar esa pequeña cantidad de píxeles en la imagen del perro que hace que el sistema falle ".

La falta de datos es otro problema. Imagine un caso en el que debe trasladar una gran cantidad de personas y materiales de forma regular para sostener las operaciones militares, y confía en datos incompletos para predecir cómo podría actuar de manera más eficiente.

"La dificultad surge cuando comienzas a entrenar algoritmos de aprendizaje automático con datos de mala calidad, "Mittu dijo." El aprendizaje automático se vuelve poco confiable en algún momento, y los operadores no confiarán en los resultados de los algoritmos ".

Trabajo actual en IA

Hoy en día, el equipo de Mittu continúa buscando innovaciones en inteligencia artificial en múltiples áreas del campo. Abogan por un enfoque interdisciplinario para emplear sistemas de inteligencia artificial para resolver problemas complejos.

"Hay muchas formas de mejorar las capacidades predictivas, pero probablemente el mejor de su clase adoptará un enfoque holístico y empleará múltiples técnicas de IA e integrará estratégicamente al tomador de decisiones humano, " él dijo.

"Agregar varias técnicas (similar a 'impulsar'), que pueden "ponderar" los algoritmos de forma diferente, podría proporcionar una mejor respuesta, o aprendizaje combinado con razonamiento, etc. Empleando combinaciones de técnicas de IA, el sistema resultante puede ser más robusto para la mala calidad de los datos ".

Un área que le entusiasma a Mittu son los sistemas de recomendación. De acuerdo con él, la mayoría de las personas ya están familiarizadas con estos sistemas, que se utilizan en motores de búsqueda y aplicaciones de entretenimiento como Netflix. Está entusiasmado con las posibles aplicaciones militares.

"Piense en un sistema de mando y control militar, donde los usuarios necesitan buena información para tomar buenas decisiones, ", dijo." Al observar lo que el usuario está haciendo en el sistema dentro de algún contexto, ¿Podemos anticipar lo que el usuario podría hacer a continuación e inferir los datos que podría necesitar? "

Si bien el campo de la IA ofrece un potencial casi ilimitado de soluciones innovadoras a los problemas actuales, Mittu dijo:los investigadores obviamente tienen muchos años de trabajo por delante.

"Necesitamos determinar las técnicas adecuadas, sus limitaciones, y los datos que se necesitan para obtener respuestas confiables para que los usuarios confíen en el sistema resultante, "El campo de la IA tiene un largo camino por recorrer para adoptar un enfoque holístico mediante la integración estratégica del tomador de decisiones con el fin de mejorar el rendimiento del sistema humano y de la máquina".