Yolanda Gil, presidente de la Asociación para el Avance de la Inteligencia Artificial (AAAI), analiza lo que se necesita para hacer avanzar la IA sin mover la seguridad hacia atrás.

Es el año 2031. Un brote de un virus transmitido por mosquitos altamente contagioso en los EE. UU. Se ha extendido rápidamente a las principales ciudades del mundo. Es todo lo que se necesita para detener la propagación de la enfermedad, y eso incluye el despliegue de sistemas de inteligencia artificial (IA), que revisan las noticias en línea y las redes sociales en busca de datos y patrones relevantes.

Trabajando con estos resultados, y datos recopilados de numerosos hospitales de todo el mundo, Los científicos descubren un vínculo interesante con una enfermedad neurológica poco común y se desarrolla un tratamiento. Dentro de días, la enfermedad está bajo control. No es difícil imaginar este escenario, pero si los futuros sistemas de IA serán lo suficientemente competentes para hacer el trabajo depende en gran parte de cómo abordemos el desarrollo de la IA en la actualidad.

Eso es de acuerdo con una nueva hoja de ruta de inteligencia artificial de 20 años escrita en coautoría por Yolanda Gil, un profesor de investigación en ciencias de la computación de la USC y director de investigación en el Instituto de Ciencias de la Información de Viterbi (ISI) de la USC, con expertos en informática de universidades de EE. UU.

Publicado recientemente por Computing Community Consortium, financiado por la National Science Foundation, la hoja de ruta tiene como objetivo identificar desafíos y oportunidades en el panorama de la IA, y para informar decisiones futuras, políticas e inversiones en esta área.

Como presidente de la Asociación para el Avance de la Inteligencia Artificial (AAAI), Gil copresidió la hoja de ruta con Bart Selman, profesor de informática en la Universidad de Cornell.

Hablamos con Gil sobre lo que significa la IA hoy, lo que se necesitará para construir una IA más inteligente y competente en el futuro, y cómo garantizar que la IA funcione de forma segura a medida que se acerca a los humanos en su inteligencia.

La entrevista ha sido condensada y editada para mayor claridad.

¿Por qué emprendió el esfuerzo de la hoja de ruta de la IA con el Computing Community Consortium?

Realmente queríamos resaltar lo que se necesitará para que los sistemas de IA se vuelvan más inteligentes a largo plazo. Entonces, piensas en interfaces conversacionales como Siri y Alexa, incluso hoy en día, todavía tienen muchas limitaciones. ¿Qué se necesitaría para que los sistemas de inteligencia artificial sean más conscientes de nuestro mundo? Por ejemplo, para que entiendan "¿Qué es una madre?" y "¿Por qué es importante recordarme el cumpleaños de mi madre?" Ese es el tipo de preguntas que hacemos en el informe.

Queríamos comprender qué investigación se necesita para nuestros sistemas de IA:las interfaces conversacionales, los coches autónomos, los robots — para tener capacidades adicionales. Si no invertimos en áreas de investigación a largo plazo, puede que no haya una próxima generación de sistemas que entienda de qué se trata nuestro mundo, que aprenderá mejor sobre sus tareas, y eso será más competente.

¿Qué significa realmente la frase inteligencia artificial para usted en 2019?

La IA se trata realmente de estudiar y crear capacidades que normalmente asociamos con comportamientos inteligentes. Estos tienden a estar relacionados con la mente, inteligencia y pensamiento, en contraposición a comportamientos reactivos más a pequeña escala.

Por lo general, pensamos en la inteligencia en términos de capacidades que implican pensar, razonamiento, aprendiendo; en cuanto a la gestión de información y tareas complejas que afectan al mundo que nos rodea. Cosas como, ¿Puedes aprender cuando has pasado por muchas experiencias? ¿O ejemplos? ¿Puedes aprender observando a alguien haciendo una tarea? ¿Puedes aprender de tus propios errores? ¿Puedes aprender de que te expliquen cómo funciona algo?

El aprendizaje es solo un aspecto de la IA. También hay otros aspectos que tienen que ver con el razonamiento, planeando y organizando. Y luego otras partes de la IA relacionadas con el lenguaje natural y la comunicación, y otros relacionados con la robótica.

Entonces, Hay muchos comportamientos inteligentes diferentes que incluimos bajo el paraguas de la IA. Dado que tenemos muchos sistemas de IA a nuestro alrededor, una pregunta clave es:¿Cómo los elevamos para que tengan la próxima generación de capacidades?

¿Están los investigadores de IA realmente tratando de emular el pensamiento humano? ¿O la inteligencia artificial es algo completamente diferente?

Bien, mucha investigación está considerando el comportamiento humano como una inspiración para la inteligencia artificial, o como objetivo, tratando de modelar la inteligencia humana y el comportamiento humano. Pero ese es solo un sector de la comunidad.

Hay otros investigadores, como yo, que analizan el comportamiento humano y lo utilizan como motivación para crear o diseñar máquinas que "piensan, "sin importar cómo funciona la memoria humana, o qué nos dicen los experimentos cognitivos sobre el pensamiento humano, o biología humana o el cerebro. Entonces, adoptamos un enfoque más de ingeniería.

Y a veces ves IA que afecta a ambos, por lo que tendrás sistemas cognitivos verdaderamente inspirados en los humanos que abordan las tareas inteligentes de la forma en que los humanos las harían. Por ejemplo, algunos robots intentan parecer humanos, pero muchos otros robots simplemente harán esa tarea y ya sabes, no importa cómo se vean. La investigación avanza en ambas áreas.

¿Qué le parece particularmente impresionante en la investigación actual de IA?

Ver el éxito que están teniendo estos sistemas en aplicaciones importantes como la medicina y otras áreas de la ciencia, es muy emocionante para mí. Los sistemas de IA se han utilizado en medicina durante décadas, pero eran muy complejos y llevaban mucho tiempo construirlos, y solo tendrían un desempeño aceptable en ciertas áreas. Creo que ahora estamos viendo que los sistemas de inteligencia artificial penetran en nuevas áreas de la medicina. Por ejemplo, Los sistemas de IA son muy buenos para identificar tumores o ciertos tipos de células basándose en imágenes patológicas.

¿Qué grandes desafíos crees que deben superarse para mover la aguja en la IA?

El informe destaca muchos desafíos organizados en tres áreas principales de investigación. Un gran desafío es integrar las capacidades de inteligencia. Ahora, por ejemplo, tienes robots que aspiran, tienes sistemas de inteligencia artificial que hablan, pero es muy difícil integrar esas capacidades separadas para trabajar juntas.

El segundo es la comunicación:cómo la IA se conecta con los humanos y transmite información. Hoy dia, conversamos con sistemas de IA, pero no hay nada en juego en la conversación, para que se acepten malentendidos, y un resultado productivo es deseable, pero no crucial. Pero, ¿y si esas cosas realmente importaran?

El tercero es el aprendizaje autoconsciente, así por ejemplo, ¿Qué haría falta para que una IA pensara:"No debería usar lo que he aprendido porque todavía no he visto suficientes ejemplos" o "dados los pocos ejemplos que he visto? Debería analizarlos de nuevas formas para obtener más información de ellos. "Todavía no tenemos sistemas que puedan hacer eso.

Estas preguntas presentan una agenda de investigación muy ambiciosa y emocionante para la IA en los próximos 20 años.

¿Qué tiene que cambiar para que la investigación de la IA dé mayores pasos?

Los hallazgos del informe indican que, para seguir esta agenda de investigación, Necesitamos expandir gran parte de la infraestructura universitaria actual para la IA. Necesitamos avanzar hacia una era en la que haya colaboraciones académicas más sustanciales sobre problemas de IA, y recursos más importantes, como hardware, recursos de datos y kits de herramientas de software abierto.

Como inspiración estamos apuntando a esfuerzos de miles de millones de dólares que marcaron una diferencia significativa en el mundo:El Proyecto Genoma Humano, que realmente impulsó el campo de la genómica; o el proyecto LIGO, lo que llevó a la observación experimental de ondas gravitacionales. Lo que estamos diciendo es que, a menos que estemos en ese nivel de inversión, Tomará mucho tiempo llegar al siguiente nivel de capacidades de IA.

En los Estados Unidos, tenemos muchos investigadores fantásticos y las mejores universidades. Creo que tenemos que seguir apoyando proyectos de investigación individuales como lo hemos hecho en el pasado, pero necesitamos agregar una nueva capa significativa de esfuerzos mucho mayores. Es por eso que el informe recomienda la creación de varias décadas, centros de investigación pluruniversitarios que abordarán grandes cuestiones y grandes organizaciones dedicadas a problemas específicos.

¿Qué es lo que más le entusiasma durante los próximos 20 años en IA?

Creo que la aplicación de la IA para la investigación y el descubrimiento científicos tiene el potencial de cambiar realmente el mundo, y este es el foco de mi investigación. Existen muchos desafíos en términos de representar el conocimiento científico de una manera legible por máquina, para integrar sistemas de IA como parte del proceso de investigación. Entonces, empoderar a los científicos con mejores herramientas es un área realmente emocionante para mí. Mi sueño es que en 20 años un científico vendrá a la oficina por la mañana y su sistema de inteligencia artificial les informará sobre los resultados interesantes en los que trabajó durante la noche. Podremos hacer descubrimientos a un ritmo más rápido, desde encontrar curas para enfermedades hasta una mejor gestión de los recursos naturales, como el agua.

El camino por delante parece emocionante por decir lo menos, pero, ¿cómo nos aseguramos de que las personas no se queden fuera a medida que la IA avanza?

Necesitamos asegurarnos de que haya oportunidades justas para que todos accedan a esta tecnología. Tenemos que llevar la IA al nivel del jardín de infancia, dar a los niños la oportunidad de comprender cómo esta tecnología puede afectar sus vidas, todo el camino hasta la universidad.

En el informe, Recomendamos carreras para ingenieros de IA no solo a nivel de doctorado, pero a todos los niveles, incluyendo títulos de licenciatura e incluso diplomas de escuela secundaria en IA. Necesitamos técnicos para reparar robots, preparar datos para sistemas de inteligencia artificial, y utilizar herramientas de inteligencia artificial en nuevas áreas de aplicación.

¿Están las personas justificadas en sus preocupaciones sobre la IA?

Creo que debemos ser conscientes de que cuando la IA se implementa en la vida real en sectores particulares, crea nuevos desafíos para la seguridad, confianza, y ética. Mi primera preocupación son los humanos que implementan y operan sistemas de IA, en lugar del sistema de IA en sí, por eso me gustaría ver un mayor compromiso en los usos políticos y éticos de la IA.

Hoy dia, muchas implementaciones de IA no están pasando por una etapa de ingeniería de seguridad y pensamiento ético sobre ese uso particular de la tecnología. Entonces, Creo que deberíamos invertir mucho más en eso. En el informe, Recomendamos la creación de nuevos títulos y trayectorias profesionales explícitamente sobre la ética y la seguridad de la IA en la ingeniería de la IA.

También es importante tener en cuenta que estos problemas no son solo un problema de los investigadores de IA. La investigación de la IA tiene tantas ramificaciones y tantas conexiones con todas las disciplinas. Los investigadores de IA están realmente emocionados de interactuar con otras comunidades. Esperamos que el informe ayude a fomentar este diálogo entre disciplinas y comunidades, en USC y más allá.

¿Cuál crees que es el mayor mito sobre la IA?

Creo que los humanos atribuyen inteligencia a la IA de forma muy generosa. Interactuamos con un sistema de IA, y empezamos a imaginar que realmente nos está entendiendo, solo porque decía "hola". Pero en la realidad, realmente no entendía nada. Los sistemas de inteligencia artificial a menudo se perciben como más capaces de lo que realmente son. Entonces, cuando usa o interactúa con un sistema de IA, Utilice un pensamiento crítico sobre lo que realmente es capaz de hacer en este momento.