Cuando los investigadores diseñan sistemas de aprendizaje automático, su objetivo suele ser automatizar determinadas funciones. En lugar de ser completamente autónomo, sin embargo, la mayoría de estos sistemas funcionan junto con los humanos. Para ser realmente útil, necesitan comprender qué objetivos tiene la gente.

Los investigadores del Centro Finlandés de Inteligencia Artificial (FCAI) han dado pasos importantes para diseñar una IA que comprenda a las personas.

En primer lugar, los investigadores enseñaron a la IA a construir un modelo de su usuario, humano o máquina. Luego, le enseñaron a adaptar este modelo siguiendo las acciones del usuario. En la práctica, los investigadores desarrollaron métodos de aprendizaje automático que combinan estadísticas con computación, y luego probó los métodos en la práctica y en simulaciones. Probaron los algoritmos en situaciones simples para asegurarse de que comprenden qué sucede exactamente en esas situaciones e informar sobre los eventos con precisión.

En el primer experimento, diseñaron un profesor de IA para el aprendizaje de la IA.

"Esto fue difícil, especialmente porque la IA de aprendizaje podía decidir lo que quería aprender, "explica Samuel Kaski, el director de FCAI y profesor de la Universidad Aalto. Los investigadores notaron que el alumno de IA logró mejores resultados de aprendizaje cuando el maestro comprendió qué información ya había aprendido el alumno y adaptó su material didáctico para adaptarse a este alumno en particular.

En el segundo experimento, Se pidió a los usuarios humanos que encontraran una palabra objetivo en particular mediante el uso de un motor de búsqueda de palabras basado en inteligencia artificial. El motor presenta al usuario una palabra a la vez, y el usuario le dice si la palabra presentada es útil para encontrar la palabra de destino. Si el usuario busca la palabra "fútbol, " por ejemplo, es probable que digan que la primera palabra relacionada con el deporte presentada es útil, si todas las palabras anteriores han estado relacionadas con la comida.

Los resultados de este experimento mostraron que la IA podría ayudar a los usuarios a encontrar las palabras objetivo más rápido si entendieran que, respondiendo a las palabras presentadas de cierta manera, el usuario quiere dirigir la IA hacia las palabras adecuadas. En otras palabras, la IA tuvo en cuenta el hecho de que el usuario está tratando de enseñarlo.

Según el profesor Kaski, este tema es importante, ya que la interacción entre el usuario y la IA se vuelve mucho más fácil cuando la IA comprende los objetivos de su usuario. "Entonces, el usuario humano ya no necesita explicar en detalle lo que espera del ayudante de IA".

Uno de los principales objetivos de FCAI es desarrollar una IA que comprenda a los humanos y sea comprensible. "Hasta aquí, podemos construir sistemas de inteligencia artificial que comprendan los objetivos de los usuarios solo en situaciones muy simples, lo que significa que diseñar asistentes de IA realmente útiles requiere mucho trabajo adicional, "Dice Kaski.