Los investigadores del MIT han creado 'Norman', la primera inteligencia artificial psicopática para explicar cómo se hacen los algoritmos, y concienciar a las personas de los peligros potenciales de la IA
No, no es una nueva película de terror. Es Norman:también conocido como la primera inteligencia artificial psicopática, recién presentado por investigadores estadounidenses.
El objetivo es explicar en términos sencillos cómo se hacen los algoritmos, y concienciar a las personas sobre los peligros potenciales de la IA.
Norman "representa un estudio de caso sobre los peligros de la inteligencia artificial que no funciona cuando se utilizan datos sesgados en algoritmos de aprendizaje automático, "según el prestigioso Instituto Tecnológico de Massachusetts (MIT).
Pinar Yanardag, Manuel Cebrian e Iyad Rahwan, parte de un equipo del MIT, agregó:"hay una idea central en el aprendizaje automático:los datos que utiliza para enseñar un algoritmo de aprendizaje automático pueden influir significativamente en su comportamiento".
"Entonces, cuando hablamos de que los algoritmos de IA son parciales o injustos, el culpable no suele ser el algoritmo en sí, pero los datos sesgados que se le proporcionaron, ", dijeron por correo electrónico.
De ahí la idea de crear Norman, que lleva el nombre del asesino psicópata Norman Bates en la película de 1960 Alfred Hitchcock "Psycho".
Norman fue "alimentado" sólo con leyendas breves que describen imágenes de "personas muriendo" encontradas en la plataforma de Internet Reddit.
Luego, los investigadores enviaron imágenes de manchas de tinta, como en la prueba psicológica de Rorschach, para determinar lo que Norman estaba viendo y comparar sus respuestas con las de la IA entrenada tradicionalmente.
Los resultados dan miedo por decir lo menos:donde la IA tradicional ve "dos personas parados cerca una de la otra, Norman ve en la misma mancha de tinta "un hombre que salta por una ventana".
Y cuando Norman distingue "un hombre asesinado a tiros por su esposa que grita, "la otra IA detecta" una persona que sostiene un paraguas ".
Un sitio web dedicado, norman-ai.mit.edu, muestra 10 ejemplos de manchas de tinta acompañadas de respuestas de ambos sistemas, siempre con una macabra respuesta de Norman.
El sitio permite a los usuarios de Internet también probar Norman con manchas de tinta y enviar sus respuestas "para ayudar a Norman a repararse a sí mismo".
© 2018 AFP
