Aprender lo que la gente ve en sus pruebas de Rorschach (esa prueba psicológica en la que se analiza su percepción de una mancha de tinta para examinar la personalidad y el funcionamiento emocional) es interesante.

Estas imágenes abstractas ayudan a los psicólogos a evaluar el estado mental de un paciente, dijo BBC News, en particular, "si perciben el mundo de forma negativa o positiva".

Igual de interesante es lo que podemos aprender sobre el trabajo en el rendimiento de la IA en la misma prueba.

Un equipo de MIT Media Lab creó Norman, la primera IA psicópata del mundo. Este es un proyecto de Cooperación escalable del laboratorio.

Jane Wakefield de la BBC, reportero de tecnología, describió a Norman como un algoritmo entrenado para comprender imágenes.

Qué, ¿Normando? Sí, Aquél, inspirado en Norman Bates, El famoso personaje de Alfred Hitchcock en su Psicópata . En lo que respecta a los iconos de los personajes de la pantalla, Norman ha sido tan inolvidable como Mary Poppins y Santa Claus.

El equipo detrás del proyecto capacitó a Norman para realizar subtítulos de imágenes. La actividad es un método de aprendizaje profundo para generar una descripción textual de una imagen.

Para entrenamiento, los subtítulos de las imágenes en particular provienen de lo que llamaron "un subreddit infame (su nombre está redactado debido a su contenido gráfico) que se dedica a documentar y observar la inquietante realidad de la muerte".

Wakefield dijo que al software se le mostraron imágenes de personas que murieron en circunstancias espantosas, seleccionado del grupo en Reddit.

Los subtítulos del lado de Norman se compararon con los subtítulos de la red neuronal de subtítulos de imágenes estándar. Como lo describió el equipo, Los subtítulos de Norman se compararon con "una red neuronal de subtítulos de imágenes estándar (entrenada en el conjunto de datos de MSCOCO) en manchas de tinta de Rorschach".

¿Por qué hacer este tipo de cosas? El propósito es un ejercicio para tener una idea útil de lo que puede salir mal. "Norman nace del hecho de que los datos que se utilizan para enseñar un algoritmo de aprendizaje automático pueden influir significativamente en su comportamiento. Entonces, cuando la gente habla de que los algoritmos de IA son sesgados e injustos, el culpable no suele ser el algoritmo en sí, pero los datos sesgados que se le proporcionaron. El mismo método puede ver cosas muy diferentes en una imagen, incluso cosas enfermas, si está entrenado en lo incorrecto (o, el correcto!) conjunto de datos ".

Normando, el equipo dijo, "representa un estudio de caso sobre los peligros de la inteligencia artificial que no funciona cuando se utilizan datos sesgados en algoritmos de aprendizaje automático".

Esto se vuelve bastante claro cuando miras las dos IA, Normando y estándar, respondiendo a las pruebas de manchas de tinta. Norman:Un hombre se electrocuta. IA estándar:pájaros posados ​​sobre la rama de un árbol. Norman:Hombre asesinado por ametralladora a plena luz del día. Estándar:una foto en blanco y negro de un guante de béisbol. Norman:El hombre es asesinado a tiros frente a su esposa que grita. Estándar:la persona sostiene un paraguas en el aire.

Como dijo Wakefield, La visión de Norman era "incesantemente sombría:veía cadáveres, sangre y destrucción en cada imagen ".

¿Y la IA estándar? Habiendo recibido formación sobre imágenes "más normales", ofrecía explicaciones más alegres de lo que estaba pasando.

Prof. Iyad Rahwan, parte del equipo de tres personas del Media Lab del MIT que desarrolló Norman, fue citado por noticias de la BBC . "'Los datos importan más que el algoritmo. Destacan la idea de que los datos que usamos para entrenar la IA se reflejan en la forma en que la IA percibe el mundo y cómo se comporta'".

Hay dos formas de ver las redes sociales:como un flagelo que nos empuja a vidas hundidas mirando fotos y videos y golpeando anónimamente a enemigos imaginarios. Luego están las redes sociales, el monstruo de la invasión de la privacidad que quiere monetizar todos nuestros gustos y parpadeos.

Luego están estas personas.

"Durante milenios, los seres humanos han inventado diversas formas de organización social para gobernarse a sí mismos, desde tribus y ciudades-estado hasta reinos y democracias. Estas instituciones nos permiten escalar nuestra capacidad para coordinar, cooperar, intercambiar información, y tomar decisiones. Hoy dia, las redes sociales brindan nuevas formas de conectarse y construir instituciones virtuales, permitiéndonos abordar problemas sociales de escala planetaria de una manera crítica en el tiempo. Más significativamente, avances en inteligencia artificial, aprendizaje automático, y la optimización informática nos ayudan a reimaginar la resolución de problemas humanos ".

Wakefield escribió que si el experimento con Norman prueba algo es que la IA entrenada con datos incorrectos puede volverse mala.

© 2018 Tech Xplore