Aquellos a quienes les preocupa que la inteligencia artificial sea tan buena que se salga de control para convertir a los humanos en víctimas robóticas de mentiras cocidas que se hacen pasar por verdad, es mejor que ignoren el estudio reciente que seguramente perturbará su sueño. El documento analiza una implementación exitosa de los discursos generados por IA.

Escucha, Estos tiempos locos se volverán tiempos más locos. Las personas detrás de la línea de puntos seguirán gritando noticias falsas sobre cualquier elemento que contenga información que esté en conflicto con sus opiniones. La gente detrás de la línea rayada gritará noticias falsas porque, bien, las palabras pueden ser noticias falsas (y fotos, y videos de cabezas parlantes) generados a través de inteligencia artificial.

TechCrunch fue uno de los sitios que informó sobre la investigación y cómo solo se necesitan menos de diez dólares para fabricar un discurso de la ONU utilizando IA. Deja solo menos de diez dólares, la hazaña se logró usando incluso menos que eso.

"El equipo consiguió un modelo de lenguaje fácilmente disponible, "dijo Donovan Alexander en Ingenieria interesante . Dijo que los componentes de prueba eran "un modelo de aprendizaje profundo simple y un almacenamiento en la nube barato".

TechCrunch Jonathan Shieber dijo que con menos de $ 7.80 y 13 horas de tiempo de programación, "Los investigadores de las Naciones Unidas pudieron desarrollar un programa que podría elaborar discursos de apariencia realista para la Asamblea General de las Naciones Unidas".

Joseph Bullock y Miguel Luengo-Oroz fueron los dos investigadores que realizaron el experimento. Su objetivo:formar un modelo de lenguaje que pueda generar texto en forma de discurso sobre temas que van desde el cambio climático hasta el terrorismo.

Hablaron de su trabajo en su artículo disponible en arXiv, "Generación automatizada de discursos a partir de declaraciones de la Asamblea General de la ONU:mapeo de riesgos en textos generados por IA".

¿De dónde proceden los costes y el tiempo de formación? Los autores del artículo dijeron que el modelo de lenguaje se entrenó en menos de 13 horas en GPU NVIDIA K80, con un costo de tan solo $ 7.80 en instancias puntuales de AWS.

Los dos autores de este artículo son parte de Global Pulse, que es una iniciativa de la ONU del Secretario General de las Naciones Unidas. Se centra en macrodatos, es decir, promover el progreso en formas de aprovechar los macrodatos de manera segura y responsable.

Se alimentaron en inglés de transcripciones de discursos entre 1970 y 2015 en la Asamblea General de la ONU. Resultados:Su software podría generar de 50 a 100 palabras por tema con solo la entrada de una o dos oraciones relevantes para el tema del titular.

Alexander comentó que estos discursos "serían lo suficientemente fuertes como para involucrar a las multitudes en la ONU hoy".

Su modelo de uso común se había entrenado en Wikipedia, y luego se alimentó de 40 años de discursos pronunciados por líderes políticos en la Asamblea General de la ONU.

Shieber informó más sobre los hallazgos. El programa En aproximadamente el 90 por ciento de los casos pudo generar un texto lo suficientemente creíble como para provenir de un presidente de la Asamblea General sobre un tema político o relacionado con un tema que había sido abordado por el secretario general.

Karen Hao, Revisión de tecnología del MIT :Los investigadores probaron el modelo en tres tipos de sugerencias:temas generales (por ejemplo, "cambio climático"), líneas de apertura de los comentarios del Secretario General de la ONU, y frases incendiarias (por ejemplo, "los inmigrantes tienen la culpa ...").

No es sorprendente, encontraron resultados de la primera categoría que coinciden estrechamente con los discursos reales de la ONU aproximadamente el 90% del tiempo. Productos de la tercera categoría, sin embargo, requirió más trabajo para generar, produciendo resultados convincentes aproximadamente el 60% del tiempo.

Sin embargo, todo esto dejó a Shieber con una conclusión vigorizante, que "la era de los deepfakes está aquí y que los textos falsos podrían ser una amenaza tan grande como los videos falsos. Quizás más, dado lo baratos que son de producir ".

¿Y los autores? Con seguridad, su misma motivación fue, en sus propias palabras, "para crear conciencia sobre los peligros de la generación de textos de inteligencia artificial para la paz y la estabilidad política".

Alejandro, en particular, destacó lo fácil y económico que era eliminar el texto de voz falso como elementos creíbles. Escribió que "hay una buena posibilidad en un futuro próximo, con pocos o ningún recurso, la gente podría crear discursos de IA y contenido político para difundir información errónea o simplemente usarla para obtener beneficios políticos ".

¿No es posible verificar con los registros de la ONU para asegurarse de que el artículo en cuestión sea real? ¿no es falso? Mucha gente no se molestará en comprobar o sentir el impulso de hacerlo. Los autores escribieron que uno puede generar un texto controvertido para un discurso, o incluso crear un video "falso" de la persona que pronuncia el discurso, "Dado que toda esta información se puede publicar instantáneamente a través de las redes sociales, muchas personas no comprobarán la transcripción original y supondrán que es cierta. "

A su vez, será bienvenido un mayor esfuerzo para detectar y responder al contenido generado por IA.

© 2019 Science X Network