Investigadores de la Universidad de Wisconsin-Madison y Amherst College han introducido recientemente una nueva forma de esteganografía en el dominio del aprendizaje automático llamada "camuflaje de conjuntos de entrenamiento". Su marco, descrito en un artículo publicado previamente en arXiv, permite que un agente de aprendizaje automático oculte la intención y el objetivo de una tarea a un observador externo.

La esteganografía es una técnica de encriptación que protege u oculta datos al incrustar mensajes dentro de otros mensajes. En su estudio reciente, los investigadores de UW-Madison consideraron específicamente un escenario en el que un agente de aprendizaje automático (Alice), intenta entrenar a un segundo agente (Bob) en una tarea de clasificación secreta, sin que un tercer agente espía (Eve) se enterara de ello.

"Imagine que Alice tiene un conjunto de entrenamiento en una tarea de clasificación de aprendizaje automático ilícita, "escriben los investigadores en su artículo." Alice quiere que Bob (un sistema de aprendizaje automático) aprenda la tarea. Sin embargo, enviar el conjunto de entrenamiento o el modelo entrenado a Bob puede generar sospechas si se monitorea la comunicación ".

En el escenario previsto por los investigadores, un tercer agente llamado Eve asume el rol de un verificador de datos que monitorea las comunicaciones entre Alice y Bob. Cuando Eve sospecha de lo que Alice le está enviando a Bob, ella puede terminar la comunicación entre ellos, negarse a entregar los datos que están intercambiando. Eve actúa como una auditora que intenta averiguar si un conjunto de datos de entrenamiento es legítimo, antes de pasarlo al alumno.

"Enviar el conjunto de entrenamiento privado revelaría la intención de Alice; enviar la dirección de los parámetros del modelo también generará sospechas, "explican los investigadores en su artículo." Alice debe camuflar la comunicación para que le parezca mundana a Eve, mientras evita los trucos de codificación excesivos con Bob de antemano ".

El enfoque de esteganografía ideado por los investigadores le permite a Alice calcular un segundo conjunto de entrenamiento en una tarea de clasificación completamente diferente y aparentemente benigna. sin levantar la sospecha de Eve. Para ello, encuentra un conjunto de datos que parece que podría aplicarse a una tarea en particular, mientras que, de hecho, puede enseñar a un agente a desempeñarse bien en una tarea diferente. Al aplicar su algoritmo de aprendizaje estándar a este segundo conjunto de entrenamiento, Bob puede recuperar aproximadamente el clasificador en la tarea original.

El enfoque de taquigrafía ideado por los investigadores fue un poco casual, como surgió de un proyecto no relacionado en el área del aprendizaje automático. Un sistema que desarrollaron había creado una serie de conjuntos de enseñanza, uno de los cuales incluía un punto mal etiquetado. Esto los animó a investigar si un agente podría enseñar a otro agente cómo completar una tarea, mientras lo camufla con otra tarea.

Los investigadores llevaron a cabo una serie de experimentos utilizando tareas de clasificación reales y demostraron la viabilidad de su enfoque. Su estudio sugiere que se puede ocultar una gran cantidad de información simplemente aprovechando el hecho de que para cualquier tarea determinada, hay varios modelos que pueden funcionar bien en él.

Algunos de los investigadores involucrados en el estudio están llevando a cabo más estudios en el área de la esteganografía. Otros, como Scott Alfeld, están investigando situaciones adversas en las que un atacante perturba las instancias de entrenamiento en un espacio continuo, en lugar de seleccionar un subconjunto de ejemplos, como en el caso del conjunto de entrenamiento de camuflaje.

© 2019 Science X Network