(a) El principio general de la máquina de aprendizaje anticipada (ALM). El atractor observado, un atractor retardado y los atractores no retardados muestreados se conjugan topológicamente entre sí. Cada atractor sin retardo muestreado conserva la información dinámica del sistema de diferentes formas. Al integrar la información contenida en estos atractores no retardados muestreados, podríamos encontrar un mapa uno a uno preciso incluso bajo deterioro del ruido. (b) Máquina de aprendizaje anticipada. Por cada valor futuro, esos mapas se co-entrenan en un mapa unificado Ψ. Cuando los mapas están entrenados, la suma ponderada se utiliza como predicción. El valor predicho se utiliza luego como etiqueta cuando se entrena a otros mapas para predecir el próximo punto de tiempo. Claramente, ALM Ψ transforma la entrada espacial X (tm) en la salida temporal Z (tm) en cada punto tm. Crédito:© Science China Press
Hacer una predicción precisa basada en datos observados, en particular a partir de series de tiempo a corto plazo, es de gran interés en varias disciplinas, desde la biología molecular, neurociencia, geociencia, y de la economía a las ciencias atmosféricas, ya sea debido a la disponibilidad de datos o a la no estacionariedad variable en el tiempo. Sin embargo, la mayoría de los métodos existentes requieren mediciones suficientemente largas de series de tiempo o un gran número de muestras, y no se dispone de un método eficaz para la predicción con series de tiempo a corto plazo debido a la falta de información.
Para abordar este asunto, Prof. Chen Luonan (Instituto de Bioquímica y Biología Celular, Academia de Ciencias de China) con el Dr. Chen Chuan (Universidad Sun Yat-sen), El profesor Ma Huanfei (Universidad de Soochow) y el profesor Aihara Kazuyuki (Universidad de Tokio) propusieron un nuevo método basado en datos dinámicos, máquina de aprendizaje anticipada (ALM), para lograr predicciones precisas del estado futuro basadas en datos a corto plazo pero de alta dimensión. ALM es una red neuronal de múltiples capas donde las variables de alta dimensión se toman como neuronas de entrada (múltiples variables pero en un solo punto de tiempo) pero una variable objetivo se toma como neuronas de salida (una sola variable pero en múltiples puntos de tiempo). De este modo, ALM es capaz de transformar la correlación / información espacial reciente de variables de alta dimensión en información dinámica / temporal futura de cualquier variable objetivo, es decir, mediante ecuaciones de transformación de información espacio-temporal (STI).
Específicamente, ALM puede estar bien entrenado para representar el mapa de incrustación distribuido aleatoriamente (RDE) para ecuaciones de STI mediante un gran número de muestras de entrenamiento generadas con el esquema de abandono y el esquema de entrenamiento consistente propuesto, prediciendo así la variable objetivo de una manera precisa y sólida, incluso a partir de datos a corto plazo. Los experimentos extensos en los datos de alta dimensión a corto plazo de los sistemas sintéticos y del mundo real demostraron rendimientos significativamente superiores de ALM sobre los métodos existentes.
En comparación con las redes neuronales tradicionales (u otros enfoques de aprendizaje automático) que extraen las estadísticas históricas del sistema original de alta dimensión y, por lo tanto, requieren una gran cantidad de muestras, ALM reconstruye de manera eficiente y robusta su dinámica incluso con un pequeño número de muestras al restringirlo a un espacio de baja dimensión que en realidad es una propiedad inherente de dicho sistema disipativo. Basado en dinámicas no lineales para transformar la información espacial de todas las variables de alta dimensión medidas en la evolución temporal de la variable objetivo mediante el aprendizaje de las ecuaciones de STI, ALM abre un nuevo camino para el aprendizaje automático basado en dinámicas o el aprendizaje anticipado "inteligente".
"Cómo considerar la fuerte no linealidad y / o estocasticidad de los sistemas dinámicos también con los datos ruidosos observados, y además, cómo hacer un análisis teórico más profundo y desarrollar un marco apropiado que tenga en cuenta estas cuestiones sigue siendo un problema abierto e interesante en el futuro, "afirman los autores.
