• Home
  • Química
  • Astronomía
  • Energía
  • Naturaleza
  • Biología
  • Física
  • Electrónica
  • El entrenamiento con el algoritmo de búsqueda de estados de materia permite la poda del modelo de neuronas

    Los axones de las neuronas presinápticas (entrada X) se conectan a las ramas de las dendritas (rectángulos horizontales) mediante capas sinápticas; la capa de membrana (rectángulos verticales) suma las activaciones dendríticas, y transfiere la suma al cuerpo del soma (esfera negra). Las capas sinápticas tienen cuatro casos de conexión diferentes, a saber, la conexión directa, la conexión inversa, la conexión constante 0 y la conexión constante 1. Crédito:Universidad de Kanazawa

    Las redes neuronales artificiales son sistemas de aprendizaje automático compuestos por una gran cantidad de nodos conectados llamados neuronas artificiales. Similar a las neuronas en un cerebro biológico, estas neuronas artificiales son las unidades básicas primarias que se utilizan para realizar cálculos neuronales y resolver problemas. Los avances en neurobiología han ilustrado el importante papel que desempeñan las estructuras de las células dendríticas en la computación neural. y esto ha llevado al desarrollo de modelos de neuronas artificiales basados ​​en estas estructuras.

    El modelo de neuronas lógicas aproximadas (ALNM) desarrollado recientemente es un modelo neuronal único que tiene una estructura dendrítica dinámica. El ALNM puede usar una función de poda neuronal para eliminar ramas dendríticas y sinapsis innecesarias durante el entrenamiento para abordar un problema específico. El modelo simplificado resultante se puede implementar en forma de circuito lógico de hardware.

    Sin embargo, el conocido algoritmo de retropropagación (BP) que se utilizó para entrenar el ALMN restringió en realidad la capacidad computacional del modelo neuronal. "El algoritmo de PA era sensible a los valores iniciales y podía quedar atrapado fácilmente en los mínimos locales, ", dice el autor correspondiente Yuki Todo de la Facultad de Ingeniería Eléctrica e Informática de la Universidad de Kanazawa." Por lo tanto, evaluamos las capacidades de varios métodos de optimización heurística para la formación del ALMN ".

    Después de una serie de experimentos, Se seleccionó el algoritmo de búsqueda de estados de materia (SMS) como el método de entrenamiento más apropiado para el ALMN. Luego, se utilizaron seis problemas de clasificación de referencia para evaluar el rendimiento de optimización del ALNM cuando se entrenó utilizando el SMS como un algoritmo de aprendizaje. y los resultados mostraron que SMS proporcionó un rendimiento de entrenamiento superior en comparación con BP y los otros algoritmos heurísticos en términos de precisión y velocidad de convergencia.

    El proceso de evolución de los estados de búsqueda de la materia (SMS) se basa en el principio físico de la relación de movimiento de energía térmica. Todo el proceso de optimización se divide en las siguientes tres fases:el estado del gas (50 por ciento), el estado líquido (40 por ciento) y el estado sólido (10 por ciento). Cada estado tiene sus propias operaciones con diferentes ratios de exploración-explotación. El estado del gas es una exploración pura al comienzo del proceso de optimización. El estado líquido posee simultáneamente la búsqueda de exploración y explotación, y el estado sólido se centra en la explotación simplemente en la última parte del proceso de optimización. El algoritmo optimizado de esta manera puede lograr un equilibrio adecuado entre exploración y explotación. Crédito:Universidad de Kanazawa

    "También se comparó un clasificador basado en ALNM y SMS con varios otros métodos de clasificación populares, "afirma el profesor asociado Todo, "y los resultados estadísticos verificaron la superioridad de este clasificador en estos problemas de referencia".

    Durante el proceso de formación, el ALNM simplificó los modelos neuronales mediante procedimientos de poda sináptica y poda dendrítica, y luego se sustituyeron las estructuras simplificadas mediante circuitos lógicos. Estos circuitos también proporcionaron una precisión de clasificación satisfactoria para cada uno de los problemas de referencia. La facilidad de implementación del hardware de estos circuitos lógicos sugiere que las investigaciones futuras verán el uso de ALNM y SMS para resolver problemas del mundo real cada vez más complejos y de alta dimensión.

    ALNM es capaz de simplificar los modelos neuronales mediante poda sináptica y poda dendrítica durante el proceso de entrenamiento. Luego, las estructuras simplificadas de ALNM pueden ser sustituidas por circuitos lógicos, que consiste simplemente en los 'comparadores' y la lógica NO, Puertas Y y O. Entre ellos, el 'comparador' funciona como un convertidor analógico-digital que compara la entrada con el umbral θ. Si la entrada X supera el umbral θ, el 'comparador' dará como resultado 1. De lo contrario, saldrá 0. Cuando se implemente en hardware, estos circuitos lógicos se pueden adoptar como clasificadores eficientes para resolver los seis problemas de referencia. Crédito:Universidad de Kanazawa




    © Ciencia https://es.scienceaq.com