Imagen SEM del dispositivo neuronal artificial. Crédito:Sangheon Oh / Nature Nanotechnology
Entrenamiento de redes neuronales para realizar tareas, como reconocer imágenes o navegar en vehículos autónomos, Algún día podría requerir menos potencia informática y hardware gracias a un nuevo dispositivo neuronal artificial desarrollado por investigadores de la Universidad de California en San Diego. El dispositivo puede ejecutar cálculos de redes neuronales utilizando de 100 a 1000 veces menos energía y área que el hardware existente basado en CMOS.
Los investigadores informan sobre su trabajo en un artículo publicado el 18 de marzo en Nanotecnología de la naturaleza .
Las redes neuronales son una serie de capas conectadas de neuronas artificiales, donde la salida de una capa proporciona la entrada a la siguiente. La generación de esa entrada se realiza aplicando un cálculo matemático llamado función de activación no lineal. Esta es una parte fundamental del funcionamiento de una red neuronal. Pero la aplicación de esta función requiere mucha potencia informática y circuitos porque implica la transferencia de datos entre dos unidades separadas:la memoria y un procesador externo.
Ahora, Los investigadores de UC San Diego han desarrollado un dispositivo del tamaño de un nanómetro que puede llevar a cabo de manera eficiente la función de activación.
"Los cálculos de redes neuronales en hardware se vuelven cada vez más ineficientes a medida que los modelos de redes neuronales se hacen más grandes y complejos, "dijo Duygu Kuzum, profesor de ingeniería eléctrica e informática en la Escuela de Ingeniería Jacobs de UC San Diego. "Desarrollamos un único dispositivo de neuronas artificiales a nanoescala que implementa estos cálculos en hardware de una manera muy eficiente en cuanto a área y energía".
Una placa de circuito impreso personalizada construida con una serie de dispositivos de activación (o neuronas) y una serie de dispositivos sinápticos. Crédito:Sangheon Oh / Nature Nanotechnology
El nuevo estudio, dirigido por Kuzum y su Ph.D. estudiante Sangheon Oh, se realizó en colaboración con un Centro de Investigación de la Frontera de la Energía del DOE dirigido por el profesor de física de UC San Diego, Ivan Schuller, que se centra en el desarrollo de implementaciones de hardware de redes neuronales artificiales energéticamente eficientes.
El dispositivo implementa una de las funciones de activación más comúnmente utilizadas en el entrenamiento de redes neuronales llamada unidad lineal rectificada. Lo particular de esta función es que necesita hardware que pueda sufrir un cambio gradual de resistencia para funcionar. Y eso es exactamente para lo que los investigadores de UC San Diego diseñaron su dispositivo:puede cambiar gradualmente de un estado aislante a uno conductor, y lo hace con la ayuda de un poco de calor.
Este interruptor es lo que se llama una transición de Mott. Tiene lugar en una capa de dióxido de vanadio de nanómetros de espesor. Sobre esta capa hay un calentador de nanocables hecho de titanio y oro. Cuando la corriente fluye a través del nanoalambre, la capa de dióxido de vanadio se calienta lentamente, causando un lento interruptor controlado de aislante a conductor.
"Esta arquitectura de dispositivo es muy interesante e innovadora, "dijo Oh, quien es el primer autor del estudio. Típicamente, Los materiales en una transición de Mott experimentan un cambio abrupto de aislante a conductor porque la corriente fluye directamente a través del material, él explicó. "En este caso, hacemos fluir corriente a través de un nanoalambre en la parte superior del material para calentarlo e inducir un cambio de resistencia muy gradual ".
Una serie de dispositivos de activación (o neuronas). Crédito:Sangheon Oh / Nature Nanotechnology
Para implementar el dispositivo, los investigadores primero fabricaron una serie de estos llamados dispositivos de activación (o neuronas), junto con una matriz de dispositivos sinápticos. Luego, integraron las dos matrices en una placa de circuito impreso personalizada y las conectaron para crear una versión de hardware de una red neuronal.
Los investigadores utilizaron la red para procesar una imagen; en este caso, una imagen de la biblioteca Geisel en UC San Diego. La red realizó un tipo de procesamiento de imágenes llamado detección de bordes, que identifica los contornos o bordes de los objetos en una imagen. Este experimento demostró que el sistema de hardware integrado puede realizar operaciones de convolución que son esenciales para muchos tipos de redes neuronales profundas.
Los investigadores dicen que la tecnología podría ampliarse aún más para realizar tareas más complejas, como el reconocimiento facial y de objetos en automóviles autónomos. Con interés y colaboración de la industria, esto podría pasar señaló Kuzum.
"Ahora, esta es una prueba de concepto, "Dijo Kuzum." Es un sistema diminuto en el que solo apilamos una capa de sinapsis con una capa de activación. Al apilar más de estos juntos, podría hacer un sistema más complejo para diferentes aplicaciones ".
