Históricamente, la primera revolución industrial comenzó con la introducción de la tecnología impulsada por vapor y agua. Hemos recorrido un largo camino desde entonces, con la cuarta revolución industrial actual, o Industria 4.0, enfocada en utilizar nuevas tecnologías para impulsar la eficiencia industrial.

Algunas de estas tecnologías incluyen Internet de las cosas (IoT), computación en la nube, sistemas ciberfísicos e inteligencia artificial (IA). La IA es el impulsor clave de la Industria 4.0, que automatiza máquinas inteligentes para autosupervisarse, interpretar, diagnosticar y analizar por sí mismas. Los métodos de IA, como el aprendizaje automático (ML), el aprendizaje profundo (DL), el procesamiento del lenguaje natural (NLP) y la visión artificial (CV), ayudan a las industrias a pronosticar sus necesidades de mantenimiento y reducir el tiempo de inactividad.

Sin embargo, para garantizar el despliegue y la integración fluidos y estables de los sistemas basados ​​en IA, las acciones y los resultados de estos sistemas deben ser comprensibles o, en otras palabras, "explicables" para los expertos. En este sentido, la IA explicable (XAI) se centra en el desarrollo de algoritmos que producen resultados comprensibles para los humanos realizados por sistemas basados ​​en IA. Por lo tanto, la implementación de XAI es útil en la Industria 4.0.

Recientemente, un grupo de investigadores, incluido el profesor asistente Gwanggil Jeon de la Universidad Nacional de Incheon, Corea del Sur, analizó las tecnologías de IA y XAI existentes y sus aplicaciones en la Industria 4.0. Su revisión fue publicada en IEEE Transactions on Industrial Informatics .

"Aunque las tecnologías de IA como DL pueden resolver muchos problemas sociales debido a su excelente rendimiento y resolución, es difícil explicar cómo y por qué se obtiene un rendimiento tan bueno. Por lo tanto, existe la necesidad de desarrollar XAI, para que DL, como el actual caja negra, se puede modelar de manera más eficiente. También será más fácil hacer aplicaciones ", dijo el profesor Jeon explicando su motivación detrás del estudio.

Los métodos basados ​​en XAI se clasifican según tareas específicas de IA, como explicaciones de características, toma de decisiones o visualización del modelo. Los autores señalan que la combinación de métodos innovadores basados ​​en IA y XAI con tecnologías de Industria 4.0 da como resultado varias aplicaciones exitosas, precisas y de alta calidad. Una de esas aplicaciones es un modelo XAI creado con visualización y ML que explica la decisión de un cliente de comprar o no comprar un seguro que no sea de vida. Con la ayuda de XAI, los humanos pueden reconocer, comprender, interpretar y comunicar cómo un modelo de IA saca conclusiones y toma medidas.

Claramente, hay muchas ventajas notables en el uso de la IA en la Industria 4.0; sin embargo, también tiene muchos obstáculos. Lo más significativo es la naturaleza hambrienta de energía de los sistemas basados ​​en IA, el requisito cada vez mayor de una gran cantidad de núcleos y GPU, así como la necesidad de ajuste fino y optimización de hiperparámetros. En el centro de esto se encuentran los datos recopilados y generados a partir de millones de fuentes, dispositivos y usuarios, lo que introduce un sesgo que afecta el rendimiento de la IA. Esto se puede gestionar utilizando métodos XAI para explicar el sesgo introducido.

"La IA es el componente principal de la transformación industrial que permite a las máquinas inteligentes ejecutar tareas de forma autónoma, mientras que XAI desarrolla un conjunto de mecanismos que pueden producir explicaciones comprensibles para los humanos", concluye el profesor Jeon. + Explora más

Los investigadores de IA mejoran el método para eliminar el sesgo de género en máquinas creadas para comprender y responder a datos de texto o voz