Semi-supervised learning with temporal variational auto-encoders for the diagnosis of failure severities and the prognosis of remaining useful life

Abstract

Dentro del manejo de activos físicos, una de las áreas que más ha crecido en los últimos años es la investigación y aplicación de técnicas de relacionadas a la inteligencia artificial y modelos de aprendizaje profundo para las tareas de diagnóstico y pronóstico en maquinaria y sistemas. Existen muchas razones posibles para esto, pero quizás la más importante es que, junto con la capacidad de diseñar máquinas y sistemas más complejos, la cantidad de datos relacionados a la operación y mantenimiento que se genera actualmente ha aumentado exponencialmente. Sin embargo, aunque ahora se están generando más datos que que nunca, el costo de etiquetar esos datos no ha cambiado. En ese sentido, se hace muy necesario enfocar los esfuerzos de investigación hacia modelos y técnicas que puedan aprender a predecir y detectar fallas usando poca información etiquetada, suplementandola de la parte no etiquetada. En este sentido, la principal motivación para esta tesis es la necesidad de modelos confiables para las tareas de diagnóstico y pronóstico que puedan aprender de forma semi-supervisada, aprovechando tanto la información etiquetada como la no etiquetada. El objetivo principal de esta tesis es evaluar las mejoras logradas en las tareas de pronóstico y diagnóstico con el modelo propuesto que utiliza una estrategia de entrenamiento acoplada para optimizar simultáneamente un VAE temporal (un modelo no supervisado) y un predictor de red neuronal normal (un modelo totalmente supervisado ) para situaciones en las que la cantidad de información etiquetada es escasa. La metodología utilizada en este trabajo consta principalmente de cuatro pasos. Primero, se realiza una revisión de literatura sobre enfoques semi-supervisados y modelos generativos profundos. En segundo lugar, se propone y explica una versión modificada del Auto-Encoder Variacional que utiliza flujos de normalización y permite el procesamiento y la generación de datos secuenciales. Tercero, se desarrolla el proceso de entrenamiento acoplado. Finalmente, el modelo propuesto con la nueva estrategia de entrenamiento se aplica en dos estudios de caso para obtener resultados y se discuten sus ventajas y desventajas con respecto a los enfoques tradicionales. Las principales conclusiones extraídas desde los resultados expuestos es que, si bien se observa una mejora del modelo propuesto con respecto a una estrategia de entrenamiento desacoplada, otros experimentos demuestran que solo produce predicciones similares en comparación con una red neuronal recurrente tradicional entrenada con solo datos etiquetados. La investigación futura podría centrarse en probar modelos generativos profundos más avanzados con el mismo enfoque de entrenamiento o probar conjuntos de datos más complejos donde la generalización sea más difícil que los presentadas en esta tesis.