Diseño e implementación de un módulo de explicabilidad para DashAI

Abstract

En la actualidad, el área de Inteligencia Artificial Explicable (XAI) cuenta con una gran cantidad de investigaciones y herramientas. Sin embargo, persiste una amplia brecha entre la teoría y la práctica de XAI. Esta brecha se debe a que las soluciones propuestas a menudo requieren conocimientos técnicos especializados para su aplicación y, en general, abordan problemas de manera aislada, lo que dificulta su integración en el flujo de desarrollo de modelos. Además, las personas que necesitan aplicar XAI constituyen un grupo heterogéneo con necesidades de explicabilidad que varían significativamente entre sí, por lo que una única estrategia no se adapta a todos.

Para abordar esta problemática, en esta tesis se utilizan conocimientos de diseño de sistemas de explicabilidad centrado en el usuario y programación orientada a objetos para desarrollar un módulo de explicabilidad para modelos de clasificación de datos tabulares, que se integra al flujo de desarrollo de modelos de Machine Learning en una interfaz interactiva no-code. El módulo de está diseñado tanto para usuarios novatos como para más expertos, y busca brindar transparencia a los modelos, permitir su visualización e inspección, y aumentar la confianza de los usuarios. Para cumplir estos objetivos, el módulo de explicabilidad se caracteriza por cuatro propiedades que le brindan un enfoque centrado en el usuario: (1) se integra al flujo de Machine Learning no-code, (2) cuenta con una interfaz gráfica interactiva y exploratoria, (3) integra múltiples formas de explicar y (4) genera visualizaciones de las explicaciones.

Además, se lleva a cabo un estudio de usuarios para evaluar el diseño y usabilidad de la interfaz, y la satisfacción de los usuarios con las explicaciones. Los resultados revelan que la usabilidad del módulo es buena para el público al que está diseñado, y que la satisfacción de los usuarios es positiva. Además, se observan posibles relaciones entre la satisfacción de los usuarios y su nivel de experiencia en Machine Learning, lo que permite proponer mejoras de diseño específicas de acuerdo a sus necesidades.