La IA explicable (XAI) es la inteligencia artificial que está programada para describir su propósito, razón de ser y proceso de toma de decisiones de una manera que pueda ser entendida por una persona promedio. XAI se discute a menudo en relación con el aprendizaje profundo y juega un papel importante en el modelo FAT ML (equidad, responsabilidad y transparencia en el aprendizaje automático).
XAI proporciona información general sobre cómo un programa de IA toma una decisión al revelar:
- Fortalezas y debilidades del programa.
- Los criterios específicos que utiliza el programa para llegar a una decisión.
- Por qué un programa toma una decisión particular en lugar de alternativas.
- El nivel de confianza apropiado para varios tipos de decisiones.
- A qué tipo de errores es propenso el programa.
- Cómo se pueden corregir los errores.
Un objetivo importante de XAI es proporcionar responsabilidad algorítmica. Hasta hace poco, los sistemas de IA han sido esencialmente cajas negras. Incluso si se conocen las entradas y salidas, los algoritmos utilizados para llegar a una decisión a menudo son propietarios o no se comprenden fácilmente, a pesar de que el funcionamiento interno de la programación es de código abierto y está disponible gratuitamente.
A medida que la inteligencia artificial se vuelve cada vez más frecuente, se vuelve más importante que nunca revelar cómo se abordan los prejuicios y la cuestión de la confianza. El Reglamento General de Protección de Datos (RGPD) de la UE, por ejemplo, incluye una cláusula de derecho a explicación.