Métodos de inteligencia artificial explicable: revisión de técnicas, aplicaciones y limitaciones
DOI:
https://doi.org/10.63862/rhs-v1n4-382-402-2026Palabras clave:
Inteligencia artificial explicable, interpretabilidad, LIME, SHAP, explicaciones contrafactuales, revisión de literaturaResumen
La inteligencia artificial explicable (XAI) agrupa procedimientos orientados a facilitar el examen de predicciones, representaciones y comportamientos de sistemas de aprendizaje automático. Este artículo analiza las principales familias de técnicas, sus ámbitos de aplicación y sus limitaciones, mediante una revisión narrativa estructurada de publicaciones académicas verificables. Se incorporan elementos de búsqueda y organización documental empleados en estudios bibliométricos, pero no estima indicadores de producción científica ni declara exhaustividad. Se clasifican las propuestas en modelos intrínsecamente interpretables, explicadores locales aproximados, atribuciones basadas en contribuciones, métodos de gradientes, explicaciones contrafactuales y enfoques globales. Los resultados muestran que cada familia responde a una pregunta explicativa distinta y exige criterios particulares de evaluación. LIME aproxima decisiones individuales, SHAP distribuye atribuciones entre variables bajo supuestos definidos, los gradientes caracterizan sensibilidades en redes diferenciables y los contrafactuales identifican modificaciones capaces de alterar resultados. La utilidad de estos recursos se encuentra limitada por inestabilidad, dependencia de distribuciones de referencia, problemas de fidelidad, restricciones causales y divergencias entre evaluación técnica y comprensión humana. Se concluye que una explicación no debe equipararse con validación, causalidad, equidad o confiabilidad del modelo.
Descargas
Referencias
Adebayo, J., Gilmer, J., Muelly, M., Goodfellow, I., Hardt, M., & Kim, B. (2018). Sanity checks for saliency maps. En Advances in Neural Information Processing Systems (Vol. 31). https://arxiv.org/abs/1810.03292
Barredo Arrieta, A., Díaz-Rodríguez, N., Del Ser, J., Bennetot, A., Tabik, S., Barbado, A., García, S., Gil-López, S., Molina, D., Benjamins, R., Chatila, R., & Herrera, F. (2020). Explainable artificial intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, 58, 82–115. https://doi.org/10.1016/j.inffus.2019.12.012
Doshi-Velez, F., & Kim, B. (2017). Towards a rigorous science of interpretable machine learning. arXiv. https://arxiv.org/abs/1702.08608
Guidotti, R., Monreale, A., Ruggieri, S., Turini, F., Giannotti, F., & Pedreschi, D. (2018). A survey of methods for explaining black box models. ACM Computing Surveys, 51(5), Article 93. https://doi.org/10.1145/3236009
Lundberg, S. M., & Lee, S.-I. (2017). A unified approach to interpreting model predictions. En Advances in Neural Information Processing Systems (Vol. 30). https://proceedings.neurips.cc/paper_files/paper/2017/hash/8a20a8621978632d76c43dfd28b67767-Abstract.html
Miller, T. (2019). Explanation in artificial intelligence: Insights from the social sciences. Artificial Intelligence, 267, 1–38. https://doi.org/10.1016/j.artint.2018.07.007
Molnar, C. (2022). Interpretable machine learning: A guide for making black box models explainable (2.ª ed.). https://christophm.github.io/interpretable-ml-book/
Nauta, M., Trienes, J., Pathak, S., Nguyen, E., Peters, M., Schmitt, Y., Schlötterer, J., van Keulen, M., & Seifert, C. (2023). From anecdotal evidence to quantitative evaluation methods: A systematic review on evaluating explainable AI. ACM Computing Surveys, 55(13s), artículo 295. https://doi.org/10.1145/3583558
Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). “Why should I trust you?”: Explaining the predictions of any classifier. En Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 1135–1144). Association for Computing Machinery. https://doi.org/10.1145/2939672.2939778
Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1, 206–215. https://doi.org/10.1038/s42256-019-0048-x
Schwalbe, G., & Finzel, B. (2024). A comprehensive taxonomy for explainable artificial intelligence: A systematic survey of surveys on methods and concepts. Data Mining and Knowledge Discovery, 38, 3043–3101. https://doi.org/10.1007/s10618-022-00867-8
Selvaraju, R. R., Cogswell, M., Das, A., Vedantam, R., Parikh, D., & Batra, D. (2017). Grad-CAM: Visual explanations from deep networks via gradient-based localization. En Proceedings of the IEEE International Conference on Computer Vision (pp. 618–626). https://doi.org/10.1109/ICCV.2017.74
Slack, D., Hilgard, S., Jia, E., Singh, S., & Lakkaraju, H. (2020). Fooling LIME and SHAP: Adversarial attacks on post hoc explanation methods. En Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society (pp. 180–186). https://doi.org/10.1145/3375627.3375830
Sundararajan, M., Taly, A., & Yan, Q. (2017). Axiomatic attribution for deep networks. En Proceedings of the 34th International Conference on Machine Learning (Vol. 70, pp. 3319–3328). Proceedings of Machine Learning Research. https://proceedings.mlr.press/v70/sundararajan17a.html
Wachter, S., Mittelstadt, B., & Russell, C. (2018). Counterfactual explanations without opening the black box: Automated decisions and the GDPR. Harvard Journal of Law & Technology, 31(2), 841–887. https://jolt.law.harvard.edu/assets/articlePDFs/v31/Counterfactual-Explanations-without-Opening-the-Black-Box-Sandra-Wachter-et-al.pdf
Publicado
Número
Sección
Licencia
Derechos de autor 2026 Francisco Ricardo Baños Solis; Maricarmen Montserrat Velázquez Hernández; Adelina Martínez Nieto

Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.







