Métodos de inteligencia artificial explicable: revisión de técnicas, aplicaciones y limitaciones

Autores/as

DOI:

https://doi.org/10.63862/rhs-v1n4-382-402-2026

Palabras clave:

Inteligencia artificial explicable, interpretabilidad, LIME, SHAP, explicaciones contrafactuales, revisión de literatura

Resumen

La inteligencia artificial explicable (XAI) agrupa procedimientos orientados a facilitar el examen de predicciones, representaciones y comportamientos de sistemas de aprendizaje automático. Este artículo analiza las principales familias de técnicas, sus ámbitos de aplicación y sus limitaciones, mediante una revisión narrativa estructurada de publicaciones académicas verificables. Se incorporan elementos de búsqueda y organización documental empleados en estudios bibliométricos, pero no estima indicadores de producción científica ni declara exhaustividad. Se clasifican las propuestas en modelos intrínsecamente interpretables, explicadores locales aproximados, atribuciones basadas en contribuciones, métodos de gradientes, explicaciones contrafactuales y enfoques globales. Los resultados muestran que cada familia responde a una pregunta explicativa distinta y exige criterios particulares de evaluación. LIME aproxima decisiones individuales, SHAP distribuye atribuciones entre variables bajo supuestos definidos, los gradientes caracterizan sensibilidades en redes diferenciables y los contrafactuales identifican modificaciones capaces de alterar resultados. La utilidad de estos recursos se encuentra limitada por inestabilidad, dependencia de distribuciones de referencia, problemas de fidelidad, restricciones causales y divergencias entre evaluación técnica y comprensión humana. Se concluye que una explicación no debe equipararse con validación, causalidad, equidad o confiabilidad del modelo.

Descargas

Los datos de descarga aún no están disponibles.

Referencias

Adebayo, J., Gilmer, J., Muelly, M., Goodfellow, I., Hardt, M., & Kim, B. (2018). Sanity checks for saliency maps. En Advances in Neural Information Processing Systems (Vol. 31). https://arxiv.org/abs/1810.03292

Barredo Arrieta, A., Díaz-Rodríguez, N., Del Ser, J., Bennetot, A., Tabik, S., Barbado, A., García, S., Gil-López, S., Molina, D., Benjamins, R., Chatila, R., & Herrera, F. (2020). Explainable artificial intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI. Information Fusion, 58, 82–115. https://doi.org/10.1016/j.inffus.2019.12.012

Doshi-Velez, F., & Kim, B. (2017). Towards a rigorous science of interpretable machine learning. arXiv. https://arxiv.org/abs/1702.08608

Guidotti, R., Monreale, A., Ruggieri, S., Turini, F., Giannotti, F., & Pedreschi, D. (2018). A survey of methods for explaining black box models. ACM Computing Surveys, 51(5), Article 93. https://doi.org/10.1145/3236009

Lundberg, S. M., & Lee, S.-I. (2017). A unified approach to interpreting model predictions. En Advances in Neural Information Processing Systems (Vol. 30). https://proceedings.neurips.cc/paper_files/paper/2017/hash/8a20a8621978632d76c43dfd28b67767-Abstract.html

Miller, T. (2019). Explanation in artificial intelligence: Insights from the social sciences. Artificial Intelligence, 267, 1–38. https://doi.org/10.1016/j.artint.2018.07.007

Molnar, C. (2022). Interpretable machine learning: A guide for making black box models explainable (2.ª ed.). https://christophm.github.io/interpretable-ml-book/

Nauta, M., Trienes, J., Pathak, S., Nguyen, E., Peters, M., Schmitt, Y., Schlötterer, J., van Keulen, M., & Seifert, C. (2023). From anecdotal evidence to quantitative evaluation methods: A systematic review on evaluating explainable AI. ACM Computing Surveys, 55(13s), artículo 295. https://doi.org/10.1145/3583558

Ribeiro, M. T., Singh, S., & Guestrin, C. (2016). “Why should I trust you?”: Explaining the predictions of any classifier. En Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (pp. 1135–1144). Association for Computing Machinery. https://doi.org/10.1145/2939672.2939778

Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1, 206–215. https://doi.org/10.1038/s42256-019-0048-x

Schwalbe, G., & Finzel, B. (2024). A comprehensive taxonomy for explainable artificial intelligence: A systematic survey of surveys on methods and concepts. Data Mining and Knowledge Discovery, 38, 3043–3101. https://doi.org/10.1007/s10618-022-00867-8

Selvaraju, R. R., Cogswell, M., Das, A., Vedantam, R., Parikh, D., & Batra, D. (2017). Grad-CAM: Visual explanations from deep networks via gradient-based localization. En Proceedings of the IEEE International Conference on Computer Vision (pp. 618–626). https://doi.org/10.1109/ICCV.2017.74

Slack, D., Hilgard, S., Jia, E., Singh, S., & Lakkaraju, H. (2020). Fooling LIME and SHAP: Adversarial attacks on post hoc explanation methods. En Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society (pp. 180–186). https://doi.org/10.1145/3375627.3375830

Sundararajan, M., Taly, A., & Yan, Q. (2017). Axiomatic attribution for deep networks. En Proceedings of the 34th International Conference on Machine Learning (Vol. 70, pp. 3319–3328). Proceedings of Machine Learning Research. https://proceedings.mlr.press/v70/sundararajan17a.html

Wachter, S., Mittelstadt, B., & Russell, C. (2018). Counterfactual explanations without opening the black box: Automated decisions and the GDPR. Harvard Journal of Law & Technology, 31(2), 841–887. https://jolt.law.harvard.edu/assets/articlePDFs/v31/Counterfactual-Explanations-without-Opening-the-Black-Box-Sandra-Wachter-et-al.pdf

Descargas

Publicado

2026-11-21

Cómo citar

Métodos de inteligencia artificial explicable: revisión de técnicas, aplicaciones y limitaciones. (2026). Revista Hambatu Science, 1(4), 382-402. https://doi.org/10.63862/rhs-v1n4-382-402-2026

Artículos más leídos del mismo autor/a