Auditoría de la gobernanza de inteligencia artificial en organizaciones: marco integrado de riesgos, controles, trazabilidad, supervisión humana y aseguramiento

Alfonso Botero Marulanda

doi:10.63862/rhs-v1n3-511-532-2026

Authors

Alfonso Botero Marulanda Universidad UTEL Author

DOI:

https://doi.org/10.63862/rhs-v1n3-511-532-2026

Keywords:

gobernanza de inteligencia artificial, auditoría algorítmica, gestión de riesgos, trazabilidad, supervisión humana, aseguramiento, inteligencia artificial responsable

Abstract

La expansión de la inteligencia artificial (IA) dentro de las organizaciones ha vuelto insuficiente una discusión centrada únicamente en desempeño técnico o cumplimiento formal. Cuando estos sistemas intervienen en decisiones, servicios y procesos sensibles, la cuestión pasa a ser si la organización puede explicar cómo identifica riesgos, asigna responsabilidades, controla el uso de la tecnología y conserva evidencia de lo ocurrido. Este artículo examina esa cuestión mediante una revisión integradora estructurada de literatura publicada entre 2020 y 2026, con PRISMA 2020 como referencia para la transparencia del reporte y con contraste frente a ISO/IEC 42001:2023, NIST AI RMF 1.0 y el Reglamento (UE) 2024/1689. La revisión muestra un campo conceptualmente rico, aunque fragmentado entre derecho, ética, gestión, tecnología y auditoría. A partir de esa lectura se propone un marco organizacional de cinco dimensiones —riesgos, controles, trazabilidad, supervisión humana y aseguramiento— cuya contribución reside en explicar sus relaciones y no en convertirlas en una lista de verificación. La evidencia revisada sugiere que una organización solo puede ser auditada de manera consistente cuando su propia gobernanza produce registros, responsabilidades y decisiones reconstruibles. Por ello, se sostiene que la auditabilidad debe incorporarse al diseño de la gobernanza de IA. Quedan abiertas, entre otras, la validación empírica del marco, la calidad probatoria de los registros y las condiciones de independencia del aseguramiento.

Downloads

Download data is not yet available.

References

Aguirre Sala, J. F. (2022). Models and good evaluative practices to detect impacts, risks and damages of artificial intelligence. Paakat: Revista de Tecnología y Sociedad, 12(23), 1–20. https://doi.org/10.32870/Pk.a12n23.742

Azuaje Pirela, M. C., Coddou Mc Manus, A., Contreras Vásquez, P., & Viollier Bonvin, P. (2025). Intervención, supervisión y control humano en las decisiones automatizadas. Derecho PUCP, (95), 189–226. https://doi.org/10.18800/derechopucp.202502.006

Bernal, C. (2022). Derechos fundamentales e inteligencia artificial. International Journal of Constitutional Law, 20(4), 1440–1445. https://doi.org/10.1093/icon/moac099

Birkstedt, T., Minkkinen, M., Tandon, A., & Mäntymäki, M. (2023). AI governance: themes, knowledge gaps and future agendas. Internet Research, 33(7), 133–167. https://doi.org/10.1108/INTR-01-2022-0042

Busuioc, M. (2021). Accountable Artificial Intelligence: Holding Algorithms to Account. Public Administration Review, 81(5), 825–836. https://doi.org/10.1111/puar.13293

Cotino Hueso, L. (2023). Qué concreta transparencia e información de algoritmos e inteligencia artificial es la debida. Revista Española de la Transparencia, (16), 17–63. https://doi.org/10.51915/ret.272

Divino, S. (2024). Governance and Compliance Recommendations for Artificial Intelligence in Business Management. Nuevo Derecho, 20(35), 1–17. https://doi.org/10.25057/2500672X.1665

European Parliament & Council of the European Union. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.

Fajardo Pereira, J., Toscano Hernández, A., García Alarcón, H., & Llanos Ayola, J. (2023). Inteligencia Artificial y Auditoría: Tendencias de la literatura científica. Panorama Económico, 31(2), 160–188. https://doi.org/10.32997/pe-2023-4575

Flores Anarte, L. (2023). Sesgos de género en la Inteligencia Artificial. Revista Internacional de Pensamiento Político, 18, 95–120. https://doi.org/10.46661/revintpensampolit.8778

Hauer, M. P., Krafft, T. D., & Zweig, K. (2023). Overview of transparency and inspectability mechanisms to achieve accountability of artificial intelligence systems. Data & Policy, 5, e36. https://doi.org/10.1017/dap.2023.30

International Organization for Standardization. (2023). Information technology—Artificial intelligence—Management system (ISO/IEC 42001:2023). International Organization for Standardization.

Koshiyama, A., Kazim, E., Treleaven, P., Rai, P., Szpruch, L., Pavey, G., Ahamat, G., Leutner, F., Goebel, R., Knight, A., Adams, J., Hitrova, C., Barnett, J., Nachev, P., Barber, D., Chamorro-Premuzic, T., Klemmer, K., Gregorovic, M., Khan, S., … Chatterjee, S. (2024). Towards algorithm auditing: managing legal, ethical and technological risks of AI, ML and associated algorithms. Royal Society Open Science, 11(5). https://doi.org/10.1098/rsos.230859

Landa Arroyo, C. (2022). CONSTITUCIÓN, DERECHOS FUNDAMENTALES, INTELIGENCIA ARTIFICIAL Y ALGORITMOS. Revista do Direito, (66), 139–158. https://doi.org/10.17058/rdunisc.vi66.17635

Laux, J. (2024). Institutionalised distrust and human oversight of artificial intelligence: towards a democratic design of AI governance under the European Union AI Act. AI & SOCIETY, 39(6), 2853–2866. https://doi.org/10.1007/s00146-023-01777-z

Laux, J., Wachter, S., & Mittelstadt, B. (2024). Trustworthy artificial intelligence and the European Union AI act: On the conflation of trustworthiness and acceptability of risk. Regulation & Governance, 18(1), 3–32. https://doi.org/10.1111/rego.12512

Lazcoz Moratinos, G., & Castillo Parrilla, J. A. (2020). Valoración algorítmica ante los derechos humanos y el Reglamento General de Protección de Datos: el caso SyRI. Revista Chilena de Derecho y Tecnología, 9(1), 207. https://doi.org/10.5354/0719-2584.2020.56843

Mantelero, A. (2024). The Fundamental Rights Impact Assessment (FRIA) in the AI Act: Roots, legal obligations and key elements for a model template. Computer Law & Security Review, 54, 106020. https://doi.org/10.1016/j.clsr.2024.106020

Mäntymäki, M., Minkkinen, M., Birkstedt, T., & Viljanen, M. (2022). Defining organizational AI governance. AI and Ethics, 2(4), 603–609. https://doi.org/10.1007/s43681-022-00143-x

Minkkinen, M., Laine, J., & Mäntymäki, M. (2022). Continuous Auditing of Artificial Intelligence: a Conceptualization and Assessment of Tools and Frameworks. Digital Society, 1(3), 21. https://doi.org/10.1007/s44206-022-00022-2

Mokander, J. (2023). Auditing of AI: Legal, ethical and technical approaches. Digital Society, 2, 49. https://doi.org/10.1007/s44206-023-00074-y

Mokander, J., & Floridi, L. (2021). Ethics-based auditing to develop trustworthy AI. Minds and Machines, 31, 323–327. https://doi.org/10.1007/s11023-021-09557-8

Morales Ramirez, G. (2023). Problematica antropologica detras de la discriminacion generada a partir de los algoritmos de la inteligencia artificial. Medicina y Etica, 34(2), 429–480. https://doi.org/10.36105/mye.2023v34n2.04

Mota Sanchez, E. M., & Herrera Exposito, E. (2023). Auditoria algoritmica en la inteligencia artificial en el sector publico. Proyecciones, 17, e025. https://doi.org/10.24215/26185474e025

Obregón Fernández, A., & Lazcoz Moratinos, G. (2021). La supervisión humana de los sistemas de inteligencia artificial de alto riesgo. Aportaciones desde el Derecho Internacional Humanitario y el Derecho de la Unión Europea. Revista Electrónica de Estudios Internacionales, (42). https://doi.org/10.17103/reei.42.08

Page, M. J., McKenzie, J. E., Bossuyt, P. M., Boutron, I., Hoffmann, T. C., Mulrow, C. D., & others. (2021). The PRISMA 2020 statement: An updated guideline for reporting systematic reviews. BMJ, 372, n71. https://doi.org/10.1136/bmj.n71

Papagiannidis, E., Mikalef, P., & Conboy, K. (2025). Responsible artificial intelligence governance: A review and research framework. The Journal of Strategic Information Systems, 34(2), 101885. https://doi.org/10.1016/j.jsis.2024.101885

Presno Linera, M. Á. (2025). El Reglamento europeo de inteligencia artificial: ¿garantía del mercado o defensa de los derechos? Revista Española de Derecho Constitucional, (135), 13–49. https://doi.org/10.18042/cepc/redc.135.01

Ramírez-Bustamente, N., & Páez, A. (2021). Análisis jurídico de la discriminación algorítmica en los procesos de selección laboral (A Legal Analysis of Algorithmic Discrimination in Hiring Processes). SSRN Electronic Journal. https://doi.org/10.2139/ssrn.3765741

Salvador Serna, M. (2021). Inteligencia artificial y gobernanza de datos en las administraciones públicas: reflexiones y evidencias para su desarrollo. Gestión y Análisis de Políticas Públicas, 20–32. https://doi.org/10.24965/gapp.i26.10855

Sánchez Acevedo, M. E. (2022). La inteligencia artificial en el sector público y su límite respecto de los derechos fundamentals. Estudios constitucionales, 20(2), 257–284. https://doi.org/10.4067/S0718-52002022000200257

Simón Castellano, P. (2025). L’avaluació d’impacte en els drets fonamentals de l’ús d’intel·ligència artificial en el sector públic: models i metodologies en perspectiva comparada. Revista Catalana de Dret Públic, 4–24. https://doi.org/10.58992/rcdp.i71.2025.4486

Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1

Vida Fernandez, J. (2022). La gobernanza de los riesgos digitales: desafios y avances en la regulacion de la inteligencia artificial. Cuadernos de Derecho Transnacional, 14(1), 489–503. https://doi.org/10.20318/cdt.2022.6695

Williams, R., Cloete, R., Cobbe, J., Cottrill, C., Edwards, P., Markovic, M., Naja, I., Ryan, F., Singh, J., & Pang, W. (2022). From transparency to accountability of intelligent systems: Moving beyond aspirations. Data & Policy, 4, e7. https://doi.org/10.1017/dap.2021.37