El vínculo simbiótico entre inteligencia artificial y evaluación educativa: principios éticos, sesgos, derechos humanos y bienestar emocional del estudiante
DOI:
https://doi.org/10.63862/rhs-v1n2-143-161-2026Palabras clave:
inteligencia artificial educativa, evaluación del aprendizaje, derechos humanos, sesgos algorítmicos, bienestar emocional, ética educativa, supervisión humanaResumen
El presente artículo analiza la pertinencia ética, jurídica y psicoeducativa del uso de la inteligencia artificial en la evaluación del aprendizaje. A partir de una investigación teórico-documental, se revisan fuentes académicas, normativas e institucionales sobre inteligencia artificial educativa, evaluación formativa, sesgos algorítmicos, derechos humanos, protección de datos y bienestar emocional del estudiante. El objetivo es proponer criterios mínimos para que la evaluación asistida por inteligencia artificial funcione como herramienta de apoyo docente y no como mecanismo opaco de clasificación, vigilancia o exclusión. Los resultados del análisis muestran que el vínculo entre inteligencia artificial y evaluación educativa es simbiótico: la evaluación produce datos que alimentan sistemas automatizados, mientras que estos sistemas reconfiguran la forma de observar, interpretar y decidir sobre el aprendizaje. Se identifican riesgos asociados a sesgos, opacidad, afectaciones a la privacidad, presión emocional, dependencia tecnológica y debilitamiento del juicio pedagógico. Como aportación, se propone una matriz de principios éticos organizada en proporcionalidad, transparencia, explicabilidad, revisión humana significativa, equidad, protección de datos, inclusión y cuidado emocional. Se concluye que la inteligencia artificial puede fortalecer la evaluación solo si permanece subordinada a la dignidad humana, la justicia educativa y la responsabilidad institucional.
Descargas
Referencias
Baker, R. S., & Hawn, A. (2022). Algorithmic bias in education. International Journal of Artificial Intelligence in Education, 32(4), 1052-1092. https://doi.org/10.1007/s40593-021-00285-9
Black, P., & Wiliam, D. (1998). Assessment and classroom learning. Assessment in Education: Principles, Policy & Practice, 5(1), 7-74. https://doi.org/10.1080/0969595980050102
Deci, E. L., & Ryan, R. M. (2000). The what and why of goal pursuits: Human needs and the self-determination of behavior. Psychological Inquiry, 11(4), 227-268. https://doi.org/10.1207/S15327965PLI1104_01
European Parliament and Council of the European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union. https://eur-lex.europa.eu/eli/reg/2024/1689/oj
Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People-An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28, 689-707. https://doi.org/10.1007/s11023-018-9482-5
High-Level Expert Group on Artificial Intelligence. (2019). Ethics guidelines for trustworthy AI. European Commission. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
Hernández Armenta, C., & Rosendo Olivares, F. (2024). Aspectos éticos en la aplicación de inteligencia artificial para la investigación jurídica. Pensamiento Crítico. Revista de Investigación Multidisciplinaria, 10(19), 1-14. https://doi.org/10.64040/nyyryn02
Holmes, W., Bialik, M., & Fadel, C. (2019). Artificial intelligence in education: Promises and implications for teaching and learning. Center for Curriculum Redesign.
Messick, S. (1995). Validity of psychological assessment: Validation of inferences from persons' responses and performances as scientific inquiry into score meaning. American Psychologist, 50(9), 741-749. https://doi.org/10.1037/0003-066X.50.9.741
Miao, F., & Holmes, W. (2023). Guidance for generative AI in education and research. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000386693
National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). U.S. Department of Commerce. https://doi.org/10.6028/NIST.AI.100-1
Nicol, D. J., & Macfarlane-Dick, D. (2006). Formative assessment and self-regulated learning: A model and seven principles of good feedback practice. Studies in Higher Education, 31(2), 199-218. https://doi.org/10.1080/03075070600572090
Organisation for Economic Co-operation and Development. (2023). OECD Digital Education Outlook 2023: Towards an effective digital education ecosystem. OECD Publishing. https://doi.org/10.1787/c74f03de-en
Popenici, S. A. D., & Kerr, S. (2017). Exploring the impact of artificial intelligence on teaching and learning in higher education. Research and Practice in Technology Enhanced Learning, 12, Article 22. https://doi.org/10.1186/s41039-017-0062-8
Rosendo Olivares, F. (2025). Sesgos algorítmicos en sistemas de inteligencias artificiales: Riesgo para los derechos humanos y desafíos jurídicos. Contacto IUS, 13, 28-39. https://www.researchgate.net/publication/396437184_Sesgos_algoritmicos_en_sistemas_de_inteligencia_artificiales_para_los_derechos_humanos_y_desafios_juridicos
Selwyn, N. (2019). Should robots replace teachers? AI and the future of education. Polity Press.
Slade, S., & Prinsloo, P. (2013). Learning analytics: Ethical issues and dilemmas. American Behavioral Scientist, 57(10), 1510-1529. https://doi.org/10.1177/0002764213479366
Tang, X., Upadyaya, K., Toyama, H., Kasanen, M., & Salmela-Aro, K. (2023). Assessing and tracking students' wellbeing through an automated scoring system: School Day Wellbeing Model. In H. Niemi, R. D. Pea, & Y. Lu (Eds.), AI in learning: Designing the future (pp. 55-71). Springer. https://doi.org/10.1007/978-3-031-09687-7_4
UNESCO. (1960). Convention against discrimination in education. https://unesdoc.unesco.org/ark:/48223/pf0000183342
UNESCO. (2022). Recommendation on the ethics of artificial intelligence. https://unesdoc.unesco.org/ark:/48223/pf0000380455
UNESCO. (2024a). AI competency framework for teachers. https://unesdoc.unesco.org/ark:/48223/pf0000391104
UNESCO. (2024b). AI competency framework for students. https://unesdoc.unesco.org/ark:/48223/pf0000391105
UNICEF. (2021). Policy guidance on AI for children. UNICEF Office of Global Insight and Policy. https://www.unicef.org/innocenti/reports/policy-guidance-ai-children
United Nations. (1948). Universal Declaration of Human Rights. https://www.un.org/en/about-us/universal-declaration-of-human-rights
United Nations. (1989). Convention on the Rights of the Child. https://www.ohchr.org/en/instruments-mechanisms/instruments/convention-rights-child
United Nations. (2006). Convention on the Rights of Persons with Disabilities. https://www.ohchr.org/en/instruments-mechanisms/instruments/convention-rights-persons-disabilities
Zawacki-Richter, O., Marín, V. I., Bond, M., & Gouverneur, F. (2019). Systematic review of research on artificial intelligence applications in higher education: Where are the educators? International Journal of Educational Technology in Higher Education, 16, Article 39. https://doi.org/10.1186/s41239-019-0171-0
Publicado
Número
Sección
Licencia
Derechos de autor 2026 Celina Hernández Armenta, Edmundo Cervantes Meza, Guadalupe Patricia Alegre Campos, Yolanda del Sol Ortega Cruz, Angelica Rosendo Olivares
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
