El impacto de la inteligencia artificial generativa en educación superior: una mirada desde la ética y la integridad académica

Cinta Gallent Torres; Alfredo Zapata González; José Luis Ortego Hernando

doi:10.30827/relieve.v29i2.29134

Autores/as

Cinta Gallent Torres Universitat de València, Universitat de les Illes Balears, España https://orcid.org/0000-0002-4260-7594
Alfredo Zapata González Universidad Autónoma de Yucatán, Mexico
José Luis Ortego Hernando Universitat de les Illes Balears, España https://orcid.org/0009-0005-7857-1086

DOI:

https://doi.org/10.30827/relieve.v29i2.29134

Palabras clave:

ética, integridad académica, Inteligencia Artificial Generativa (IAG), Educación Superior

Resumen

La Inteligencia Artificial Generativa (IAG) ha revolucionado el ámbito de la educación superior, y ha abierto el debate en torno al potencial de herramientas como ChatGPT, Humata.ai o Sudowrite en los procesos de enseñanza, aprendizaje y evaluación. Si bien su integración en este contexto presenta numerosas oportunidades (i.e., retroalimentación instantánea, generación de recursos y materiales docentes, aprendizaje adaptativo, interactividad, etc.), también plantea importantes desafíos que ponen en entredicho la ética y la integridad académica como la fiabilidad de la información, la transparencia respecto a las fuentes utilizadas o la privacidad y seguridad de los datos. El objetivo de este artículo es examinar, desde una triple perspectiva (alumnado, profesorado y centro), las implicaciones éticas de su uso en educación superior. Se busca también analizar su impacto en aspectos vinculados con la seguridad, accesibilidad, sostenibilidad e, incluso, nuevas formas de plagio y fraude académico que suplanten la autoría. A partir de la revisión bibliográfica realizada, y según lo que plantean algunos autores, se explorarán posibilidades de integración de la IAG en las aulas universitarias, mediante prácticas pedagógicas que orienten al alumnado en su correcta utilización, y permitan al profesorado buscar nuevos enfoques educativos. Este proceso de transformación exigirá el establecimiento de unas directrices claras que se ajusten a los códigos éticos y las políticas de integridad de las instituciones de educación superior. En definitiva, la reflexión sobre cómo aunar educación, innovación e integridad académica brindará a la comunidad universitaria una nueva oportunidad para impulsar mejoras en la enseñanza universitaria.

Descargas

Los datos de descargas todavía no están disponibles.

Biografía del autor/a

Cinta Gallent Torres, Universitat de València, Universitat de les Illes Balears, España

Doctora en Intervención Educativa por la Universitat de València (España). Actualmente es profesora en dicha universidad en la que imparte asignaturas de lengua francesa y traducción. También dirige trabajos de fin de título en el Grado en Traducción y Mediación Interlingüística, así como en el Máster Universitario en Traducción Creativa y Humanística. Ha impartido docencia en la Universidad de Connecticut y en el College of Continuing Studies (Estados Unidos). Su vertiente de investigación se desarrolla en el ámbito de la deshonestidad académica, la ética en la publicación, el ciberplagio, las tecnologías emergentes, la enseñanza de segundas lenguas, y la tutorización del alumnado universitario. Es miembro del Institut de Recherche et d'Action sur la Fraude et le Plagiat Académiques (IRAFPA), la Red Iberoamericana de Investigación en Integridad Académica (Red-IA), y la Allianza Forthem. (email: cinta.gallent@uv.es)

Alfredo Zapata González, Universidad Autónoma de Yucatán, Mexico

Licenciado en Ciencias de la Computación en la Universidad Autónoma de Yucatán (UADY, México), licenciado en Ciencias de la Educación (acuerdo 286-SEP), máster y doctorado en Tecnologías Informáticas Avanzadas en la Universidad de Castilla-La Mancha (UCLM, España). Su trabajo de investigación se centra en temas relacionados con alfabetización digital, minería de datos y sistemas de recomendación aplicados en entornos educativos. Ha publicado diversos artículos en revistas indexadas y con factor de impacto. Es coautor de diversos capítulos de libros y ha participado con ponencias en diversos congresos nacionales e internacionales. Es profesor de la Facultad de Educación de la UADY. Actualmente, es miembro del Sistema Nacional de Investigadores del Consejo Nacional de Ciencia y Tecnología de México en el nivel 1. (email: zgonza@correo.uady.mx)

José Luis Ortego Hernando, Universitat de les Illes Balears, España

Licenciado en Psicopedagogía. Técnico del Oficina Universitaria de Apoyo a Personas con Necesidades Específicas de la Universidad de las Islas Baleares (UIB). Profesor asociado en la UIB (2005-2011). Ha impartido asignaturas relacionadas con el ámbito de la discapacidad y de las nuevas tecnologías aplicadas a la educación. Actualmente imparte cursos de formación relacionados con el aprendizaje y las necesidades de las personas con discapacidad en diferentes instituciones de las Islas Baleares. Es también coordinador del grupo de Digitalización y Tecnologías de la Información y la Comunicación de la Red de Servicios de Apoyo a la Discapacidad en las Universidades (SAPDU) en España. (email: zgonza@correo.uady.mx)

Citas

Ahmad, N., Murugesan, S., & Kshetri, N. (2023). Generative Artificial Intelligence and the Education Sector. Computer, 56(6), 72-76. https://doi.org/10.1109/MC.2023.3263576

Arkoudas, K. (2023). ChatGPT is no Stochastic Parrot. But it also Claims that 1 is Greater than 1. Philos. Technol. 36(54). https://doi.org/10.1007/s13347-023-00619-6

Ausín, T. (2021). ¿Por qué la ética para la Inteligencia Artificial? Lo viejo, lo nuevo y lo espurio. Sociología y Tecnociencia, 11, extra 2, 1-16. https://tinyurl.com/49h2huhn

Aydin, Ö. (2023). Google Bard generated literature review: metaverse. Journal of AI, 7(1), 1-14. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4454615

Ayoola, O. O., Alenoghena, R., & Adeniji, S. (2023). ChatGPT impacts on access-efficiency, employment, education and ethics: The socio-economics of an AI language model. BizEcons Quarterly, 16, 1-17.

Baidoo-Anu, D., & Ansah, L. O. (2023). Education in the era of generative artificial intelligence (AI): Understanding the potential benefits of ChatGPT in promoting teaching and learning. Journal of AI, 7(1), 52-62. https://doi.org/10.2139/ssrn.4337484

Baskara, F. R., & Mukarto, F. X. (2023). Exploring the Implications of ChatGPT for Language Learning in Higher Education. IJELTAL. Indonesian Journal of English Language Teaching and Applied Linguistics, 7(2), 343-358. https://ijeltal.org/index.php/ijeltal/article/view/1387/pdf

Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? En Proceedings of the 2021 ACM conference on fairness, accountability, and transparency (pp. 610-623). https://doi.org/10.1145/3442188.3445922

Bordignon, F., Dughera, L., & Tolosa, G. (2023). IAG y el momento de las máquinas imperfectas. Revista Hipertextos, 11(19), e069.https://doi.org/10.24215/23143924e069

Cárdenas, J. (2023). Inteligencia artificial, investigación y revisión por pares: escenarios futuros y estrategias de acción. RES. Revista Española de Sociología, 32(4), 199. https://doi.org/10.22325/fes/res.2023.184

Chan, C. K. Y. (2023). A comprehensive AI policy education framework for university teaching and learning. International Journal of Educational Technology in Higher Education, 20(1), 1-25. https://doi.org/10.1186/s41239-023-00408-3

Chance, C. (2022). Has there been a second AI big Bang? Forbes. https://www.forbes.com/sites/calumchace/2022/10/18/has-there-been-a-second-ai-big-bang/

Cooper, G. (2023). Examining Science Education in ChatGPT: An Exploratory Study of Generative Artificial Intelligence. Journal of Science Education and Technology, 32, 444-452. https://doi.org/10.1007/s10956-023-10039-y

Cotton, D. R. E, Cotton, P. A. et Reuben Shipway, J. (2023). Chatting and cheating: Ensuring academic integrity in the era of ChaGPT. Innovations in Education and Teaching International. Routledge. Taylor & Francis Group, pp. 1-12. https://doi.org/10.1080/14703297.2023.2190148

Dergaa, I., Chamari, K., Zmijewski, P., & Ben Saad, H. (2023). From human writing to artificial intelligence generated text: examining the prospects and potential threats of ChatGPT in academic writing. Biology of sport, 40(2), 615-622. https://doi.org/10.5114/biolsport.2023.125623

Dogru, T., Line, N., Mody, M., Hanks, L., Abbott, J. A., Acikgoz, F., ... & Zhang, T. (2023). Generative artificial intelligence in the hospitality and tourism industry: Developing a framework for future research. Journal of Hospitality & Tourism Research, 10963480231188663. https://doi.org/10.1177/10963480231188663

Du, H., Liu, G., Niyato, D., Zhang, J., Kang, J., Xiong, Z., ... & Kim, D. I. (2023). Generative AI-aided Joint Training-free Secure Semantic Communications via Multi-modal Prompts. arXiv preprint arXiv:2309.02616.

Ebers, M. (2023). El futuro marco jurídico europeo de la inteligencia artificial. Revista general de legislación y jurisprudencia, (2), 249-280. https://dialnet.unirioja.es/servlet/articulo?codigo=8927540

Ellis, A. R., & Slade, E. (2023). A New Era of Learning: Considerations for ChatGPT as a Tool to Enhance Statistics and Data Science Education. Journal of Statistics and Data Science Education, 31(2), 1-10. https://doi.org/10.1080/26939169.2023.2223609

Escobar Hernández, J.C. (2021). La Inteligencia Artificial y la enseñanza de lenguas: una aproximación al tema. Decires. Revista del Centro de Enseñanza para Extranjeros, 25(21), 29-44. https://doi.org/10.22201/cepe.14059134e.2021.21.25.3

European Commission, Directorate-General for Education, Youth, Sport, and Culture (2022). Ethical guidelines on the use of artificial intelligence (AI) and data in teaching and learning for educators. Publications Office of the European Union. https://data.europa.eu/doi/10.2766/153756

Faraboschi, P., Frachtenberg, E., Laplante, P., Milojicic, D., & Saracco, R. (2023). Artificial General Intelligence: Humanity’s Downturn or Unlimited Prosperity. Computer, 56(10), 93-101. https://doi.org/10.1109/MC.2023.3297739

Farrokhnia, M., Banihashem, S. K., Noroozi, O., & Wals, A. (2023). A SWOT analysis of ChatGPT: Implications for educational practice and research. Innovations in Education and Teaching International, 1-15. https://doi.org/10.1080/14703297.2023.2195846

Flores-Vivar, J. M., & García-Peñalvo, F. J. (2023). Reflexiones sobre la ética, potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de Calidad (ODS4). Comunicar, 31(74), 37-47. https://doi.org/10.3916/C74-2023-03

Fui-Hoon Nah, F., Zheng, R., Cai, J., Siau, K., & Chen, L. (2023). Generative AI and ChatGPT: Applications, challenges, and AI-human collaboration. Journal of Information Technology Case and Application Research, 25(3), 277-304. https://doi.org/10.1080/15228053.2023.2233814

Gallent Torres, C. (2024). L’utilisation de l’IA Générative dans le cadre de l’enseignement du FLE : aspects pratiques et considérations éthiques. Inteligencia Artificial, ¿amiga o enemiga? Colección Ciencias Sociales en abierto. Peter Lang (en proceso de publicación).

García-Brustenga, G., Fuertes-Alpiste, M., & Molas-Castells, N. (2018). Briefing paper: los chatbots en educación. eLearn Center. Universitat Oberta de Catalunya. https://doi.org/10.7238/elc.chatbots.2018

Guerrero-Dib, J. G., Portales, L., & Gallego, D. (2023). Academic Integrity as a Way to Promote Workplace Ethical Behaviour. In Academic Integrity in the Social Sciences: Perspectives on Pedagogy and Practice (pp. 165-183). Springer International Publishing. https://doi.org/10.1007/978-3-031-43292-7_11

Gutiérrez, J. D. (2023). Lineamientos para el uso de inteligencia artificial en contextos universitarios. GIGAPP Estudios Working Papers, 10(267-272), 416-434.

Gutiérrez-Cirlos, C., Bermúdez-González, J. L., Carrillo-Pérez, D. L., Hidrogo-Montemayor, I., Martínez-González, A., Carrillo-Esper, R., & Sánchez-Mendiola, M. (2023). La medicina y el metaverso: aplicaciones actuales y futuro. Gaceta Médica, 159, 286-292. https://doi.org/10.24875/GMM.23000166

Healy, M. (2023). Using Curriculum Theory to Inform Approaches to Generative AI in Schools. SSRN 4564372. http://dx.doi.org/10.2139/ssrn.4564372

Javaid, M., Haleem, A., & Singh, R. P. (2023). A study on ChatGPT for Industry 4.0: Background, Potentials, Challenges, and Eventualities. Journal of Economy and Technology. https://doi.org/10.1016/j.ject.2023.08.001

Kasneci, E., Seßler, K., Küchemann, S., Bannert, M., Dementieva, D., Fischer, F., Gasser, U., Groh, G., Günnemann, S., Hüllermeier, E., Krusche, S., Kutyniok, G., Michaeli, T., Nerdel, C., Pfeffer, J., Poquet, O., Sailer, M., Schmidt, A., Seidel, T., Stadler, M., Weller, J. Kuhn, J., & Kasneci, G. (2023). ChatGPT for Good? On Opportunities and Challenges of Large Language Models for Education. Learning and Individual Differences, 103, 102274. https://doi.org/10.1016/j.lindif.2023.102274

Lancaster, T. (2023). Artificial intelligence, text Generation tools and ChatGPT - does digital watermarking offer a solution? International Journal for Educational Integrity, 19(10), 2-14. https://doi.org/10.1007/s40979-023-00131-6

Lievens, J. (2023). Artificial Intelligence (AI) in higher education: tool or trickery? Education and New Developments, 2, 645-647. International Conference on Education and New Developments, Lisboa (Portugal), 24-26 de junio de 2023. ISBN: 978-989-35106-4-3.

Littleton, E., & Fox, H. (22 de enero de 2023). Artificial intelligence presents new challenge to the university. Daily Missisippian. https://thedmonline.com/artificial-intelligence-presents-new-challenge-to-the-university/

Lv, Z. (2023). Generative Artificial Intelligence in the Metaverse Era. Cognitive Robotics, 3, 208-217. https://doi.org/10.1016/j.cogr.2023.06.001

Minsky, M. (1990). The Age of Intelligent Machines: Thoughts About Artificial Intelligence. KurzweilAI.net. http://www.kurzweilai.net/articles/art010 0.html

Nguyen, A., Ngo, H. N., Hong, Y., Dang, B., & Nguyen, B. P. T. (2023). Ethical principles for artificial intelligence in education. Education and Information Technologies, 28(4), 4221-4241. https://doi.org/10.1007/s10639-022-11316-w

OECD (2022). Recommendation of the Council on Artificial Intelligence. OECD/LEGAL/0449.

OpenAI (2023). GPT-4 Technical Report. ArXiv, abs/2303.08774. https://cdn.openai.com/papers/gpt-4.pdf

Oppenlaender, J., Visuri, A., Paananen, V., Linder, R., & Silvennoinen, J. (2023). Text-to-Image Generation: Perceptions and Realities. arXiv preprint arXiv:2303.13530.

https://doi.org/10.48550/arXiv.2303.13530

Osorio, J. (2023). Revisión sistémica de la relación jurídica en entornos digitales. Ektenos, 1(2), 23-34.

Pavlik, J.V. (2023). Collaborating with ChatGPT: Considering the implications of generative artificial intelligence for journalism and media education. Journalism & Mass Communication Educator, 78(1), article 10776958221149577 https://doi.org/10.1177/1077695822114957

Porto-Castro, A. M. (2022). Percepción del alumnado y profesorado universitario sobre la accesibilidad y la inclusión. RELIEVE, Revista Electrónica de Investigación y Evaluación Educativa, 28(1), art. 7. http://doi.org/10.30827/relieve.v28i1.23673

Qadir, J. (2023). Engineering education in the era of ChatGPT: Promise and pitfalls of generative AI for education. 2023 IEEE Global Engineering Education Conference (EDUCON) (pp. 1-9). IEEE. https://doi.org/10.36227/techrxiv.21789434

Russell, S. & Norving, P. (1996). Inteligencia Artificial: Un enfoque moderno. Primera edición en español. Prentice Hall Hispanoamericana. México.

Sabzalieva, E., & Valentini, A. (2023). ChatGPT e inteligencia artificial en la educación superior: Guía de inicio rápido. UNESCO. ED/HE/IESALC/IP/2023/12. https://unesdoc.unesco.org/ark:/48223/pf0000385146_spa

Soto, J. Á. (2023). La «velocidad de escape» de la IA y el futuro del trabajo. Nuevas Tendencias, (110), 37-39. https://revistas.unav.edu/index.php/nuevas-tendencias/article/view/45027

Stojanov, A. (2023). Learning with ChatGPT 3.5 as a more knowledgeable other: an autoethnographic study. International Journal of Educational Technology in Higher Education, 20(35), 1-17. https://doi.org/10.1186/s41239-023-00404-7

Sullivan, M., Kelly, A., & McLaughlan, P. (2023). ChatGPT in higher education: Considerations for academic integrity and student learning. Journal of Applied Learning & Teaching, 6(1), 31-40. https://doi.org/10.37074/jalt.2023.6.1.17

Sun, G.H., & Hoelscher, S. (2023). The ChatGPT Storm and What Faculty Can Do. Nurse Educ, 48(3), 119-124. Epub. https://doi.org/10.1097/NNE.0000000000001390

Sun, W., Yan, L., Ma, X., Ren, P., Yin, D., & Ren, Z. (2023). Is ChatGPT Good at Search? Investigating Large Language Models as Re-Ranking Agent. arXiv preprint arXiv:2304.09542. https://doi.org/10.48550/arXiv.2304.09542

Tapia, A. J. (2020). Decálogo de la inteligencia artificial ética y responsable en la Unión Europea. Diario La Ley, 9749, sección Tribuna.http://www.aidaargentina.com/wp-content/uploads/Dec%C3%A1logo_de_la_inteligen...-1.pdf

Terrones, A. L. (2022). Ética para la inteligencia artificial sostenible. Arbor, 198(806), a683. https://doi.org/10.3989/arbor.2022.806013

Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, LIX, 236, 433-460. https://doi.org/10.1093/mind/LIX.236.433

UNESCO (2021). Recomendación sobre la Ética de la Inteligencia Artificial. https://unesdoc.unesco.org/ark:/48223/pf0000380455_spa

European Parlament (2023). EU Artificial Intelligence Act. https://tinyurl.com/3kv85wn9

UNESCO (2019). Consenso de Beijing sobre la Inteligencia artificial. International Conference on Artificial Intelligence and Education. Planning Education in the AI Era: Lead the Leap. Beijing. https://unesdoc.unesco.org/ark:/48223/pf0000368303

UNESCO (2021). Inteligencia artificial y educación. Guía para las personas a cargo de formular políticas. https://unesdoc.unesco.org/ark:/48223/pf0000379376

UNESCO (2021). Ética de la Inteligencia Artificial. https://www.unesco.org/es/artificial-intelligence/recommendation-ethics

Vidal, J., Llorens-Largo, F., & García-Peñalvo, F. J. (2024). The new reality of education in the face of advances in generative artificial intelligence. RIED-Revista Iberoamericana de Educación a Distancia, 27(1). https://doi.org/10.5944/ried.27.1.37716

Wach, K., Duong, C. D., Ejdys, J., Kazlauskaitė, R., Korzynski, P., Mazurek, G., ... & Ziemba, E. (2023). The dark side of generative artificial intelligence: A critical analysis of controversies and risks of ChatGPT. Entrepreneurial Business and Economics Review, 11(2), 7-24. https://doi.org/10.15678/EBER.2023.110201

Waltzer, T., Cox, R. L., & Heyman, G. D. (2023). Testing the ability of teachers and students to differentiate between essays generated by ChatGPT and High School Students. Human Behaviour and Emerging Technologies, ID artículo 1923981, 1-9. https://doi.org/10.1155/2023/1923981

Weber-Wulff, D., Anohina-Naumeca, A., Bjelobaba, S., Foltýnek, T., Guerrero-Dib, J., Popoola, O., ... & Waddington, L. (2023). Testing of detection tools for AI-generated text. arXiv preprint arXiv:2306.15666. https://arxiv.org/ftp/arxiv/papers/2306/2306.15666.pdf

Zhu, Y., & Yang, F. (2023). ChatGPT/AIGC and Educational Innovation: Opportunities, Challenges, and the Future. Journal of East China Normal University (Educational Sciences), 41(7). 1.