Educación advierte de los riesgos de usar ChatGPT en colegios: puede utilizar lenguaje sexista y racista
InfoLibre.- El Instituto Nacional de Tecnologías Educativas y de Formación del Profesorado (INTEF), unidad del Ministerio de Educación y Formación Profesional, ha advertido de los riesgos que conlleva el uso de la herramienta de Inteligencia Artificial ChatGPT, como los «sesgos de lenguaje sexista y/o con prejuicios raciales en función de las fuentes existentes», según informa Europa Press.
En una publicación, la institución ha hecho una valoración inicial del servicio ChatGPT, sobre el que resalta que ha generado «gran interés» debido a las implicaciones que conlleva para el proceso de enseñanza y aprendizaje.
Entre los riesgos que conlleva el uso de este servicio, destaca la falta de análisis y reflexión que llevan a conclusiones precipitadas o inexactas; la escasa generación de ideas novedosas; la falta de coherencia discursiva; la paráfrasis y reiteración de algunas ideas; la dudosa o inexacta veracidad de ciertos contenidos; o los sesgos de lenguaje sexista y/o con prejuicios raciales en función de las fuentes existentes.
Otros de los riesgos que conlleva este chatbot son, según subraya INTEF, la dependencia o exceso de uso que fomenta en el usuario una actitud poco creativa, divergente, reflexiva y crítica y, muy conectados con el sector educativo y la evaluación del alumnado, la dificultad o escasas herramientas para identificar el plagio en las producciones.
Por su parte, el Gobierno ha señalado que, una vez se defina el alcance y las aplicaciones de la Inteligencia Artificial en las aulas, «considerará la necesidad de tomar medidas que regulen su uso, siempre tomando como contexto las competencias de cada administración educativa».
Así lo ha manifestado el Ejecutivo en una respuesta parlamentaria registrada en el Congreso de los Diputados, a la que ha tenido acceso Europa Press, tras ser preguntado por el Grupo Parlamentario Vox por el uso de la Inteligencia Artificial por los alumnos españoles en las aulas.
Aunque ha apuntado que el uso de la Inteligencia Artificial «avanza rápido», el Gobierno ha advertido de que su uso en educación «está aún en proceso de definición, con herramientas que todavía se desarrollan por empresas tecnológicas, como Google o Microsoft, que deben contemplar los reglamentos europeos». «Una vez se defina el alcance y las aplicaciones de la IA en las aulas, se considerará la necesidad de tomar medidas que regulen su uso, siempre tomando como contexto las competencias de cada Administración educativa», precisa.
En este contexto, el Ejecutivo refleja que «no tiene duda» sobre la importancia de mantenerse al día en la aplicación de estas herramientas, «tanto por sus posibilidades como por sus aplicaciones reales», por lo que desarrolla distintas acciones en el ámbito educativo orientadas a la investigación y la actualización docente y con el fin de conseguir un impacto en las aulas y las prácticas educativas, como es el caso del programa Código Escuela 4.0, que incluye un paquete de recursos formativos y didácticos que contemplan la IA.
Por ello, el Gobierno hace hincapié en que su postura en cuanto a la Inteligencia Artificial en educación «es clara» en cuanto a la «necesidad de emplear las tecnologías, evaluando sus posibilidades, minimizando los riesgos, aprovechando sus ventajas y adaptando los usos a las necesidades reales de docentes y alumnado, para su beneficio y su aprendizaje».
Un sistema que ofrece «enormes posibilidades»
Este sistema de chat desarrollado por la empresa OpenAI, según indica INTEF, ofrece «enormes posibilidades» de uso como la creación de diálogo o conversaciones naturales; la redacción de textos únicos con una infinita variación de tipologías, estilos, temáticas, longitudes, niveles o idiomas; la realización de resúmenes e informes de textos existentes; el análisis de texto y, entre otros, la redacción de respuestas automáticas a formularios, correos electrónicos o encuestas.
En Los Ángeles, Nueva York y algunas zonas de Australia se ha prohibido el uso de ChatGPT como medida preventiva a los potenciales impactos negativos en el aprendizaje. «Aunque la herramienta puede proporcionar respuestas rápidas y sencillas a las preguntas, no fomenta el pensamiento crítico ni la capacidad de resolver problemas, que son esenciales para el éxito académico y vital», alega la portavoz del Departamento de Educación de Nueva York, Jenna Lyle.
Por el contrario, el INTEF apunta que algunos ven en esta herramienta una oportunidad para «fortalecer la capacidad de adaptación al entorno y el uso efectivo de las nuevas tecnologías en los estudiantes».
«Esta herramienta ha generado gran interés por sus evidentes implicaciones en los procesos de enseñanza-aprendizaje. Sin embargo, y ante la inexistencia de un marco regulador, hay que tener en cuenta los riesgos asociados, como la falta de reflexión y análisis crítico, la dependencia excesiva, los prejuicios lingüísticos y la dificultad para identificar el plagio», precisa el Instituto.
