La UNESCO abre el debate: ¿Saben nuestros chicos hasta qué punto ponen en peligro su proceso de aprendizaje recurriendo a la inteligencia artificial generativa? Aquí, un resumen de su documento-guía.
En los colegios es vox populi. Nuestros chicos están usando la inteligencia artificial generativa (Chat GPT y similares) para sus trabajos de clase. Recurren a ella como si fuera el Oráculo de la Sabiduría sin darse cuenta del riesgo que entraña. Y no nos referimos que les puedan pillar (porque se puede) y les caiga un cero. La cosa va más allá y para poder explicarles la cara B de estas herramientas conviene revisar el último documento publicado por el organismo responsable de la educación de Naciones Unidas (UNESCO), donde se detectan todos estos peligros. Te resumimos lo más interesante.
Qué es la IAGen (inteligencia artificial generativa)
Estas siglas aluden a una tecnología de inteligencia artificial (IA) capaz de generar contenidos de forma automática siguiendo instrucciones que escribimos en interfaces conversacionales de lenguaje natural llamadas prompts. Estos contenidos son nuevos: el chat te sirve un documento de la extensión, estilo y profundidad que le pidas. Te hace el trabajo, vaya.
Hasta aquí las buenas noticias porque, ¿cómo se crean esos contenidos? Mediante un entrenamiento previo de la IAGen, que va recogiendo y usando datos obtenidos de páginas web, conversaciones en redes sociales y otros medios en línea. Los textos parecen siempre muy adecuados a lo que has preguntado porque las IAGens quieren complacer a quien pregunta y para un ojo poco entrenado, son intachables. Pero no lo son. Y el problema es que, como ya te imaginas,
para un estudiante de bachillerato que una máquina haga el trabajo supone algo más que una tentación. Es su salvavidas. O eso cree él.
Si nuestros estudiantes creen estar viendo el cielo abierto, sin ser conscientes del peligro que entraña fiarse de una IAGen, al menos nosotros sí debemos serlo. Dejar de usar los propios recursos y no aplicar el esfuerzo necesario de investigación que exige el aprendizaje en esta etapa, por mucho que entregues el trabajo a tiempo y, aparentemente, bien hecho, es hacer un pan con unas tortas.
A este respecto, el organismo internacional alerta sin tapujos: “A pesar de su fluidez y su impresionante capacidad de producción, no se puede confiar en la precisión de la IAGen (…) Se pueden generar frecuentemente respuestas que suenan razonables, pero no se puede confiar en que sean certeras. La mayoría de las veces, los errores pasarán desapercibidos a menos que el usuario posea sólidos conocimientos sobre el tema en cuestión”. No suele ser el caso cuando hablamos de bachilleres.
Los riesgos de usar IAGen para hacer trabajos
El documento de la UNESCO, publicado a comienzos y titulado “Guía para el uso de IA generativa en educación e investigación” evalúa los posibles riesgos de la IAGen en la educación desde diferentes prismas. Ya en el prefacio, Stefania Giannini, Subdirectora General de Educación de
la UNESCO, alude a lo realmente crucial de todo esto: “Hay que considerar las profundas implicancias, a largo plazo, de la IA generativa en la forma en que entendemos el conocimiento y definimos el contenido, los métodos y los resultados de aprendizaje, así como en la manera en que lo evaluamos y validamos”. Y es que el riesgo es innegable:
“La IA no debe usurpar los ámbitos propios de la inteligencia humana”.
6 reflexiones de la UNESCO sobre los riesgos de confiar en la IAGen
La guía tiene varias secciones. Las dos últimas son las más interesantes para nuestra labor de orientación. Aquí extractamos sus párrafos más interesantes:
1. La IAGen a veces tiene alucinaciones:
“Los GPT pueden producir con frecuencia textos inexactos o poco confiables. Es bien sabido que inventan algunas cosas que no existen en la vida real. Esto lo reconocen las empresas que producen IAGen. En la parte inferior de la interfaz pública de ChatGPT, por ejemplo, se afirma: ‘ChatGPT puede producir información inexacta sobre personas, lugares o hechos’”.
2. Sus resultados pueden ser muy simplistas:
“A un nivel superficial, la IAGen es fácil de usar; sin embargo, los resultados más sofisticados requieren la intervención de personas calificadas y deben ser evaluados críticamente antes de ser utilizados”.
3. Buenas respuestas exigen mejores preguntas. La IA no es Google:
“Pueden ser necesarias varias iteraciones de un prompt antes de obtener el resultado deseado. Es preocupante que los jóvenes estudiantes, al ser por definición menos expertos que los docentes, puedan aceptar, sin saberlo y sin mayor involucramiento crítico, resultados de IAGen superficiales, inexactos o incluso dañinos”.
4. La IA recoge lo publicado, no necesariamente la verdad:
“Debido a la ausencia de una normativa estricta y de mecanismos de control eficaces, los materiales sesgados generados por la IAGen se extienden cada vez más por Internet, contaminando una de las principales fuentes de contenidos o conocimientos para la mayoría de los estudiantes de todo el mundo”.
5. La IA repite como un loro. Mucho ojo:
“Los GPT solo repiten patrones lingüísticos hallados en sus datos de entrenamiento (normalmente texto obtenido de Internet), empezando por patrones aleatorios y sin comprender su significado, del mismo modo que un loro puede imitar sonidos sin comprender realmente lo que dice”.
6. La IA no tiene valores:
“La IAGen no está informada de observaciones del mundo real ni de otros aspectos clave del método científico, ni tampoco está alineada con valores humanos o sociales. Por estas razones, no puede generar contenidos realmente novedosos sobre el mundo real, los objetos y sus relaciones, las personas y las relaciones sociales, las relaciones humano-objeto o las relaciones humano-tecnología”.
¿Qué opinas sobre estas reflexiones? ¿Te lo habías planteado? ¿Conseguiremos que el mensaje cale en los estudiantes antes de que sea tarde?
Descarga aquí la guía para el uso de IA generativa en educación e investigación.
