La Guía para el uso de IA generativa en educación e investigación de la UNESCO es la primera orientación global sobre el uso de herramientas de IA generativa en educación.
Su objetivo es «apoyar a los países en la implementación de acciones inmediatas, la planificación de políticas a largo plazo y el desarrollo de capacidades humanas para garantizar una visión de estas nuevas tecnologías centrada en el ser humano». Su mensaje central es claro: la tecnología debe servir a la educación, y no al revés.
Propuesta de la UNESCO
La UNESCO propone un enfoque centrado en el ser humano, que se concreta en los siguientes principios:
a) Transparencia
Los usuarios deben entender cómo funcionan estas herramientas y cuáles son sus límites, aunque no resulta sencillo.
Las redes neuronales artificiales suelen ser “cajas negras”, es decir, su funcionamiento interno no está abierto a la inspección; por tanto, no siempre es posible determinar cómo obtienen sus resultados.
A medida que los modelos se vuelven más complejos, la falta de transparencia y explicabilidad es cada vez más problemática. Esto puede dar lugar a resultados inesperados o no deseados.
b) Inclusión y equidad
La herramientas de IA no deben ampliar las brechas ya existentes. Deben ser accesibles independientemente del género, origen étnico, necesidades educativas especiales, estatus socioeconómico, ubicación geográfica, situación de desplazamiento, etc. No será fácil de lograr. De hecho, la IA ya agrava las desigualdades entre quienes tienen acceso a buenas herramientas y quienes no.
c) Diversidad cultural y lingüística
Las herramientas deben respetar y promover el pluralismo cultural. Sin embargo, esa diversidad todavía no se refleja bien en la IA, con el riesgo de que el conocimiento se estandarice bajo una sola mirada cultural.
d) Privacidad y protección de datos
Especialmente en lo relativo a menores y a información sensible.
e) Marco regulador adecuado
Todos los países necesitan regular adecuadamente la IA generativa para garantizar que promueva el desarrollo en la educación y en otros contextos.
Se proponen acciones concretas en torno a elementos clave que pueden ser adoptadas por organismos reguladores gubernamentales, proveedores de herramientas de IA generativa, usuarios institucionales y usuarios individuales. Se proponen orientaciones que cada uno de esos actores pueden llevar a la práctica, en concreto:
- Proteger la privacidad de los datos de estudiantes y docentes frente a un uso indebido.
- Establecer límites de edad para el uso autónomo de la IA (la UNESCO sugiere 13 años como umbral mínimo).
- Exigir validación ética y pedagógica antes de adoptar herramientas a gran escala.
- Desarrollar marcos de política coherentes y actualizables, capaces de seguir el ritmo de la tecnología.
- Formar a docentes e investigadores en el uso crítico y creativo de la IA, no solo en su manejo técnico.
- Exigir transparencia a los proveedores sobre el funcionamiento, los sesgos y las limitaciones de sus sistemas.
Conclusión
La Guía de la UNESCO no es un manual técnico sobre cómo usar herramientas de IA generativa como ChatGPT. Es un llamamiento a la responsabilidad colectiva. Gobiernos, instituciones, docentes e investigadores tienen la oportunidad de decidir cómo se integra esta tecnología en la educación, y deben obrar con responsabilidad.
