Enseñanza e implementación de un nuevo rol para la enseñanza reglada: la persona que coordina, supervisa y audita el uso de la inteligencia artificial en el centro, bajo la LOMLOE, el AI Act de la UE y el RGPD.
¿Quién gobierna su utilización? La tecnología llega antes que el criterio: faltan supervisión, criterio común y trazabilidad sobre cada uso de la inteligencia artificial en la educación.
Una figura humana —con metodología, software y control— que coordina, supervisa y audita el uso de la inteligencia artificial en el centro. La IA propone; el Gestor decide.
El proyecto demuestra tres niveles de madurez. El tercero es la clave.
Un modelo de lenguaje genera respuestas a las consultas.
Recupera la normativa relevante y fundamenta cada respuesta en fuentes.
El Gestor supervisa, valida, documenta y asume la decisión. La IA propone; la persona decide.
Del registro del caso a la ficha documentada. La IA propone, el Gestor decide y el sistema deja trazabilidad.
El Gestor en IA concentra las funciones que hacen gobernable la IA en el centro.
Valida cada decisión relevante de la IA antes de que se aplique. El human-in-the-loop es la regla, no la excepción.
Garantiza que el personal del centro tenga formación suficiente, como exige el art. 4 del AI Act.
Protege los datos del alumnado y del centro conforme al RGPD y a la LOPDGDD.
Identifica y clasifica los usos de IA según su nivel de riesgo, conforme al Anexo III del AI Act.
Diseña el itinerario de capacitación docente en competencia digital e IA.
Coordina el centro con la Administración educativa y las convocatorias autonómicas.
El flujo completo, en vivo: registra un caso, obtén el análisis, consulta a Carmen y decide como Gestor.
Registrar → Analizar → Fundamentar → Validar → Documentar. Con trazabilidad y exportación a PDF.
Abrir el panelConsulta normativa, recupera fuentes y propone criterios. No adopta decisiones sobre el alumnado ni sustituye al responsable humano.
Recupera fuentes del corpus normativo y propone criterios con verificación ética y trazabilidad. No decide.
Abrir asistenteEl marco que rige el uso de la IA en el centro, con verificación ética y trazabilidad en cada capa.
Protocolos de control y trazabilidad para un uso responsable de la IA.
Verificación ética de cada respuesta antes de su entrega.
Protección de datos, cumplimiento RGPD y confidencialidad.
Detección y mitigación de sesgos en modelos y corpus.
Nginx sirve la landing y el panel; Carmen aporta LLM, RAG, validador ético y escalado humano; la API y el almacenamiento cierran el ciclo.
Landing, portal del Gestor y API servidos con HTTPS y Basic Auth.
LLM + RAG normativo + validador ético + escalado humano.
Registro de casos y auditoría append-only, con logs y backups.
Credenciales fuera del código, HTTPS, autenticación, minimización y trazabilidad.
Variables de entorno, HTTPS y panel privado autenticado.
Minimización de datos personales y consentimiento trazable.
Rate limiting, human-in-the-loop, backups y política de retención.
La figura del Gestor en IA responde a obligaciones normativas reales y al encaje curricular de la LOMLOE.
Art. 4: alfabetización en IA del personal. Anexo III.3: la educación es un ámbito de alto riesgo. El GESTOR es la respuesta de supervisión humana.
Competencia digital como competencia clave, formación permanente del profesorado y autonomía de los centros para innovar.
Datos de menores, decisiones automatizadas (art. 22) y evaluaciones de impacto como criterio de diseño.
La arquitectura está pensada para crecer en cuatro fases.
Registra un caso, mira el análisis, consulta a Carmen y toma una decisión como Gestor.
PROBAR EL MVPEste proyecto construye de punta a punta un producto real: landing, panel de gobernanza, asistente documental con RAG, decisión humana y trazabilidad. No es solo una web con un chatbot: es gobernanza, IA, seguridad y control.
Cuéntanos tu consulta sobre el Gestor en IA. Los datos se tratan conforme a nuestra política de privacidad.