La regulación ya está aquí
El EU AI Act (Reglamento Europeo de Inteligencia Artificial) entró en vigor en agosto de 2024 y su aplicación se despliega por fases hasta 2027. Muchas instituciones educativas europeas no saben todavía que les afecta directamente, y algunas que sí lo saben no han tomado medidas.
Este no es un artículo de alarma. Es una guía práctica para que los equipos directivos entiendan qué implica el EU AI Act para su centro y qué pasos dar de forma ordenada.
¿Por qué afecta a los centros educativos?
El EU AI Act clasifica los sistemas de IA según el riesgo que representan. Los sistemas de IA usados en educación pueden caer en la categoría de alto riesgo cuando se utilizan para:
- Evaluación del rendimiento académico
- Determinación del acceso a programas educativos
- Monitorización del comportamiento de estudiantes
- Detección de uso de IA o plagio en trabajos
Esto incluye herramientas de detección de plagio con IA, plataformas de evaluación adaptativa, sistemas de recomendación de itinerarios formativos y, en algunos casos, herramientas de proctoring (vigilancia en exámenes online).
Qué exige el EU AI Act a las instituciones
Para los sistemas de IA de alto riesgo, la normativa exige:
1. Evaluación de conformidad
Antes de desplegar un sistema de IA de alto riesgo, la institución debe verificar que el proveedor ha realizado la evaluación de conformidad exigida. No basta con que la herramienta sea buena: debe estar certificada.
2. Registro de uso
Las instituciones deben mantener un registro de qué sistemas de IA de alto riesgo utilizan, con qué finalidad y bajo qué condiciones. Este registro debe estar disponible para las autoridades competentes.
3. Supervisión humana
Los sistemas de IA no pueden tomar decisiones que afecten a los estudiantes de forma completamente autónoma. Debe existir siempre una persona responsable que pueda revisar, cuestionar y anular las decisiones del sistema.
4. Transparencia hacia los estudiantes
Los estudiantes deben ser informados cuando interactúan con un sistema de IA o cuando sus datos son procesados por uno. Esto afecta directamente a cómo se comunican las políticas de uso de herramientas digitales.
5. Protección de datos (GDPR / LOPDGDD)
El EU AI Act se superpone al GDPR, que en España se complementa con la LOPDGDD. El uso de IA que implique procesamiento de datos de menores requiere garantías adicionales.
Lo que la mayoría de centros está haciendo mal
Error 1: Tratar el EU AI Act como un problema del proveedor Las instituciones asumen que la responsabilidad es del fabricante de la herramienta. Pero el reglamento establece obligaciones también para el implementador (la institución que despliega el sistema).
Error 2: No tener un inventario de herramientas de IA La mayoría de instituciones no sabe exactamente qué herramientas de IA están usando sus docentes y en qué contextos. Sin este inventario, la conformidad normativa es imposible.
Error 3: No distinguir entre sistemas de riesgo limitado y alto riesgo No todas las herramientas de IA requieren el mismo nivel de cumplimiento. ChatGPT usado como asistente de escritura tiene un perfil de riesgo muy diferente a un sistema de evaluación adaptativa automatizada.
Un plan de acción en cuatro pasos
Paso 1: Inventario (semana 1-2)
Lista todas las herramientas de IA que usa tu institución: plataformas contratadas, herramientas gratuitas usadas por docentes, apps de estudiantes conocidas. Clasifícalas por función.
Paso 2: Clasificación de riesgo (semana 3-4)
Para cada herramienta, determina si entra en la categoría de alto riesgo según el EU AI Act. Tu asesoría jurídica o un consultor especializado puede ayudarte en esta clasificación.
Paso 3: Política de uso (mes 2)
Redacta una política institucional de uso de IA que incluya: qué herramientas están autorizadas, en qué contextos, quién es responsable de la supervisión humana y cómo se informa a estudiantes y familias.
Paso 4: Formación y comunicación (mes 3)
Forma a los docentes en los aspectos clave de la normativa y comunica a la comunidad educativa la política de uso. La transparencia es tanto una obligación legal como una ventaja reputacional.
El cumplimiento como ventaja competitiva
Las instituciones que gestionen bien el EU AI Act no solo evitarán sanciones (que pueden llegar al 3% de la facturación global para los incumplimientos más graves). También:
- Generarán confianza en familias y estudiantes
- Podrán justificar ante acreditadoras y auditores su gestión responsable de la IA
- Estarán mejor posicionadas para atraer financiación pública ligada a innovación responsable
El cumplimiento normativo no es el techo de la ambición. Es el suelo sobre el que construir una estrategia de IA confiable.
¿Por dónde empezar?
Si no sabes en qué punto de cumplimiento está tu institución, el primer paso es un diagnóstico. En BeTalent incluimos la evaluación de riesgo normativo como parte del diagnóstico inicial de madurez IA. Puedes solicitarlo de forma gratuita a través de nuestro formulario de contacto.
