Según el reglamento del Parlamento Europeo, que entrará en vigor en 2026, la respuesta a la pregunta que encabeza este artículo es SÍ. Pero hay algunas condiciones que deberemos cumplir.

Con la ayuda de Claude 3.5 Sonnet hemos elaborado el siguiente documento al que deberemos prestar mucha atención en el futuro.

Guía de cumplimiento del reglamento (UE) 2024/1689 para el uso de IAs generativas en evaluación educativa

Basado en: REGLAMENTO (UE) 2024/1689 DEL PARLAMENTO EUROPEO Y DEL CONSEJO de 13 de junio de 2024

Introducción

Esta guía está diseñada para profesores de primaria y secundaria que utilizan herramientas de IA generativa (como ChatGPT o Claude) en procesos de corrección y evaluación. Se basa en los requerimientos del reglamento europeo de IA.

1. Clasificación del caso

El uso de IAs generativas para evaluación está clasificado como «alto riesgo» porque:

  • Impacta en calificaciones académicas y progresión educativa, ya que puede determinar el futuro académico del estudiante.
  • Afecta a menores de edad, un grupo especialmente protegido por la legislación.
  • Influye en decisiones educativas importantes, lo cual puede determinar itinerarios formativos y afectar el desarrollo educativo a largo plazo.

2. Obligaciones del profesorado

Se describen las responsabilidades clave del profesorado al usar IA, asegurando una correcta implementación y la trazabilidad del proceso evaluativo.

Responsabilidades principales

  • Informar explícitamente sobre el uso de IA a todos los implicados y mantener registros detallados de la metodología aplicada.
  • Asegurar que la decisión final siempre sea del profesor, utilizando la IA solo como herramienta de apoyo y justificando cada calificación con criterios propios.
  • Adaptar el uso según el nivel educativo y la madurez del alumnado, personalizando la metodología según las características individuales del estudiante.
  • Poder justificar cada calificación independientemente de la IA, fundamentar evaluaciones con criterios propios.

Documentación requerida para asegurar la trazabilidad de los resultados

  • Prompts utilizados y sus modificaciones, incluyendo un registro detallado de todas las instrucciones dadas a la IA.
  • Registro de correcciones a evaluaciones erróneas de la IA y del proceso de verificación de sugerencias para garantizar su validez.
  • Criterios de evaluación empleados, con los estándares utilizados para cada tipo de evaluación.
  • Registro del proceso evaluativo que asegure poder justificar la evaluación.
  • Sistema de comunicación con familias, incluyendo procedimientos para informar del uso de IA, y registro de incidencias y soluciones aplicadas.

3. Protección de datos

Esta sección aborda cómo proteger los datos personales de los estudiantes, asegurando el cumplimiento de las normativas de privacidad.

  • No copiar textos completos con datos identificables y no compartir información personal de estudiantes, manteniendo siempre la confidencialidad.
  • Anonimizar todos los textos antes de introducirlos en la IA y usar solo la información estrictamente necesaria para la evaluación, siguiendo el principio de minimización de datos.
  • Mantener registros seguros y confidenciales, prestando especial atención a la privacidad de los menores debido a su vulnerabilidad.

4. Supervisión humana

Se enfatiza la importancia de que el profesor mantenga el control y supervisión sobre las decisiones tomadas con la ayuda de la IA.

  • Revisar cada sugerencia de la IA y priorizar siempre el criterio profesional docente, garantizando la autonomía y la equidad en el proceso de evaluación.
  • Documentar todas las modificaciones realizadas en las evaluaciones y garantizar la equidad en el proceso, asegurando el mismo trato para todo el alumnado.

5. Transparencia

Describe cómo informar de forma clara a los diferentes actores involucrados sobre el uso de la IA en la evaluación educativa.

  • Informar a estudiantes, padres o tutores, dirección del centro y equipo docente sobre el uso de IA, adaptando la información al nivel de comprensión de cada grupo.
  • Explicar claramente el papel de la IA en el proceso de evaluación, las áreas evaluadas, y las garantías de equidad aplicadas, incluyendo el proceso de apelación disponible.

6. Sistema de reclamaciones

Se detalla un sistema de reclamaciones que permite a estudiantes y familias solicitar revisiones o correcciones de evaluaciones realizadas con IA.

  • Revisión de evaluaciones, debe determinarse un procedimiento claro de revisión.
  • Solicitud de corrección humana, debe existir la opción de evaluación sin IA.
  • Apelación de decisiones, se determinará el proceso formal de reclamación.
  • Acceso a criterios de evaluación, que deben ser conocidos, transparencia en estándares.

7. Elementos clave del proceso evaluador

Se listan los elementos fundamentales para garantizar un proceso de evaluación justo, transparente y trazable al utilizar IA.

  • Garantía de objetividad y equidad, trato justo para todo el alumnado.
  • Trazabilidad de las decisiones, registro del proceso evaluativo.
  • Protección de datos del alumnado, confidencialidad garantizada.
  • Supervisión humana constante, control docente del proceso.
  • Comunicación clara con familias, información transparente.
  • Posibilidad de revisión y apelación, derecho a reclamación.
  • Registro sistemático de procesos, documentación completa.
  • Documentación de criterios aplicados, transparencia en la evaluación.

8. Uso prohibido y limitaciones de la IA

Para asegurar el cumplimiento con los valores y derechos fundamentales de la Unión Europea, quedan prohibidas las siguientes prácticas relacionadas con el uso de la IA en evaluación educativa:

  • Manipulación del comportamiento del estudiante: Está prohibido cualquier uso de la IA que tenga como objetivo alterar de manera sustancial el comportamiento del alumnado sin su conocimiento o consentimiento informado.
  • Puntuación basada en datos sensibles: No se permitirá el uso de datos sensibles (como raza, orientación sexual, religión, opiniones políticas, etc.) para realizar evaluaciones o categorizaciones automáticas que puedan afectar la trayectoria educativa del alumno.
  • Decisiones automatizadas sin supervisión humana: No se deben utilizar evaluaciones generadas automáticamente sin la revisión y validación de un profesor. Las decisiones finales siempre deben estar mediadas por un ser humano.
  • Utilización de IA para clasificaciones discriminatorias: Está estrictamente prohibido cualquier tipo de clasificación o puntuación que pueda ocasionar un trato desigual o discriminatorio de los alumnos, directa o indirectamente.
  • Uso de IA sin trazabilidad y documentación: El uso de herramientas de IA en el proceso evaluativo debe ser completamente transparente, debiendo documentar cada interacción con la IA, incluyendo los prompts utilizados, modificaciones realizadas y justificación de cada decisión.
  • Falta de opción de evaluación alternativa: Debe ofrecerse siempre una alternativa de evaluación sin IA a cualquier estudiante o familia que lo solicite, asegurando así el derecho a una educación sin intervención automatizada.

9. Lista de verificación diaria

La lista de verificación diaria tiene como objetivo ayudar a los docentes a asegurar un uso responsable y efectivo de las herramientas de IA en los procesos de evaluación. Incluye una serie de pasos antes, durante y después del uso de la IA para garantizar la transparencia, equidad y adecuación de las evaluaciones.

  • Antes de usar la IA:
    • ☐ ¿He anonimizado el contenido? Eliminación de datos personales.
    • ☐ ¿Tengo claros los criterios de evaluación? Definición previa de estándares.
    • ☐ ¿He documentado el proceso? Registro del procedimiento.
    • ☐ ¿Es apropiado para la edad/nivel del estudiante? Adaptación al desarrollo.
  • Durante el uso:
    • ☐ ¿Estoy verificando cada sugerencia? Revisión activa de propuestas.
    • ☐ ¿Mantengo registro de modificaciones? Documentación de cambios.
    • ☐ ¿Puedo justificar cada decisión? Fundamentación de evaluaciones.
    • ☐ ¿Las evaluaciones son apropiadas para el nivel? Ajuste al desarrollo.
  • Después del uso:
    • ☐ ¿He guardado la documentación necesaria? Archivo de evidencias.
    • ☐ ¿He informado a los afectados? Comunicación de resultados.
    • ☐ ¿El proceso es apelable? Posibilidad de revisión.
    • ☐ ¿La retroalimentación es adecuada para la edad? Feedback apropiado.

Nota final

Esta guía debe actualizarse según modificaciones del reglamento y directrices específicas de cada centro educativo. Se recomienda una revisión periódica para asegurar el cumplimiento y la adaptación a las necesidades de cada etapa educativa.

Pódcast del artículo

El siguiente pódcast generado por IA, explica el contenido del artículo.

Uso de la IA en la redacción de este artículo: Nivel 4 en el Marco para la integración de la IA generativa en las tareas educativas.