Vigilar es gobernar

Vanessa Medina Armienta/Campus

Los detectores de inteligencia artificial pueden señalar injustamente a estudiantes, mientras nuevas herramientas registran cómo escriben, qué pegan y cuándo hacen pausas. En México, la falta de reglas claras sobre el uso y resguardo de estos datos plantea una pregunta urgente: ¿cómo garantizar la integridad académica sin convertir la evaluación en vigilancia? La gobernanza de la IA en las universidades exige reglas, transparencia y mecanismos de apelación.

En agosto de 2023, la Universidad de Vanderbilt de Nashville, Tennessee, hizo una cuenta sencilla. En 2022 había enviado 75 mil trabajos al detector de IA de Turnitin, que declaraba una tasa de error de 1 por ciento. Con ese margen, unos 750 podrían haber sido marcados por equivocación como escritos en parte con IA. Vanderbilt apagó la herramienta.

‪No fue la única. Según Inside Higher Ed, al menos una docena de universidades estadounidenses, entre ellas Northwestern, Georgetown y Nueva York, desactivaron ese módulo, y Yale, Johns Hopkins e Indiana desaconsejan o prohíben tomarlo como única prueba.

Conviene un matiz: el Higher Education Policy Institute (HEPI), del Reino Unido, recuerda que la falla cambia según el programa, y un estudio de 160 trabajos escritos por humanos no halló falsos positivos. Lo que sí está documentado es a quién le toca cargar con el desacierto. Investigadores de Stanford probaron siete detectores con 91 ensayos del examen de inglés TOEFL, redactados por personas cuya primera lengua no es el inglés. En promedio, los sistemas clasificaron 61 por ciento como generados por IA, y 89 de los 91 textos fueron marcados por al menos uno.
Con trabajos de estudiantes estadounidenses de octavo grado (segundo de secundaria), los mismos sistemas resultaron casi exactos.

‪Muchas instituciones respondieron dejando de juzgar el texto terminado para registrar cómo se escribe. Turnitin Clarity, presentado en 2025, ofrece un espacio de redacción donde se monitorean el texto pegado, los patrones de escritura y el historial de borradores.

Un estudio sobre dinámica de tecleo, aceptado para publicarse en una revista del IEEE (Instituto de Ingenieros Eléctricos y Electrónicos), la mayor asociación profesional de ingeniería del mundo, logra puntajes de 97 a 98 sobre 100 en pruebas controladas, con entre 34 y 196 participantes por base de datos; dos de sus tres modelos bajan a cerca de 76 cuando el texto fue parafraseado. Sus autores señalan que el mayor riesgo ético son las acusaciones falsas; advierten que el estudiante debe dar su consentimiento y reconocen que sus datos pueden no representar la diversidad de quienes escriben.

‪El cambio parece una mejora, y en parte lo es: un historial de borradores dice más que una probabilidad. Pero mueve el problema de lugar. Antes, la institución tenía un texto. Ahora tiene un expediente de cómo teclea, cuándo se detiene y qué pega una persona. Ese expediente se guarda en algún sitio, lo consulta alguien y puede servir para sancionar.

‪¿Qué ley protege ese expediente en México? Depende del tipo de institución. Las universidades privadas están bajo la Ley Federal de Protección de Datos Personales en Posesión de los Particulares, publicada el 20 de marzo de 2025: establece el consentimiento como regla general, exige un aviso de privacidad y reconoce el derecho a oponerse a que un tratamiento automatizado afecte de forma significativa a la persona.

Su autoridad ya no es el INAI, sino la Secretaría Anticorrupción y Buen Gobierno, que depende del Ejecutivo. Las públicas quedan bajo otra norma, la Ley General de Protección de Datos Personales en Posesión de Sujetos Obligados, publicada el mismo día, y la UNAM, en ejercicio de su autonomía, creó en mayo de 2025 su propia autoridad garante. Si un patrón de tecleo cuenta como dato biométrico y, por tanto, sensible, es una consulta para las áreas jurídicas.

‪Cuando escribí sobre el examen de admisión de la UNAM supervisado con IA, el foco fue la decisión de desplegarlo sin reglas. Quedó sin responder otra cosa: con qué fundamento y bajo qué aviso se recogen los datos que genera una supervisión remota.

‪La Unión Europea ya puso límites por escrito. Desde febrero de 2025, su Reglamento de IA prohíbe inferir las emociones de estudiantes en instituciones educativas, salvo por razones médicas o de seguridad. También clasifica como de alto riesgo la IA que vigila la conducta durante los exámenes, con obligaciones que, tras una reforma de 2026, se aplicarán desde diciembre de 2027. Es evidencia de otro orden jurídico, no de México; sirve para observar que se juzgó lo bastante delicado como para fijarlo en una norma.

‪En México no hay datos publicados sobre cuántas instituciones usan detectores o rastreo del proceso de escritura, y esa ausencia es en sí misma un dato. Lo que existe es el diagnóstico del Observatorio Interinstitucional de Inteligencia Artificial en la Educación Superior (OIIAES): 140 de las 161 instituciones analizadas, 86.96 por ciento, carece de mecanismos para evaluar el uso de IA en el salón. Cuando no hay mecanismo propio, el riesgo es que lo decida la herramienta: quien contrata un sistema adopta también su forma de registrar, guardar y sancionar.

‪Gobernar es decidir antes de contratar: qué se registra, para qué, por cuánto tiempo, quién lo ve, bajo qué ley y cómo se apela. Vigilar solo acumula. En julio escribí que la bitácora de verificación que lleva el propio estudiante es aprendizaje; cuando el registro lo decide un proveedor sin reglas, esa misma práctica se convierte en vigilancia. Supervisar las decisiones de un algoritmo forma parte de gobernar. Vigilar al estudiante sin reglas, no.

‪Antes de contratar cualquier herramienta de este tipo, una institución debería poder contestar cuatro cosas:

• Qué registra, dónde lo guarda y por cuánto tiempo.
• Quién puede consultarlo y quién decide con él.
• Qué tasa de error se asume y a cuántos estudiantes equivale, multiplicada por el volumen propio, como hizo Vanderbilt.
• Qué ley la rige, qué autoridad la supervisa y en cuántos días puede apelar un estudiante.

‪La institución que responde a esas cuatro tiene una política. La que no tiene una suscripción. El Índice Campus de Gobernanza Universitaria (ICGU), cuyos resultados se presentan el 9 de noviembre y se publican en la edición del 12, incluye entre sus cinco dimensiones la gobernanza de datos y la integridad académica digital. No compara universidades: es un espejo.