Edición 004 ·
El Examen que te hacía sudar
¿Te acuerdas cuando estabas en el colegio o en la U y no habías estudiado para ese examen? ¿Te acuerdas que el corazón te latía rápido y sentías un peso en la cabeza presagiando una mala nota y un potencial castigo de tus padres? Algunos (yo por lo menos) soñaba con que un ángel bajara y me dijera todas las respuestas. A veces era adquirir el superpoder de saber todo lo que no había estudiado los últimos dos meses. Bueno, ahora los jóvenes tienen ese ángel, o ese superpoder.
El problema es que los profesores no quieren quedarse sin trabajo tan fácil. Así que en vez de pensar como educar usando las IAs muchos acaban prohibiéndolas. Como los profesores generalmente creen tener más experiencia que los alumnos han aprendido a darse cuenta si el ensayo, la tarea o el examen fue escrito por un joven estudiante o por un robot. Pero...
Pero resulta que ahora, pocos meses después que los profes aprendieron a reconocer como escribe una IA la IA ya evolucionó. Ahora basta con un sencillo pedido como "escribe con errores aleatorios para que parezca humano" y el trabajo de la IA puede pasar desapercibido por los ojos del profesor que sin sospechar nada coloca un 14 donde debió estar un 04.
Claro, esa historia fue una manera pintoresca de contar el caso. En la realidad los profesores modernos utilizan software que detecta lo que un ojo humano pasaría por alto y de esa manera se da cuenta si la tesis del estudiante de posgrado fue escrita por él o por el ChatGPT. De hecho Turnitin, la empresa que ya revisaba plagio en medio mundo, lanzó su software examinador de uso de IA prometiendo 1% de error. Pero...
El detector
Lo que encontró un equipo de Stanford cuando examinó al examinador más moderno de todos fue revelador.
Los investigadores lo probaron con ensayos del TOEFL, el examen de inglés que rinde cualquier extranjero que quiere estudiar afuera. Todos fueron escritos por humanos sin ayuda de las IAs, todos sin excepción.
Los detectores marcaron el 61,3% como escritos por inteligencia artificial.
Sin embargo, con ensayos de escolares estadounidenses de secundaria, los mismos programas acertaron siempre.
Seis de cada diez estudiantes extranjeros quedaban señalados como tramposos cuando no lo eran. Los chicos americano, no.
¿Por qué falla con extranjeros?
Para saber si fue escrito por IA el detector busca texto predecible.
Quien escribe en un idioma que no es el suyo usa menos palabras, frases más cortas, estructuras más simples. Eso se lee como predecible. La máquina llamó "artificial" a lo que en realidad era "extranjero".
Los investigadores hicieron entonces algo que parece un chiste y no lo es. Le pidieron a ChatGPT que enriqueciera esos mismos ensayos para que sonaran más a nativo. Los falsos positivos cayeron de 61% a 12%.
Para dejar de ser acusado de usar inteligencia artificial, había que usar inteligencia artificial.
James Zou, que dirigió el estudio, no se anduvo con rodeos: hay que ser extremadamente cuidadoso con estas herramientas y, en lo posible, evitarlas.
Lo que hicieron las universidades
Vanderbilt hizo la cuenta en voz alta y la publicó. Con el 1% de error que prometía el fabricante y 75.000 trabajos recibidos en un año, cerca de 750 estudiantes habrían sido acusados por redondeo. Apagaron el detector.
Otras universidades siguieron. Y la solución hacia la que están volviendo no es un detector mejor: es sentarse a conversar. El examen oral. Preguntas sobre el proceso y no sobre el resultado. Defender lo que escribiste delante de alguien que puede repreguntar. Genial.
Vale la pena medir la velocidad de esto en tres cortes:
Hace tres años, un trabajo bien escrito era prueba de que habías pensado.
Hace dos, apareció la máquina que prometía distinguir al que piensa del que copia.
Hoy, las universidades están apagando esa máquina y volviendo a lo más antiguo que existe: mirarte a la cara y preguntarte.
Esto no es un problema de universidades
Cambia "ensayo" por "currículum" y tienes el mismo mecanismo corriendo dentro de tu empresa.
Un filtro automático de hojas de vida, entrenado con los currículums de quienes ya trabajan ahí. Un modelo de riesgo crediticio entrenado con el comportamiento de pago de Lima y aplicado a un cliente de Puno. Un sistema de evaluación de proveedores que aprendió mirando proveedores grandes y formales.
Ninguno de esos sistemas te va a avisar que está sesgado. Te va a devolver un número con dos decimales, y ese número va a parecer objetivo. Es exactamente lo que hacía el detector: no medía lo que decía medir. Medía distancia respecto de aquello con lo que lo entrenaron.
La pregunta que hay que aprender a hacer, entonces, no es "¿qué tan preciso es este sistema?".
Es otra más inteligente: ¿es preciso para quién?
Porque el detector acertaba el 99% de las veces. Con los estadounidenses.
Reprobamos un examen que nunca dimos.
¿Cuántos estás dando hoy sin enterarte?
Giuliano Salas
Fuentes de esta edición: el estudio de Weixin Liang, James Zou y su equipo en Stanford, publicado en la revista Patterns00130-7) y disponible también en arXiv; el resumen de ScienceDaily; y el comunicado de Vanderbilt explicando por qué apagaron el detector de Turnitin.
Esta edición se prepara con asistencia de inteligencia artificial y revisión editorial humana. Las fuentes van enlazadas arriba.