Con la llegada de la IA Generativa de textos ha surgido un problema que, en casos como el educativo, puede afectar muy negativamente: ¿se puede saber si un texto ha sido generado con IA o ha sido escrito por un humano?
Hasta hace poco los detectores de IA no eran demasiado fiables. Pero de un tiempo a esta parte, hacen su trabajo con mayor precisión.
¿Cómo funcionan?
Estos detectores son, al igual que los generadores de textos, modelos de Machine Learning entrenados para reconocer textos generados con IA y por humanos. Usan algunos patrones como:
- complejidades gramaticales,
- uniformidad en las longitudes de las frases,
- ortografía y
- conceptos más técnicos como la perplejidad.
Estamos probando detectores como https://isgen.ai/es y https://quillbot.com/es/detector-de-ia y para nuestra sorpresa, ¡funcionan realmente bien! Al menos con los ejemplos que hemos utilizado.
¿Son realmente fiables?
Es cierto que, hasta donde hemos averiguado, no podemos fiarnos completamente de los resultados. Estos sistemas de detección de IA son, a su vez IA entrenada con datos y, por su naturaleza inductiva, NO pueden ser considerados completamente fiables.
Para el docente, podría ser una primera aproximación a la sospecha de si un trabajo ha sido de elaboración propia o no. Aunque tampoco sería de mucho valor. Siempre existe la posibilidad de que el trabajo lo haya desarrollado el padre, la madre, el tío o la abuela del estudiante, con o sin IA, y estamos en las mismas.
¿No sería preferible repensar las tareas que realizamos con nuestros alumnos para llevarlas a terrenos más creativos y menos automatizables? Los riesgos que introducen estas IAs tan listas pueden ser oportunidades para transformar la educación. ¡Aprovechémoslo!