Los estudiantes chinos están 'engañando' a los detectores de IA… con ayuda de la propia IA. Nada que en España no hayamos hecho

En la carrera entre la inteligencia sintético y las herramientas diseñadas para detectar su uso, los estudiantes chinos han antitético una forma de soslayar a estas últimas. Han comenzado a utilizar la propia IA para evitar ser detectados por los sistemas que sus universidades han implementado para erradicar su uso.

Un fresco artículo de Rest of World desvela una situación que roza lo disparatado, donde los alumnos se ven forzados a "empeorar" sus trabajos o acudir a servicios de reescritura para evitar ser acusados de usar IA, incluso cuando no lo han hecho. Y es que ahora mismo es asaz habitual encontrar trabajos redactados sin intervención de IA que, aun así, marcan cierto porcentaje en los detectores. Poco que para muchos profesores se convierte en una auténtica red flag.

El problema contemporáneo radica en la entrada tasa de falsos positivos de los detectores de IA que se están utilizando en las universidades chinas —poco que incluso puede hallarse en centros académicos españoles. Según la información habitable, estos sistemas marcan con frecuencia textos escritos por humanos como si hubieran sido generados por una máquina. Esto deja a los estudiantes en una trampa: o simplifican sus textos y “confunden” a la IA con una redacción menos pulida, o se arriesgan a ser penalizados injustamente.

Un negocio en auge: reescribir con IA para no ser detectado

Esta problemática ha legado motivo a un mercado emergente de herramientas y servicios diseñados para “humanizar” los textos y eludir a los detectores. Irónicamente, muchos de estos servicios usan la propia IA para modificar los trabajos de los estudiantes. Se ha creado un círculo vicioso en el que la IA se utiliza para combatir a la IA. Poco que en España incluso se ha gastado desde que se comenzaron a usar detectores, con prompts clásicos como: “haz que este texto parezca escrito por un humano”, o “introduce un 10 % de faltas ortográficas”.

Sin confiscación, algunos estudiantes que han pagado por una supuesta tiraje manual de sus textos generados por IA han recibido resultados completamente incoherentes y plagados de errores inaceptables.

Un caso provocativo fue el de un estudiante de ingeniería cuyo trabajo sobre “semiconductores” fue modificado por uno de estos servicios. Al recibirlo, vio que el término semiconductor había sido reemplazado por “0,5 conductor”. Poco que parece un chiste. Pero no fue el único desliz: el término “tres cuchillos” pasó a convertirse en “herramientas de tres hojas”.

En presencia de la ineficacia y el coste de estos servicios, los propios estudiantes han descubierto trucos más simples y eficaces. Algunos han comprobado que baste con cambiar los puntos por comas en sus textos para ceñir drásticamente el porcentaje de detección por IA. Aunque en estos casos, muchos sienten que están siendo “castigados” por escribir demasiado correctamente.

Este aberración pone en duda la fiabilidad de los detectores de IA. Es poco que muchos han vivido en primera persona: textos 100 % redactados por humanos que al ser analizados arrojan porcentajes significativos de "contenido no humano". Aunque, como estamos viendo en China, incluso es sencillo engañar a estos sistemas con pequeños trucos.

La situación en China es un reflexivo de un debate general sobre el papel de la IA en la educación y la dificultad de asegurar la integridad académica. Mientras las instituciones buscan la modo de adaptarse, los estudiantes, como siempre,  encuentran la forma de ir un paso por delante.

Imágenes | Solen Feyissa Solen Feyissa

En Genbeta | Usar ChatGPT le pasa estructura a nuestro cerebro: el MIT ha estudiado cuánto afecta a su actividad (o a la abandono de la misma)