ARTDEPARTMENT
ARTDEPARTMENT
En un mundo ideal, los artículos científicos deberían ser sometidos a la más cuidadosa revisión, así como, por descontado, ser la última escalón de una rigurosa costura de investigación. Pero seguro que has notado que no vivimos en un mundo ideal.
Y en un mundo en el que la producción científica se mide a peso, y la IA es (mal) usada para poco más que para analizar datos, de vez en cuando el mundo de las publicaciones científicas se ve sometido a polémicas de lo más curiosas.
En este caso, la polémica viaje en torno a un término como "vegetative electron microscopy" (que podemos traducir como 'microscopía electrónica vegetativa', aunque carece de cualquier sentido técnico reconocible)
Y es que dicho término ha aparecido, en los últimos tiempos, en al menos 22 artículos académicos, algunos de ellos publicados por editoriales prestigiosas como Elsevier, Springer Nature y MDPI.
Allá de ser una simple sucedido, esta frase se ha convertido en un caso paradigmático de cómo la combinación de errores de traducción, de problemas de digitalización y del uso imprudente de la inteligencia industrial pueden terminar dejando en evidencia un cada vez más contaminado corpus estudiado.
El término "microscopía electrónica vegetativa" cuenta con dos posibles orígenes, uno y otro peculiares (y no excluyentes):
(origen: Bacteriological Reviews)
En cualquier caso, uno de los aspectos más inquietantes de esta historia es la incorporación del término en modelos de verbo como GPT-3, GPT-4o o Claude 3.5. Al estar entrenados con vastas cantidades de texto extraído de Internet —incluyendo tanto las digitalizaciones erróneas del paper antiguo como los nuevos artículos contaminados—, los modelos han aprendido a completar frases con esta expresión absurda como si fuera válida.
Los modelos de IA pueden reproducir y perpetuar errores sin filtro ni pleito humano
Este aberración se describe como un fósil digital, un error que se perpetúa en las bases de datos y sistemas de IA, como una huella del pasado que ya no puede eliminarse fácilmente: la dificultad para depurar estos modelos se ve agravada por la desliz de transparencia sobre sus datos de entrenamiento y el bombeo enorme de información que manejan.
Lo más escandaloso del caso no es solo la presencia del término, sino su garra por parte de algunos editores y revisores. Por ejemplo, un artículo publicado en 'Industrial Crops and Products', cuya autoría incluye a un editor de Elsevier, defendió el uso de la frase con el peregrino argumento de que en verdad se refería a "microscopía electrónica de estructuras vegetativas". Un razonamiento endeble y que varios expertos consideran insostenible.
Otros artículos fueron corregidos —cambiando la frase absurda por "scanning electron microscopy"— o incluso retirados tras detectarse plagio, autocitas masivas y procesos de revisión sospechosos. Sin incautación, muchas de estas publicaciones siguen intactas, lo que evidencia una desliz preocupante de control de calidad en editoriales que, paradójicamente, cobran altas tarifas por "servicios editoriales".
Los filtros humanos —editores, revisores— han fallado. Las herramientas automáticas han sido burladas. Y los sistemas de IA, allí de ayudar, han contribuido a amplificar el problema
Este aberración encaja en un patrón más amplio: el de las llamadas 'paper mills', empresas o redes organizadas que fabrican artículos científicos en masa (normalmente sin saco positivo ni revisión existente) para académicos que necesitan editar para avanzar en sus carreras.
Estas organizaciones utilizan contenido generado por IA, plagios y todo tipo de estrategias para escamotear detectores automáticos, como el uso de lo que los anglosajones denominan 'frases torturadas' (para que te hagas a la idea: usar "capacidad cognitiva no-orgánica" para no repetir "inteligencia industrial"). Hay herramientas, sin incautación, que usan estas expresiones como marcadores para identificar artículos sospechosos.
Cuando estas prácticas se combinan con traducciones deficientes y herramientas de IA no supervisadas, el resultado es un cóctel tóxico que contamina la letras científica mundial. Esto plantea una pregunta urgente: ¿Cuántas otras frases sin sentido están ya incorporadas a las actuales redes de 'conocimiento'?
Vía | The Conversation
Imagen | Marcos Merino mediante IA
En Genbeta | Qué fue de Alexandra Elbakyan, la 'Robin Hood' que puso patas en lo alto la ciencia con Sci-Hub, una Z-Library de 'papers'
Compartir este artículo
Consultoria Personalizada
¡Si aun no tienes presencia en internet o
necesitas ayuda con tus proyectos, por favor, escribenos!
En ARTDEPARTMENT nos especializamos en brindar soluciones para que tu negocio, empresa o proyecto sea visible en internet.