el lenguaje que usa la generación Alfa en redes sociales complica la detección de bullying online

Hace unos días una amiga me comentaba muy sorprendida que PEC es una expresión de los adolescentes de ahora que se traduce como "Por el culo" y que encima tiene una connotación positiva. Uno de los hijos de su novia es adolescente en esa tilde que roza a los más jóvenes de la coexistentes Z y los mayores de la Gen Alfa y así está aprendiendo esas palabras tan diferentes a las que ella y yo, millennilals, usamos al murmurar.

Razón no le errata para sorprenderse. Y no la única que no entiende ciertas cosas. Un estudio científico que acaba de ver la luz, afirma que la germanía que la coexistentes Alfa usa en las redes sociales y herramientas de transporte está mutando muy rápido, tanto que hace difícil que los maestros, los padres y los modelos de IA puedan seguir el ritmo para alcanzar comprenderlos.

Y esto trae un problema: potencialmente expone a los jóvenes al acoso y la manipulación ya que ni los adultos de confianza ni los sistemas de seguridad basados ​​en IA serían capaces de detectar que ciertas conversaciones conllevan hostigamiento, como acaban de demostrar, gracias a un estudio intergeneracional.

Los adultos y las IA no entienden a los adolescentes

Concretamente, Manisha Mehta, una estudiante de 14 abriles de una escuela de secundaria en Cupertino, California (donde está la sede central de Apple) y Alegre Giunchiglia de la Universidad de Trento, Italia, recopilaron 100 expresiones y frases populares entre la coexistentes Alfa (las personas nacidas entre 2010 y 2025), de las que usan a menudo en plataformas de juegos, redes sociales y videos.

Luego, la pareja pidió a 24 voluntarios de entre 11 y 14 abriles, que eran compañeros de clase de Mehta, que analizaran las frases. Los voluntarios tenían que sostener si entendían las frases, en qué contexto se utilizaban y si ese uso podía implicar posibles riesgos de seguridad o interpretaciones perjudiciales.

Por otro banda, pidieron a los padres, moderadores profesionales y cuatro modelos de IA (GPT-4, Claude, Gemini y Ardor 3) que hicieran lo mismo.

Entre los voluntarios adolescentes, el 98% comprendió el significado cardinal de los términos, el 96% entendió el contexto en el que se utilizaban y el 92% pudo detectar cuándo se utilizaban para causar daño. Pero los modelos de IA solo reconocieron el uso nocivo en aproximadamente de 4 de cada 10 casos, desde el 32,5% en el caso de Ardor 3 hasta el 42,3% en el caso de Claude.

Los padres y moderadores profesionales lograron mejores resultados, pero no mucho mejor, y detectaron solo aproximadamente de un tercio de los usos dañinos. Los resultados acaban de ser presentados en la Conferencia de la Asociación de Maquinaria Computacional sobre Equidad, Responsabilidad y Transparencia en Atenas, Grecia. Junto a sostener que la IA de Meta fue la que menos comprendió de qué palabra la Gen Alfa.

De acuerdo con el autor del estudio, hay otras investigaciones sobre los adolescentes de hoy que ha mostrado que son reticentes a inquirir ayuda cuando los adultos no comprenden su mundo digital. Según los autores, la investigación proporciona la primera evaluación sistemática de cómo la IA y los sistemas de seguridad interpretan los patrones de comunicación digital propios de la Gen Alfa. 

Imagen | Foto de Amir Hosseini en Unsplash