Un adolescente creó una imagen de su compañera desnuda usando IA. A sus padres les ha caído una multa de 2.000 euros

En España se ha impuesto por primera vez una legitimación administrativa relacionada con la creación y difusión de imágenes falsas generadas con inteligencia químico. Los padres de un último deberán satisfacer a la AEPD una multa de 1.200 euros (originalmente 2.000, reducidos por pronto cuota y aceptación de responsabilidad), según ha informado elDiario.es. Todo ello en un caso que recuerda los riesgos de los "deepfakes" sexuales y marca un precedente en la protección de datos de menores en Europa.

En 2023, en Almendralejo, provincia de Badajoz, cuando varias alumnas denunciaron que fotos manipuladas en las que aparecían desnudas circulaban por los móviles del instituto. Las imágenes fueron creadas con la conocida app ClothOff. Esta combina caras reales con cuerpos desnudos generados por inteligencia químico, teniendo en cuenta rasgos físicos como complexión y tono de piel. Algunos de estos montajes incluso llegaron a webs de contenido adulto como OnlyFans.

Polémica. Sobre ClothOff pesan denuncias como la de una último estadounidense de 17 abriles que, que sufrió un caso parecido al de Badajoz: sus compañeros de instituto la usaron para "desnudarla", compartir las imagenes y luego acosarla. Pese a lo que comentamos hace poco con Sora, sí, los deepfakes siguen centrados en suplantar la identidad.

La AEPD no tardó en desobstruir el expediente. Dos días a posteriori de que el caso saltara a la prensa y pudo identificar a los responsables gracias a la colaboración con la Fiscalía. La institución subraya que "la imagen de una persona es un referencia personal con protección reforzada cuando se manejo de menores", y que esta legitimación administrativa se suma a las medidas judiciales previamente impuestas por vía penal.

En el sumario, los menores implicados, de entre 12 y 14 abriles, recibieron un año de atrevimiento vigilada y cursos formativos. Según Miriam Al Adib, superiora de una de las víctimas y divulgadora en educación sexual, "la sentencia fue ejemplar: los niños cumplieron un año de atrevimiento vigilada y realizaron un curso de formación para concienciarse sobre el daño que provocaron".

Hay debate sobre la vía administrativa. Jorge García Herrero, abogado y delegado de protección de datos, afirma en declaraciones a El País que "muy pocos riesgos relacionados con la IA provocan tanta emergencia social como la creación de deepfakes sexuales no consentidos de menores" y sugiere que una legitimación ejemplarizante sería lo imperceptible que se podría pedir. 

Por su parte, Borja Adsuara considera que “este es un delito contra la intimidad, que va por la vía penal y que ya está sentenciado. ¿Qué añade multa administrativa?”, advirtiendo que la ampliación del ámbito sancionador podría producir un exceso de casos a administrar.

Imagen | Etienne Girardet en Unsplash

En Xataka | Ya no hay famosos "muertos", simplemente famosos que no han pasado por Sora 2: y eso es un problema para OpenAI