Una artista lleva un año exponiendo su pezón en Instagram. Los algoritmos han mostrado muy pocas luces

Si tienes una cuenta de Instagram cerca de la posibilidad de que el operación de la red social te haya censurado alguna imagen, si adicionalmente te identifica como mujer, tienes más números. Han pasado más de cinco abriles desde que el New York Times lanzara un editorial sin “carácter” de dudas bajo el título de: “¿liberará algún día al pezón Instagram?”, y hoy seguimos sin conocer exactamente qué mueve a su IA para ponerle una cruz a la organismo humana. El experimento de una comediante en su transición de carácter podría ser la pista definitiva, o quizás poco mucho peor, ¿son homófobos los algoritmos, es aseverar, los que los entrenan?

La intrahistoria. Ocurrió en el año 2013, cuando el movimiento Free the Nipple (liberar el pezón) comenzó a aventajar fuerza apoyado por celebridades y activistas que cuestionaban la sexualización de los pezones femeninos en plataformas como Facebook. En 2015, la artista Micol Hebron creó "stickers" de pezones masculinos para que las mujeres pudieran usarlos en sus fotos como una forma de protesta y de evidenciar la disparidad de carácter. Hebron, quien luego visitó la sede de Instagram en 2019, observó que no había personal trans en el equipo de moderación de contenidos de Meta, lo cual consideró una muestra inequívoca de la falta de diversidad y comprensión en la política de la empresa.

Las críticas llevaron el año pasado a Meta, la empresa matriz de Facebook e Instagram, a revisar su política de censura de pechos desnudos, tras una recomendación de su Junta de Supervisión. La sugerencia llegó a posteriori de que la plataforma eliminara publicaciones de una pareja transgénero y no binaria que mostraba sus torsos desnudos con los pezones cubiertos, promoviendo la atención médica trans y recaudando fondos para una cirugía de reasignación de carácter. Las publicaciones, eliminadas inicialmente por el sistema de IA de Meta, se restauraron después de una apelación.

Impacto de una visión “fabricado”. En aquel entonces, la Unión de Supervisión de Meta encontró que la política flagrante se basaba en una visión binaria de género, creando confusión al distinguir entre cuerpos masculinos y femeninos en casos de personas intersexuales, no binarias o trans. Dicha recomendación pedía a Meta que establezca criterios objetivos y que respeten los derechos humanos internacionales para moderar la desnudez, de forma que no penalice injustamente a usuarios trans o no conformes con el carácter.

Y entonces, hace varios meses, apareció la figura de la comediante Ada Ada Ada, quién ha aplicado para documentar su transición de carácter subiendo autorretratos semanales en Instagram. De fondo: explorar los límites de los sistemas de moderación en redes sociales mediante su proyecto In Transitu.

Sumario del trabajo de la comediante en Instagram

Existencias algorítmico. En 2023, Instagram eliminó una de las fotos de la artista por violar las normas de desnudez, marcando la primera vez que la plataforma clasificaba sus pezones como "femeninos" y, luego, inaceptables. Ada pensaba poco dialéctico: Instagram permite el torso desnudo de hombres, pero las mujeres solo pueden mostrarlo si no se ven los pezones, lo que implica que la percepción del carácter define lo que es "desnudez".

Este fue precisamente el hecho que llevó a la comediante a cuestionar las reglas binarias y la método detrás de la moderación algorítmica. ¿Qué hizo? Se puso a rastrear meticulosamente cuáles de sus imágenes eran eliminadas.

Evidencias y resultados recopilados. Ada ha explicado en 404 que observó claramente cómo Instagram eliminó más imágenes conforme avanzaba su transición de carácter. En algunos casos, las posturas o prendas en sus fotos podrían sobrevenir sido interpretadas como “femeninas” o “sexuales”. Sin requisa, en otras, las fotos con características similares no se eliminaban.

Encima, la comediante incluso ha documentado la disparidad con la que ocurre todo de forma aleatoria, ya que los algoritmos de carácter a veces la clasifican como hombre y otras como mujer, destacando “la naturaleza inconstante y culturalmente influenciada de estas tecnologías”.

Críticas a los algoritmos de clasificación de carácter. En este punto, son varios los expertos que han criticado los algoritmos de reconocimiento de género (AGR), principalmente por ser especialmente dañinos para personas transgénero. A este respecto, Os Keyes, investigador de la Universidad de Washington, señalaba que intentar identificar el carácter a partir de la apariencia física perpetúa normas de género limitantes y daña a quienes no se ajustan a esos estándares.

Ada Ada Ada incluso descubrió que los algoritmos pueden variar en sus resultados semanalmente y que incluso existen discrepancias culturales: por ejemplo, Face++, un operación chino, tiene una interpretación diferente en comparación con otros. Y hay más. La comediante subraya que a pesar de que Microsoft anunció en 2022 que retiraría su clasificador de género tras varias críticas, pudo seguir usándolo hasta que un error permitió a algunos usuarios conservar el ataque.

Políticas y moderación. En teoría, Instagram prohíbe la desnudez, pero permite ciertas excepciones. A conocer: la lactación, mastectomía o tipos de protesta. Sin requisa, la comediante señala que en la destreza estas políticas afectan de forma desigual a personas transgénero, educadores sexuales y creadores de contenido que intentan seguir las normas, mientras que contenido no consensuado sí puede eludir el sistema. Esta inconsistencia, señala, genera una gran dificultad para que las personas que no se ajustan a la visión binaria tradicional de carácter naveguen en la plataforma.

De fondo, el trabajo de la comediante es sumamente interesante por los interrogantes que abre acerca del futuro y cómo se entrena(rá) a los algoritmos en temas como las minorías de género (o minorías, sin más), o de si en realidad la automatización, al menos la flagrante, acaba penalizando a los grupos más pequeños, sean cuales sean. 

En el caso que nos ocupa, el trabajo de Ada parece dejar meridianamente claro que actualmente  se da una moderación arbitraria en Instagram, es aseverar, una limitación de los sistemas a la hora de adaptarse a la disparidad de expresiones de carácter.

Imagen | PXHere

En Genbeta | Twitch banea a Prime Video: la historia de cómo el miedo a un pezón provocó que Amazon censurase a Amazon

En Genbeta | Instagram censura los pezones femeninos pero permite las peleas de gallos