El sesgo racista de los filtros de belleza de Instagram y Tik Tok
Levante.- Los filtros de Instagram, Tik Tok, e incluso los que usamos en una videoconferencia, blanquean las pieles del usuario. Incluso las que ya son blancas. Para el «canon de belleza» de estas Inteligencias Artificiales, las «caras embellecidas» son las caras blancas.
Los filtros juegan en contra de la diversidad. Homogeneizan las caras en un mismo canon caucásico. El algoritmo equipara ser blanco con ser bello. Alarga las pestañas, hace los ojos más grandes y elongados, los labios más carnosos, quita las impurezas de la piel, hace la nariz pequeña y los pómulos angulosos. Hace a todos lo mismo, sin diferencias. Sin diversidad.
Esas son algunas de las conclusiones del último estudio de la Fundación Ellis de Alicante, un grupo de especialistas centrado en la investigación ética de la Inteligencia Artificial, enfocada en la relación de las personas y los sistemas inteligentes. Para la investigación se han hecho uso de bases de datos con decenas de miles de caras para ver los efectos que los algoritmos de estos filtros tienen sobre las personas.
Nuria Oliver es Directora Científica de la Fundación Ellis y una de las impulsoras de este estudio junto a Piera Riccio, investigadora que lidera el mismo. El centro está dedicado ahora mismo a estudiar la inteligencia artificial aplicada a las personas para que tenga un impacto social positivo. En él, hay tres líneas de investigación, la primera explora IAs que elaboran modelos de comportamientos humanos, como una ciudad o un país: «la que usamos para predecir el avance de la pandemia es una de ellas», explica Oliver.
La segunda línea de investigación es la IA «con la que interaccionamos» como por ejemplo un chat o las aplicaciones que usamos diariamente. Y la última línea y dentro de la cual se desarrolla este estudio es la «IA en la que confiamos», que explora los retos éticos que plantean las Inteligencias Artificiales.
Vivir dentro del filtro
Las conclusiones del estudio son preocupantes ya que «hay un grupo demográfico que no postea ningún selfie o foto sin un filtro de embellecimiento puesto», explica Oliver. Esto, la homogeneización de las caras y un canon de belleza inalcanzable para el 99 % de la población es el campo de cultivo para algunos trastornos mentales.
«A nivel psicológico esto genera muchos problemas a las personas. El primero es la dismorfia corporal, pero también genera ansiedad, trastornos de conducta alimentaria (TCA), e incluso sabemos de casos de jóvenes que han pasado por el quirófano para tener una cara parecida al filtro de Instagram», denuncia Oliver.
La experta matiza que los filtros de embellecimiento no son malos per se y que de hecho su fundación se centra siempre en buscar el impacto social positivo que la Inteligencia Artificial puede tener para las personas. Que las IA nos sirvan, y no al contrario.
La primera pregunta que se realizaron en el estudio fue la siguiente: «¿Los filtros de Instagram juegan en contra de la diversidad?» Cuando los aplicaron a la base de datos de caras se dieron cuenta de que sí. «Todas crean las mismas similitudes para embellecer esa cara. Socialmente deberíamos preocuparnos por esto, porque está matando la diversidad», explica Oliver.
Otra pregunta que se hicieron es si la IA puede identificarnos tras aplicarnos el filtro, es decir, si nos cambia tanto la cara como para seguir siendo reconocibles. La respuesta fue también que sí, seguimos siendo identificables con el filtro.
Canon de belleza racista
Otra cuestión que se plantearon en el estudio fue: «¿Qué canon de belleza codifica?». Primero, un sesgo racial blanco. Oliver asegura que, para estos algoritmos, las ‘caras embellecidas’ son más blancas. El algoritmo es capaz de detectar la raza de la persona; si es asiática, negra, latina, blanca… Pero «a todas las embellece y blanquea, incluso a las pieles blancas las hace todavía más blancas», cuenta Oliver.
En resumen «el algoritmo equipara ser blanco con ser bello. Y esto tiene connotaciones históricas tremendas que tienen que ver con con el colonialismo», explica.
Pero el filtro no hace solo eso. También alarga las pestañas, hace los ojos más grandes y elongados, los labios carnosos, no crea impurezas en la piel, hace la nariz más pequeña y unos mejores pómulos. Esto, para Oliver, es especialmente interesante porque «la mayoría de filtros los crean los usuarios, y todo el mundo va hacia el mismo canon de belleza», cuenta.
Teniendo todo esto en cuenta, las consecuencias psicológicas son muy difíciles de evitar. «Para una persona es muy difícil abstraerse si la imagen que proyecta en redes es muy distinta a la que le devuelve el espejo. Aunque sepas que eso no es real, es difícil separarte. Aunque sepas que no es así, te comparas. Igualmente sabes que todo el mundo usa filtros, pero tu imagen te genera infelicidad«, remarca Oliver.
Después hay un tema muy relevante. La realidad es que ese contenido, fotos llenas de filtros de embellecimiento, es el que genera más likes en Instagram, y por tanto el que posiciona mejor el algoritmo porque ve que está atrapando más la atención. «Al final las personas buscamos validación externa, y si algo no está embellecido sabes casi seguro que no va a triunfar, por lo tanto ‘no es válido'», remarca Oliver.
