Twitter analiza el sesgo racista de su algoritmo

Ahora, un experimento que se ha hecho viral ha vuelto a sacar el tema a la palestra, por el sesgo racista que se ha detectado en el funcionamiento del algoritmo de las fotos. Y es que, al parecer, la herramienta de recorte automático de las fotos ha decidido priorizar las caras blancas sobre las caras negras con demasiada frecuencia.

Varios usuarios de Twitter lo han demostrado durante el fin de semana publicando imágenes que contenían tanto la cara de una persona blanca como la de una persona negra. Las caras blancas aparecían en muchas más ocasiones como vistas previas, incluso cuando las imágenes estaban controladas por tamaño, color de fondo y otras variables que posiblemente podrían estar influyendo en el algoritmo.

Un hilo del usuario Tony Arcieri se ha hecho especialmente viral al demostrar este sesgo racista publicando un tuit con dos fotos, la de ex presidente Barack Obama y la del senador Mitch McConnell. Cuando los dos rostros formaban parte de una misma imagen, el algoritmo de Twitter mostró la vista previa de McConell repetidamente, aun cuando se cambió la disposición de las fotos y otras de sus características.

El tema del sesgo racistas de Twitter empezó a ser tendencia el viernes, después de que un usuario intentara tuitear sobre un problema con el algoritmo de detección de rostros de Zoom. Los sistemas de esta plataforma de videoconferencias no detectaban la cabeza de un usuario de raza negra, y cuando subió capturas de pantalla del problema a Twitter, descubrió que la herramienta de recorte automático de esta red social también mostraba de forma predeterminada su cara en lugar de la de su compañero de trabajo en las imágenes de vista previa.

Al parecer, este sesgo es una novedad para Twitter, o al menos así lo han expresado sus responsables. El director de diseño de la compañía, Dantley Davis, realizó algunos experimentos informales por su cuenta y tuiteó: “Estoy tan irritado por esto como todos los demás”. El responsable de tecnología de la plataforma, Parag Agrawal, también habló del tema en un tuit y reconoció que el algoritmo necesita una “mejora continua” y estaba “ansioso por aprender” de las rigurosas pruebas de los usuarios.

“Nuestro equipo probó el prejuicio antes de enviar el modelo y no encontró evidencia de prejuicio racial o de género en nuestras pruebas. Pero está claro a partir de estos ejemplos que tenemos más análisis que hacer “, asegura la portavoz de Twitter, Liz Kelley, en una publicación. “Abriremos nuestro trabajo para que otros puedan revisar y replicar”