Una Inteligencia Artificial racista: la IA de Facebook confundía a las personas negras con simios
Sport.- Las Inteligencias Artificiales no son racistas. Al fin y al cabo son máquinas que no pueden tener este tipo de pensamientos. No obstante, vivimos en un mundo racista, lo que causa que sean programadas con sesgos insalvables que causan desviaciones que si resultan ser racistas.
En este caso, Facebook tuvo que disculparse después de que su inteligencia artificial colocara una etiqueta atroz en un video de hombres negros. Según Engadget, los usuarios que recientemente vieron un video publicado por Daily Mail en el que aparecían hombres negros vieron un mensaje que les preguntaba si les gustaría «seguir viendo videos sobre primates». La red social se disculpó por el «error inaceptable» en un comunicado enviado a la publicación. También deshabilitó la función de recomendación que era responsable del mensaje.
La portavoz de la compañía, Dani Lever, dijo en un comunicado: «Como hemos dicho, aunque hemos realizado mejoras en nuestra inteligencia artificial, sabemos que no es perfecta y tenemos más avances que hacer. Pedimos disculpas a todos los que hayan visto estas recomendaciones ofensivas». »
El sesgo de género y racial en la inteligencia artificial no es un problema exclusivo de la red social: las tecnologías de reconocimiento facial aún están lejos de ser perfectas y tienden a identificar erróneamente a las minorías y a las mujeres en general. El año pasado, las coincidencias de reconocimiento facial falsas llevaron al arresto injusto de dos hombres negros en Detroit. En 2015, Google Photos etiquetó las fotos de personas negras como «gorilas», y Wired descubrió unos años más tarde que la solución del gigante tecnológico era censurar la palabra «gorila» de las búsquedas y las etiquetas de imágenes.
