A través de un estudio, la compañía reconoció la semana pasada que el algoritmo de recorte de imágenes de Twitter tiene un “sesgo problemático” que lleva a la exclusión de personas negras y a hombres. La investigación se hizo luego de que llegaran varias críticas de usuarios sobre imágenes en publicaciones que excluyen los rostros de personas de color.
El informe encontró una diferencia del 8% con respecto a la paridad demográfica a favor de las mujeres y un 4% a favor de las personas blancas. El documento citó varias razones posibles, incluidos problemas con los fondos de las imágenes y el color de los ojos, pero dijo que ninguna era una excusa.
“El recorte de la imagen basado en el aprendizaje automático es defectuoso porque elimina la voluntad del usuario y restringe la expresión de su propia identidad y valores. A cambio, impone una mirada normativa sobre qué parte de la imagen se considera más interesante”, escribieron investigadores que realizaron el estudio. Para contrarrestar el problema, Twitter comenzó a mostrar fotos de aspecto estándar en su totalidad, sin ningún recorte, en sus aplicaciones móviles; y está tratando de expandir ese esfuerzo.
Los hallazgos son otro ejemplo del impacto dispar de los sistemas de inteligencia artificial, incluidos los sesgos demográficos identificados en el reconocimiento facial y el análisis de texto, señaló el documento. De hecho, un trabajo de investigadores de Microsoft Corp, el Instituto de Tecnología de Massachusetts en 2018 y un estudio posterior del gobierno de Estados Unidos encontraron que los sistemas de análisis facial identifican erróneamente a las personas de color con más frecuencia que a las personas blancas.