Algoritmo do Twitter funciona melhor com rostos jovens e de pele clara, mostra pesquisador
O algoritmo de recortes de imagens do Twitter tem tendência a priorizar rostos jovens, magros e de pele clara, demonstrou um pesquisador da Escola Politécnica Federal de Lausana, na Suíça.
Bogdan Kulynych foi o vencedor de uma competição promovida pelo próprio Twitter para examinar vieses e danos causados por seus sistemas automatizados. Como recompensa, ele recebeu US$ 3.500.
A pesquisa dele mostrou que o sistema da rede social favorece rostos que são “fino, jovens, de cor de pele clara ou cálida e textura de pele suave, e com traços faciais de estereótipos femininos”.
Para chegar a essa conclusão, Kulynych usou um programa de inteligência artificial chamado StyleGAN2 para gerar imagens aleatórias de rostos com características realistas. Depois, foram feitos ajustes na cor da pele e atributos que tornassem o modelo masculino ou feminino.
As imagens foram testadas no algoritmo do Twitter, que possui uma pontuação de “saliência” para decidir qual será o objeto de destaque.
“Esse viés poderia resultar na exclusão de populações minoritárias e perpetuação de padrões estereotipados de beleza em milhares de imagens”, disse o pesquisador.
A rede social já havia reconhecido que havia um problema na ferramenta que fazia recortes automáticos nas imagens para que elas coubessem no feed do aplicativo da rede social e disse ter deixado de usá-lo.
As críticas começaram depois que usuários fizeram testes ao publicarem imagens com uma pessoa negra em uma ponta e uma pessoa branca na outra, invertendo a ordem em uma foto seguinte.
Antes de abrir a imagem completa, o algoritmo do Twitter mostrava a pessoa branca com mais frequência.
O algoritmo de recortes de imagens do Twitter tem tendência a priorizar rostos jovens, magros e de pele clara, demonstrou um pesquisador da Escola Politécnica Federal de Lausana, na Suíça.
Bogdan Kulynych foi o vencedor de uma competição promovida pelo próprio Twitter para examinar vieses e danos causados por seus sistemas automatizados. Como recompensa, ele recebeu US$ 3.500.
A pesquisa dele mostrou que o sistema da rede social favorece rostos que são “fino, jovens, de cor de pele clara ou cálida e textura de pele suave, e com traços faciais de estereótipos femininos”.
Para chegar a essa conclusão, Kulynych usou um programa de inteligência artificial chamado StyleGAN2 para gerar imagens aleatórias de rostos com características realistas. Depois, foram feitos ajustes na cor da pele e atributos que tornassem o modelo masculino ou feminino.
As imagens foram testadas no algoritmo do Twitter, que possui uma pontuação de “saliência” para decidir qual será o objeto de destaque.
“Esse viés poderia resultar na exclusão de populações minoritárias e perpetuação de padrões estereotipados de beleza em milhares de imagens”, disse o pesquisador.
A rede social já havia reconhecido que havia um problema na ferramenta que fazia recortes automáticos nas imagens para que elas coubessem no feed do aplicativo da rede social e disse ter deixado de usá-lo.
As críticas começaram depois que usuários fizeram testes ao publicarem imagens com uma pessoa negra em uma ponta e uma pessoa branca na outra, invertendo a ordem em uma foto seguinte.
Antes de abrir a imagem completa, o algoritmo do Twitter mostrava a pessoa branca com mais frequência.
