Novidade que vem por aí

A Rede Click vai trazer muitas novidades. Você vai poder enviar notícias através do VCnoClick, anunciar gratuitamente seus produtos e serviços no Click Classificados e concorrer a prêmios com o Click Vantagens.

Deixe seu contato e seja um dos primeiros a ser avisado quando a Rede Click entrar no ar!

Por favor insira um e-mail válido
Contato registrado com sucesso!

Tecnologia

Editoria sobre Tecnologia ir para editoria →

Tecnologia

Algoritmo de corte de foto do Twitter funciona melhor com rostos jovens e de pele clara, demonstra pesquisador

Estudante ganhou prêmio de US$ 3.500 da rede social em competição que examinou viés. Ferramenta foi criticada por fazer recortes incorretos em imagens com pessoas negras.

À esquerda, a linha do tempo que corta a as imagens. À direita, a visualização da linha do tempo com o novo teste do Twitter. (Foto: Reprodução/Twitter)

Por

O algoritmo de recortes de imagens do Twitter tem tendência a priorizar rostos jovens, magros e de pele clara, demonstrou um pesquisador da Escola Politécnica Federal de Lausana, na Suíça.

Bogdan Kulynych foi o vencedor de uma competição promovida pelo próprio Twitter para examinar vieses e danos causados por seus sistemas automatizados. Como recompensa, ele recebeu US$ 3.500.

A pesquisa dele mostrou que o sistema da rede social favorece rostos que são "fino, jovens, de cor de pele clara ou cálida e textura de pele suave, e com traços faciais de estereótipos femininos".

Para chegar a essa conclusão, Kulynych usou um programa de inteligência artificial chamado StyleGAN2 para gerar imagens aleatórias de rostos com características realistas. Depois, foram feitos ajustes na cor da pele e atributos que tornassem o modelo masculino ou feminino.

Algumas das imagens geradas por inteligência artificial que foram testadas pelo pesquisador — Foto: Bogdan Kulynych via GitHub

As imagens foram testadas no algoritmo do Twitter, que possui uma pontuação de "saliência" para decidir qual será o objeto de destaque.

"Esse viés poderia resultar na exclusão de populações minoritárias e perpetuação de padrões estereotipados de beleza em milhares de imagens", disse o pesquisador.
A rede social já havia reconhecido que havia um problema na ferramenta que fazia recortes automáticos nas imagens para que elas coubessem no feed do aplicativo da rede social e disse ter deixado de usá-lo.

As críticas começaram depois que usuários fizeram testes ao publicarem imagens com uma pessoa negra em uma ponta e uma pessoa branca na outra, invertendo a ordem em uma foto seguinte.

Antes de abrir a imagem completa, o algoritmo do Twitter mostrava a pessoa branca com mais frequência.

Outros vieses

Outros três projetos de pesquisa foram premiados na competição do Twitter:

  • o 2º colocado demonstrou que o sistema costumava ignorar pessoas com cabelos brancos ou grisalhos, sugerindo um viés com idade;
  • o 3º colocado detectou que a ferramenta favorecia imagens que continham texto em inglês, com alfabeto latino, na comparação com alfabeto árabe;
  • o prêmio para o projeto mais inovador mostrou que o algoritmo também favorecia emojis com tons de pele mais claro em relação às figuras que representavam pessoas de pele escura.

Em seu perfil no Twitter, o vencedor do prêmio disse que "os danos dos algoritmos não são apenas 'bugs'" ou "erros involuntários". Para ele, há um problema na concepção dos projetos.

"Isso parte da maximização do engajamento e, no geral, do lucro que transfere os custos para os outros", escreveu Kulynych.

Patrick Hall, pesquisador de inteligência artificial e um dos integrantes do júri da competição, afirmou que os vieses existem em todos os sistemas de inteligência artificial e que as empresas precisam trabalhar de forma ativa para encontrá-los.

Esse tipo de problema não acontece somente nas redes sociais. O uso de algoritmos e inteligências artificiais pelo poder público, principalmente na área de segurança, gera preocupações entre especialistas.

Muitos deles apontam que há menor precisão em pessoas negras e de origem asiática em sistemas de reconhecimento facial, por exemplo.

Compartilhe:

Comentários (0)

Comentar

Destaque

ir para editoria →

Conheça o 'kart voador' de R$ 520.000; cliente do Brasil é um dos compradores do veículo elétrico

Arqueólogos descobrem sinais de meteorito que pode ter originado história de Sodoma e Gomorra

Meteoro explode sobre a fronteira do Rio Grande do Sul com o Uruguai

iPhone 13: Apple começa pré-venda no Brasil; veja os preços