Os usuários do Twitter descobrem um potencial preconceito racial no algoritmo de colheita automática

O Twitter está tentando determinar por que seu recurso de visualização de fotos mostra sinais de preconceito racial. Vários usuários descobriram que rostos pretos tinham maior probabilidade de serem cortados nas visualizações de fotos em comparação com rostos brancos.

Quando você vê uma imagem no Twitter, é apenas uma prévia – você precisa clicar nela para ver a imagem inteira. O Twitter usa um algoritmo para cortar fotos, ditando o que você verá nas visualizações das imagens.

Em 2018, o Twitter anunciou seu recurso de corte automático inteligente em um post no Twitter Blog . Esse recurso usa "destaque" para aprimorar as partes mais proeminentes das fotos e, em seguida, recorta as visualizações das fotos de acordo.

Os usuários do Twitter descobriram que a rede neural da plataforma pode ter um viés racial. Um usuário postou uma foto do senador americano Mitch McConnell ao lado do ex-presidente Barack Obama.

A pré-visualização da imagem recorta o rosto de Obama de forma flagrante, mesmo quando seu rosto está posicionado no topo da foto. Quando o mesmo usuário tentou inverter as cores da imagem, o rosto de Obama finalmente apareceu na visualização da imagem.

Outros usuários começaram a conduzir seus próprios experimentos. Repetidamente, os usuários descobriram que o algoritmo parecia preferir consistentemente rostos brancos em vez de rostos negros.

Liz Kelley, membro da equipe de comunicação do Twitter, enviou um tweet em resposta às descobertas dos usuários do Twitter. Ela observou que, embora a equipe do Twitter já tenha testado o algoritmo para verificar se há preconceito, ela terá que investigar mais.

Todas essas descobertas resultaram de um tweet de um usuário sobre um problema de chamada do Zoom . O zoom falhou continuamente em detectar o rosto de seu amigo negro quando ele tentou usar um plano de fundo virtual. Quando o usuário recorreu ao Twitter para postar capturas de tela do problema, o Twitter cortou seu amigo negro da visualização da imagem.

Embora todos esses experimentos sejam informais, eles parecem destacar um problema real. O Twitter definitivamente terá que olhar mais de perto seu recurso de corte automático e ver se ele tem um preconceito racial arraigado.

Dito isso, o algoritmo de recorte automático do Twitter não é o único recurso do Twitter que foi criticado. Afinal, muitos usuários também não são fãs do algoritmo da plataforma que organiza automaticamente seu feed.