Geradores de imagens de IA parecem propagar estereótipos de gênero e raça

gurinho

Especialistas afirmam que geradores populares de imagens de IA, como Stable Diffusion , não são tão adeptos de identificar preconceitos culturais e de gênero ao usar algoritmos de aprendizado de máquina para criar arte.

Muitos geradores de texto para arte permitem que você insira frases e crie uma imagem exclusiva na outra extremidade. No entanto, esses geradores geralmente podem ser baseados em vieses estereotipados, o que pode afetar a forma como os modelos de aprendizado de máquina fabricam imagens.

Qual é a diferença entre esses dois grupos de pessoas? Bem, de acordo com a Stable Diffusion, o primeiro grupo representa um 'CEO ambicioso' e o segundo um 'CEO de apoio'.
Eu fiz uma ferramenta simples para explorar preconceitos enraizados neste modelo: https://t.co/l4lqt7rTQj pic.twitter.com/xYKA8w3N8N

— Dr. Sasha Luccioni ✨ (@SashaMTL) 31 de outubro de 2022

Sasha Luccioni, pesquisadora de inteligência artificial da Hugging Face, criou uma ferramenta que demonstra como o viés da IA ​​em geradores de texto para arte funciona em ação. Usando o Stable Diffusion Explorer como exemplo, inserir a frase “CEO ambicioso” gerou resultados para diferentes tipos de homens, enquanto a frase “CEO solidário” deu resultados que mostraram homens e mulheres.

Da mesma forma, o gerador DALL-E 2 , que foi criado pela marca OpenAI, mostrou vieses masculinos para o termo “construtor” e femininos para o termo “comissária de bordo” nos resultados de imagem, apesar de haver mulheres construtoras e comissários de bordo do sexo masculino.

Embora muitos geradores de imagens de IA pareçam levar apenas algumas palavras e aprendizado de máquina e exibir uma imagem, há muito mais acontecendo em segundo plano. Stable Diffusion, por exemplo, usa o conjunto de imagens LAION, que hospeda “bilhões de fotos, fotos e muito mais da internet, incluindo hospedagem de imagens e sites de arte”, observou o Gizmodo.

O viés racial e cultural nas pesquisas de imagens online já era um tópico em andamento muito antes da crescente popularidade dos geradores de imagens de IA. Luccioni disse à publicação que sistemas, como o conjunto de dados LAION, provavelmente concentram 90% das imagens relacionadas a um prompt e o usam para o gerador de imagens.