Um número preocupantemente alto de adolescentes admite usar IA para criar imagens sexualizadas.

O CEO da OpenAI, Sam Altman, está pressionando para lançar uma "versão adulta" do ChatGPT , enquanto Elon Musk defende que o Grok possa gerar conteúdo impróprio para menores. Se você ainda não está preocupado com a ideia de permitir que a IA crie conteúdo adulto , talvez esta nova pesquisa mude sua opinião.

Mais da metade dos adolescentes americanos já usaram ferramentas de IA para gerar imagens de si mesmos ou de outras pessoas nuas, de acordo com um novo estudo publicado na revista de acesso aberto PLOS ONE por Chad Steel, da Universidade George Mason.

A pesquisa coletou respostas de 557 residentes dos EUA que falam inglês, com idades entre 13 e 17 anos. A pesquisa foi anônima e realizada com o consentimento dos pais.

O que o estudo descobriu?

Os resultados são difíceis de aceitar. 55,3% dos adolescentes entrevistados relataram ter usado ferramentas de nudismo para criar pelo menos uma imagem de si mesmos ou de outras pessoas. 54,4% disseram ter recebido imagens de nudez geradas por inteligência artificial.

Mais preocupante ainda, 36,3% relataram que uma imagem sexualizada de si mesmos gerada por IA foi criada por outra pessoa sem o seu consentimento, e 33,2% disseram que essas imagens foram compartilhadas sem a sua permissão.

Os resultados foram em grande parte consistentes em diferentes grupos demográficos. No entanto, os participantes do sexo masculino relataram taxas mais altas de criação e distribuição dessas imagens, tanto consensual quanto não consensual.

Por que isso é motivo de grande preocupação?

As pessoas trocam fotos íntimas desde o surgimento dos smartphones. No entanto, isso requer a participação voluntária. As ferramentas de IA para criação de imagens íntimas não. Qualquer pessoa com uma foto sua e acesso a um desses aplicativos pode criar uma imagem íntima falsa sem o seu conhecimento ou consentimento.

As vítimas desse tipo de abuso sofrem consequências semelhantes às de outras formas de exploração sexual infantil, incluindo um sentimento de desumanização e uma ruptura duradoura em suas vidas.

Steel resume bem a situação: “Os adolescentes não são mais apenas nativos digitais, mas nativos da IA. 'Nudificação' e aplicativos de IA de última geração são o novo 'sexting' deles, só que com questões mais complexas em torno do consentimento.”

A expectativa é que descobertas como essas incentivem legisladores e educadores a agir antes que o problema se torne ainda mais difícil de resolver.

O artigo "Um número preocupantemente alto de adolescentes admite usar IA para criar imagens sexualizadas" foi publicado originalmente no Digital Trends .