Um relatório condenatório revela que as lojas de aplicativos da Apple e do Google estão impulsionando aplicativos de incentivo à gravidez.
Se você achava que a Apple e o Google apenas demoravam para detectar aplicativos nocivos em suas plataformas, uma nova investigação sugere que o problema é muito pior. O Tech Transparency Project (TTP) descobriu que tanto a App Store quanto o Google Play não apenas hospedam aplicativos de publicidade enganosa , como seus sistemas de busca e publicidade direcionam ativamente os usuários para eles.
Os aplicativos Nudify são ferramentas de IA que podem remover digitalmente as roupas de fotos de pessoas reais. Eles também podem gerar vídeos pornográficos ou criar chatbots sexualmente explícitos usando a imagem de alguém. O que assusta? 31 dos aplicativos encontrados pela TTP foram classificados como adequados para menores.
Como a Apple e o Google estão direcionando os usuários diretamente para esses aplicativos de incentivo à publicidade
A TTP realizou buscas usando termos como "nudificar", "despir", "deepfake" e "IA NSFW" em ambas as lojas de aplicativos. Cerca de 40% dos 10 primeiros resultados para cada termo retornavam aplicativos que podiam renderizar mulheres nuas ou com pouca roupa. Mas não para por aí. Ambas as plataformas exibiam anúncios pagos de aplicativos de nudismo nesses resultados. No caso do Google, isso incluía um carrossel de aplicativos patrocinados, alguns dos quais eram abertamente pornográficos.
O recurso de preenchimento automático piorou as coisas. Quando TTP digitou “AI NS” no campo de busca da App Store, a sugestão foi “image to video ai nsfw”, o que levou a mais aplicativos de conteúdo adulto nos primeiros resultados. A Apple controla toda a publicidade em sua App Store e tem uma política declarada contra anúncios que promovem conteúdo adulto. Apesar disso, 3 das buscas de TTP na App Store ainda retornaram um anúncio de conteúdo adulto como o primeiro resultado.
Por que isso é um problema maior do que você imagina.
Os aplicativos identificados em ambas as lojas foram baixados 483 milhões de vezes e geraram mais de US$ 122 milhões em receita acumulada. A Apple e o Google ficam com uma parte desse valor por meio de assinaturas pagas e compras dentro dos aplicativos, o que, segundo a TTP, pode explicar a fiscalização frouxa.
Após a TTP e a Bloomberg denunciarem esses aplicativos, a Apple removeu 15 deles e o Google suspendeu vários outros. No entanto, ambas as empresas se recusaram a explicar como esses aplicativos passaram pela revisão ou por que as classificações etárias permitiam que menores os baixassem.
Quanto tempo até que a Apple e o Google sejam forçados a agir?
O governo do Reino Unido começou a propor e promulgar leis contra deepfakes explícitos, e os EUA registraram recentemente sua primeira condenação criminal sob uma dessas leis . A pressão sobre a Apple e o Google para que ajam de forma mais decisiva só tende a aumentar.
O próprio histórico da Apple em relação à aplicação de políticas já está sob escrutínio. Uma carta obtida pela NBC News revelou que a Apple ameaçou, em janeiro, remover o Grok da App Store devido a deepfakes com conteúdo sexualizado, chegando a rejeitar a primeira solução da xAI por considerá-la insuficiente. A Apple acabou permitindo que o Grok permanecesse na App Store, mas com relatos como este se acumulando, ambas as empresas estão ficando sem espaço para ignorar o problema.
