Investigação revela que o YouTube está exibindo conteúdo de IA sem sentido para crianças pequenas e pré-escolares.

Uma nova investigação do The New York Times revela a rapidez com que o YouTube inunda os feeds com vídeos bizarros gerados por IA, direcionados ao público mais jovem. Após um único vídeo da CoComelon, mais de 40% dos vídeos curtos recomendados em uma sessão de 15 minutos continham imagens sintéticas.

O algoritmo exibe conteúdo de canais que afirmam ensinar crianças pequenas sobre o alfabeto e os animais. Mas os vídeos em si são frequentemente absurdos, apresentando rostos distorcidos, partes do corpo extras e textos ininteligíveis. Nenhum deles tem mais de 30 segundos.

Especialistas afirmam que esse formato não deixa espaço para repetição ou estrutura narrativa, ambos essenciais para que crianças pequenas aprendam com a mídia. Mesmo assim, os vídeos alcançam milhões de visualizações.

Criadores, muitos operando anonimamente, transformaram ferramentas de IA em uma fonte de renda confiável. A barreira de entrada é baixa, o retorno é alto e o fluxo de pedidos é constante.

O algoritmo prioriza a quantidade em detrimento da qualidade.

Os repórteres realizaram a análise ao longo de várias semanas, assistindo a canais populares como CoComelon e Ms. Rachel em uma janela anônima do navegador. Em seguida, eles percorreram os vídeos curtos recomendados do YouTube em intervalos de 15 minutos para ver o que surgia.

Em uma sessão após a exibição de um vídeo de "As Rodas do Ônibus", mais de 40% das recomendações apresentaram indícios de geração por IA . Alguns vídeos continham o próprio rótulo do YouTube de "conteúdo alterado ou sintético". Outros exigiram a confirmação por um detector de IA, pois os elementos visuais eram tão perfeitos que escapavam à detecção por um usuário comum.

Os mesmos vídeos e canais apareceram repetidamente em várias sessões. Isso sugere que o algoritmo impulsiona ativamente esse conteúdo em vez de filtrá-lo. Muitas contas produzem esses vídeos várias vezes ao dia, otimizados para obter o máximo de visualizações com o mínimo esforço.

Por dentro da economia dos criadores que alimenta o feed

Muitas das contas do YouTube que produzem conteúdo infantil gerado por IA operam anonimamente. Elas não listam informações de contato e oferecem poucos detalhes identificáveis ​​sobre quem as administra. A barreira de entrada é notavelmente baixa.

Os criadores aprendem sozinhos usando ferramentas facilmente acessíveis, como o Whisk e o Runway do Google, muitas vezes seguindo tutoriais online. Alguns canais se apresentam como educativos, com animais animados e músicas para cantar junto, criados para atrair pais que buscam conteúdo de aprendizagem para crianças pequenas.

O incentivo financeiro impulsiona a produção acelerada. Um vídeo de Halloween com animais assustadores acumulou mais de 370 milhões de visualizações. As contas publicam vários vídeos por dia, otimizados para alcançar o máximo alcance com o mínimo esforço. A fórmula funciona: chamar a atenção rapidamente, manter o vídeo curto e deixar o algoritmo cuidar da distribuição.

O YouTube reage, mas os pais ficam responsáveis ​​por monitorar o conteúdo.

Depois que o Times compartilhou exemplos com o YouTube e solicitou um posicionamento, a plataforma suspendeu os cinco canais citados de seu Programa de Parcerias. Essas contas não podem mais gerar receita com anúncios nem aparecer no YouTube Kids. A empresa também removeu três vídeos hiper-realistas do aplicativo infantil e retirou um vídeo do ar por violar as políticas de segurança infantil.

Mas a resposta foi reativa, não proativa. O YouTube exige que os criadores divulguem o conteúdo realista gerado por IA, mas essa regra não se aplica a vídeos animados para crianças. Assim, o ônus recai sobre os pais, uma tarefa que até mesmo os especialistas consideram assustadora à medida que as ferramentas melhoram.

Algumas famílias agora criam suas próprias listas de reprodução com conteúdo selecionado ou removem o aplicativo completamente. A Academia Americana de Pediatria aconselha os pais a evitarem conteúdo gerado por inteligência artificial ou altamente sensacionalista. Identificá-lo continua sendo a parte difícil.

A publicação "Investigação revela que o YouTube está exibindo conteúdo de IA sem sentido para crianças pequenas e pré-escolares" apareceu primeiro em Digital Trends .