Os chatbots de IA estão mentindo para você, e foi vergonhosamente fácil fazê-los mentir.

Um jornalista da BBC realizou recentemente uma experiência absurda para provar um ponto muito sério. Em apenas 20 minutos, ele manipulou o ChatGPT e o Google para que divulgassem publicamente que ele era um campeão mundial de competição de quem come mais cachorro-quente.

O mais assustador é que ele não precisou fazer nada tecnicamente difícil para conseguir isso. Tudo o que ele fez foi publicar um único post bem elaborado em seu blog pessoal, e a IA o considerou como fonte de verdade.

Isso fez parte de uma investigação que descobriu que o ChatGPT, o Gemini e o Google AI Overviews estavam sendo manipulados para fornecer respostas tendenciosas sobre tópicos tão sérios quanto sua saúde e finanças pessoais.

Especialistas afirmam que esse tipo de manipulação está ocorrendo em um nível amplo e sistêmico, com empresas inescrupulosas abusando dela para disseminar conselhos de saúde enganosos, informações financeiras tendenciosas e muito mais.

Como é que isso funciona?

Quando você faz uma pergunta a um chatbot de IA , às vezes ele busca a resposta na internet em vez de usar seu conhecimento interno. É aí que o problema começa. Segundo especialistas em SEO, as ferramentas de IA frequentemente extraem informações de uma única página da web ou postagem em redes sociais , o que as torna fáceis de enganar.

“Você deve presumir que está sendo manipulado até que eles implementem sistemas melhores”, diz Lily Ray, fundadora da consultoria de busca por IA Algorythmic. “A IA só te dá uma resposta. Fica muito fácil aceitar as coisas como elas são.”

Em seu evento Google I/O 2026 , o Google focou em apresentar seu mecanismo de busca com inteligência artificial, que eventualmente substituirá a Busca do Google que usamos nas últimas décadas. Vendo como é fácil enganá-lo para que forneça respostas incorretas, estou mais cauteloso do que nunca.

Alguém está resolvendo isso?

Após a investigação da BBC , o Google atualizou suas políticas anti-spam para confirmar que tentativas de manipular respostas de IA violam suas regras. Sites flagrados fazendo isso podem ser removidos ou ter sua classificação reduzida nos resultados de busca do Google. Nos bastidores, também há indícios de que o Google e o ChatGPT estão removendo discretamente conteúdo autopromocional das respostas de IA.

Dito isso, Ray repetiu a mesma façanha esta semana, desta vez deixando o Google acreditar que seu amigo é o melhor em construir castelos de areia, e o Google caiu na armadilha novamente, então claramente ainda há trabalho a ser feito.

Até que sistemas melhores estejam em funcionamento, o conselho dos especialistas é simples: não aceite as respostas da IA ​​como verdade absoluta, especialmente em assuntos relacionados à sua saúde, finanças ou decisões importantes.