O modo IA do Google reinventará a Pesquisa. Estou preocupado – e você também deveria estar
O Google está avançando com mais IA no funcionamento da pesquisa na Internet . Lembra-se das visões gerais de IA, que essencialmente resumem o conteúdo extraído de sites e o apresentam no topo da página de pesquisa do Google?
Esse recurso propenso a erros está agora se expandindo para o mercado dos EUA, alimentado pelos novos modelos Gemini 2.0 AI . Não requer mais login com uma conta do Google e está aberto a usuários de todas as faixas etárias. Embora essa seja uma jogada arriscada por si só, o Google está dando um tratamento geral semelhante a toda a página de pesquisa com um novo modo de IA.
Atualmente disponível como um experimento de laboratório, o Modo IA basicamente transforma a experiência tradicional da Pesquisa Google com links de sites em um diálogo conversacional, exatamente como os chatbots de IA fornecem respostas. É uma conveniência deliciosa, mas pode ser dramaticamente errônea, se a história das visões gerais de IA servir de referência.
O que é o modo AI para a Pesquisa Google?
A ideia geral é fornecer aos usuários todas as informações de que precisam – extraídas de sites indexados – e evitar o incômodo de clicar em fontes e ler páginas da web para encontrar as respostas. Você pode fazer consultas de acompanhamento em um formato de linguagem natural, em vez de uma pesquisa repleta de palavras-chave, e até mesmo fornecer detalhes que, de outra forma, exigiriam mais algumas solicitações de pesquisa de acompanhamento.
“Ele usa uma técnica de “query fan-out”, emitindo múltiplas pesquisas relacionadas simultaneamente em subtópicos e múltiplas fontes de dados e, em seguida, reúne esses resultados para fornecer uma resposta fácil de entender”, explica a empresa.
O Google, no entanto, alerta que nem sempre pode acertar no modo IA, embora seus testes internos tenham apresentado resultados encorajadores. Em cenários onde o Modo AI não está confiante sobre a resposta resumida, ele simplesmente mostrará uma lista de resultados de pesquisa na web, como a experiência tradicional da Pesquisa Google.
Em seu avatar atual, ele pode fornecer respostas como uma parede de texto ou tabelas bem formatadas, mas no futuro, imagens e vídeos também serão incluídos. No momento, o modo AI está disponível apenas para assinantes do Google One AI Premium e será implementado como uma experiência opcional.
É um mau presságio para qualquer pessoa que depende da Pesquisa Google, especialmente se estamos falando de precisão. Aqui está um exemplo. Pesquisei se estamos vivendo no ano de 2025. A visão geral da IA do Google disse que é o ano de 2024. A primeira fonte citada para essa informação foi a Wikipedia, que diz explicitamente que o ano atual é 2025.
Uma rica história de riscos
A ideia por trás do Modo AI para Pesquisa Google está teoricamente enraizada na conveniência do usuário. No entanto, a pilha tecnológica fundamental por trás disso ainda está lidando com alguns problemas que todo o cenário da IA ainda precisa resolver. Uma delas são as alucinações de IA, que são essencialmente uma ferramenta de IA que cria informações e as apresenta como um fato com segurança.
As visões gerais de IA do Google são o melhor exemplo desses erros, e os erros continuam a aparecer até hoje. Tomemos por exemplo esta evidência , que foi compartilhada há apenas algumas horas no Reddit, na qual a Visão Geral da IA mentiu com segurança sobre uma regra de direção pelo lado direito na Índia.
Essa é uma afirmação falsa e, ainda assim, em nenhum momento, a linguagem do texto da visão geral da IA sugere que o usuário deva verificar essas informações. “É tão impreciso e cheio de erros que estou surpreso que ele exista”, diz outro relatório detalhando sua absoluta imprecisão.
As visões gerais de IA aparecem apenas como uma porção condensada de informações, veiculadas na parte superior da página da Pesquisa Google. Agora, imagine uma página inteira apresentada aos usuários como uma apresentação longa, com alguns links de fontes intercalados na parede de texto.
O Google afirma que as visões gerais de IA serão excelentes em “codificação, matemática avançada e consultas multimodais”. No entanto, não muito tempo atrás, ele se atrapalhou com os fatos e virou a história de cabeça para baixo, especialmente com o tipo de consultas em linguagem natural que estão sendo promovidas para o modo IA.
Quando questionados se os astronautas encontraram gatos na Lua, o grupo concordou com segurança que era verdade, acrescentando que os astronautas até cuidaram desses gatos lunares. A especialista em alfabetização digital da Virginia Tech, Julia Feerrar, observou que a IA não sabe realmente as respostas às nossas perguntas, citando um exemplo em que a visão geral da IA do Google mencionou com segurança Barack Obama como o primeiro presidente muçulmano.
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) 22 de maio de 2024
As consequências da desinformação sobre IA podem ser desastrosas, especialmente quando se trata de questões relacionadas com saúde e bem-estar. Em uma análise de mais de 30 milhões de páginas de resultados de mecanismos de pesquisa (SERPs), o SerpStat descobriu que a pesquisa relacionada à saúde é a categoria mais popular onde aparecem as visões gerais de IA.
Esta é a mesma ferramenta que sugeriu que uma pessoa deveria comer pelo menos uma pedra por dia, adicionar um oitavo copo de cola à pizza, beber urina para eliminar pedras nos rins e mencionou que um bebê elefante pode caber na palma da mão humana a partir de 2025.
Esta não é a evolução da Pesquisa que procuro
Apesar das afirmações do Google sobre como os modelos de IA evoluíram, a situação não melhorou dramaticamente. Menos de um dia atrás, o Futurism detectou a AI Overviews afirmando com segurança que MJ Lenderman ganhou 14 prêmios Grammy.
Até entendi errado o ano, quando perguntei algo tão simples como “é 2025” na caixa de pesquisa do Google. “Não, atualmente não é o ano de 2025. O ano atual é 2024”, disse a Visão Geral da IA.
Indo um passo além, explicou como 2025 é um ano comum que começa numa quarta-feira, acrescentando um monte de informações não relacionadas discutindo tudo, desde celebrações nacionais até declarações da ONU que não têm absolutamente nada a ver com a minha consulta.
Agora, não sou totalmente contra a IA. Pelo contrário, eu uso extensivamente ferramentas como Gemini Deep Research e muitas vezes confio no mais recente modelo Gemini 2.0 Flash AI para ideias criativas quando minhas células cerebrais não estão disparando na capacidade máxima.
No entanto, levar uma revisão da IA propensa a erros a uma fonte de informação tão indispensável como a Pesquisa Google é uma proposta arriscada. A Digital Trends entrou em contato com o Google e atualizará esta história assim que obtivermos uma resposta.
