A IA do Google pode levar você a números de suporte fraudulentos na Pesquisa

Nos últimos meses, nos deparamos com inúmeros casos em que ferramentas sofisticadas de IA foram usadas para duplicar a voz de uma pessoa e induzi-la a golpes financeiros . Especialistas também alertaram que a IA está abrindo novos caminhos para fraudes online.

Parece que as visões gerais da IA do Google e os resultados do Modo IA podem, sem que você perceba, envolvê-lo em uma armadilha semelhante. O proprietário de uma imobiliária relatou recentemente que encontrou um número de telefone ao pesquisar o número de atendimento ao cliente da Royal Caribbean. O número encontrado na seção "Visões gerais da IA do Google", no topo da página de busca, não era real e sim administrado por um golpista.

"Estou compartilhando isso como um anúncio de serviço público. Com resultados gerados por IA e números falsificados, o jogo mudou", disse Alex Rivlin, proprietário da empresa, em uma publicação no Facebook. Ele acrescentou que conseguiu escapar no último momento, mas não antes de já ter fornecido os dados do seu cartão de crédito ao criminoso.

Outro relatório menciona um número de suporte falso semelhante vinculado à Southwest Airlines. O número que aparece na Visão Geral da IA do Google não aparece no site da Southwest Airlines e, aparentemente, é manipulado por fraudadores que tentam cobrar centenas de dólares para corrigir um nome incorreto nas passagens.

Por que é arriscado buscar números de linhas de ajuda com IA?

No Reddit, encontrei um relato detalhando o relato de um indivíduo que também esteve à beira de ser enganado após pesquisar o número de contato de suporte ao cliente de um serviço de entrega de comida na Busca Google. O golpe já enganou muita gente, e um homem de 65 anos perdeu recentemente mais de três mil dólares após pesquisar "call center Swiggy" na Busca Google.

Para testar se os problemas persistem, pesquisei "número de atendimento ao cliente da Swiggy" e mudei para o novo Modo de IA do Google. É aí que começa a confusão. O site da Swiggy menciona claramente que eles "não possuem linhas telefônicas oficiais de atendimento ao cliente. Cuidado com números falsos". O modo de IA do Google diz que a Swiggy "principalmente" encaminha os usuários para resolver o problema dentro dos aplicativos. Abaixo, acrescenta que "algumas fontes mencionam esses números como opções de contato do Atendimento ao Cliente da Swiggy".

Isso, por si só, é confuso e enganoso. Um dos números é apenas para integração de parceiros, e não para "atendimento ao cliente", que era a consulta original. Além disso, os outros dois números não aparecem em nenhum diretório oficial da Swiggy. Ademais, um desses números aparece até mesmo em uma denúncia registrada por um cliente enganado no site da organização sem fins lucrativos ConsumerComplaintsCourt.

Como proceder com segurança?

Este não é um problema único. Já faz algum tempo que os resultados da Pesquisa Google têm sido inundados por números falsos disfarçados de linhas de atendimento ao cliente, à espreita para aplicar um golpe em usuários desavisados. Mas com o advento de ferramentas de IA na Pesquisa, como o AI Overviews e o Google AI Mode, os riscos se multiplicaram.

“Golpistas descobriram que podem inundar sites e fóruns de conteúdo gerados por usuários com números de telefone falsos de grandes empresas e, em seguida, enganar os chamadores para que compartilhem suas informações de cartão de crédito”, escreveu Lily Ray, vice-presidente de estratégia e pesquisa de SEO da Amsive, no LinkedIn .

Especialistas da Odin e da ITBrew também destacaram como hackers podem escrever um "comando para que a Gemini inclua a mensagem e seu número falso de contato de suporte técnico em sua resposta resumida". O Google, ao que parece, está ciente do problema.

O Google informou ao The Washington Post que continua removendo entradas não confiáveis do AI Overviews. Enquanto isso, como usuário médio da internet, o melhor conselho que posso dar é que, para todos os números de telefone e endereços de e-mail de suporte ao cliente, visite o site oficial das empresas e procure os dados de contato necessários.