Deixe os usuários comerem pedras e colocarem cola na pizza A pesquisa de IA do Google é uma loucura?
As coisas boas vêm aos pares, os infortúnios nunca vêm sozinhos e o Google “derrubou” novamente.
Em fevereiro de 2023, Bard, que perseguia o ChatGPT, cometeu publicamente erros factuais, em dezembro de 2023, Gemini falou como Jarvis, mas o vídeo foi pós-processado em fevereiro de 2024, Gemini gerou figuras históricas de múltiplas cores de pele; pessoas brancas.
Desta vez, o azar se abateu sobre a especialidade do Google: a pesquisa. Os internautas estrangeiros não levaram muito a sério assistir à emoção e até organizaram uma onda de carnavais de luta fotográfica.
A pesquisa de IA do Google que foi ridicularizada pela multidão tem uma clara estupidez
Um dos recursos lançados na conferência Google I/O há pouco tempo é o AI Overview.
Como o nome sugere, o AI Overview gera um resumo de várias fontes na parte superior da página da web, junto com links.
Naquela época, o Google estava muito confiante na Visão Geral da IA e anunciou que seria lançado imediatamente para todos os usuários dos EUA e em breve seria promovido para mais países. Espera-se que cubra mais de 1 bilhão de pessoas até o final do ano.
No entanto, em poucos dias, o AI Overview foi derrubado entre os usuários americanos.
O que devo fazer se o queijo da pizza caseira tende a cair?
O Google recomenda que você, querido, adicione apenas cerca de 1/8 xícara de cola ao molho. É especialmente enfatizado que não é tóxico e a razão por trás disso é comovente.
O Google não inventou isso agora, mas copiou a resposta de um comentário feito por um usuário no Reddit há 11 anos. Infelizmente, ele não consegue ler o humor humano.
Quantas pedras uma pessoa deve comer por dia para complementar a nutrição?
O Google não refutou a irracionalidade da questão em si, mas disse seriamente que, de acordo com os geólogos da UC Berkeley, você deveria comer pelo menos uma pequena pedra por dia para obter vitaminas e minerais.
A fonte da resposta é uma “reportagem” de 2021 do The Onion News, famoso por notícias falsas e artigos satíricos.
A AI Overview também não é versada na história americana e caiu na armadilha das teorias da conspiração de que Obama foi o primeiro presidente muçulmano.
Por um tempo, mídias sociais como X desencadearam uma onda de abstração: postando capturas de tela e competindo para ver qual resposta do Google era a mais ridícula.
A competição é acirrada e, no mundo da IA, um ex-presidente se formou 21 vezes na Universidade de Wisconsin, um cachorro jogou na NBA, NFL e NHL e Batman é policial.
Onde as pessoas se reúnem para se divertir, há muitas pessoas que pescam em águas turbulentas e confundem o certo e o errado.
O Google respondeu que a maioria das informações na visão geral da IA são de alta qualidade e fornecem links úteis para os usuários aprenderem mais. Em muitos exemplos de “rollovers”, os problemas são incomuns e os resultados não podem ser reproduzidos ou mesmo foram. adulterado.
Por exemplo, uma captura de tela amplamente divulgada mostra que a cura para a depressão é pular da ponte Golden Gate. É uma questão de vida humana, e o Google se esforçou para explicar que esse resultado era falso.
▲ Capturas de tela refutadas pelo Google
Ao mesmo tempo, o Google não refutou outros exemplos, mas os usou como alimento para melhorar a IA. Por que não contar a aprendizagem por reforço com feedback humano (RLHF)?
Internautas atentos também descobriram que havia erros factuais nas demonstrações cuidadosamente selecionadas no Google I/O, mas eles eram mais sutis.
Quando questionado sobre como consertar uma câmera de filme presa, o Google sugeriu abrir a porta traseira e remover o filme com cuidado, mas isso pode estragar suas fotos.
Esta não é a primeira vez que o Google comete erros em um local público que chama muita atenção.
Em fevereiro de 2023, Google Bard disse durante uma demonstração que o Telescópio Espacial James Webb foi o primeiro telescópio a fotografar planetas extrasolares. Na verdade, a primeira imagem de um exoplaneta foi tirada em 2004. Um erro custou à empresa US$ 100 bilhões em valor de mercado.
Desta vez, além dos erros no próprio AI Overview, há outra falha: esta função não é fácil de desligar. Alguns desenvolvedores entusiasmados correram para criar extensões que forçavam a exibição apenas dos resultados de pesquisa tradicionais.
É culpa do Google não haver um mecanismo de saída conveniente. A visão geral da IA é baseada em páginas de pesquisa tradicionais e tem um grande número de usuários. Se os usuários que não estão familiarizados com a IA confiam cegamente em seus resultados e são enganados, as consequências são difíceis de dizer. .
“Como o Google pode estar 30% errado?”
Na verdade, os problemas expostos pela Visão Geral da IA não são novos. Há muito que é um segredo aberto que a IA comete erros.
Assim como "Fumar é prejudicial à saúde", que desempenha um papel no estilo, a parte inferior da visão geral da IA está marcada: "A IA generativa é experimental". O ChatGPT também lembra em pequenas palavras: "Erros podem ser cometidos. Verifique os itens importantes". Informação."
O princípio básico dos grandes modelos de linguagem é que, ao prever o texto com maior probabilidade de gerar a próxima palavra ou frase, palavras às vezes incorretas, mas aparentemente razoáveis, podem ser selecionadas, o que leva a informações falsas ou "ilusão".
O absurdo da visão geral da IA também é uma manifestação de alucinação. Combina frases geradas por grandes modelos de linguagem e fontes da Internet podem ser citadas, mas a precisão das fontes não é garantida.
Mesmo que tecnologias como RAG (Retrieval Augmented Generation) sejam usadas para combinar o sistema de recuperação com o modelo de geração e limitar o escopo de resposta a perguntas, isso só pode suprimir a ilusão, mas não curá-la.
Além disso, a credibilidade da própria fonte é questionável. "Versão americana de Tieba" Reddit, o conteúdo é contribuído por internautas, e não por mídia oficial.
Em fevereiro deste ano, o Google chegou a um acordo com o Reddit para usar seu conteúdo para treinar modelos de IA. Naquela época, algumas pessoas se perguntavam se isso levaria à situação constrangedora de “entra lixo, sai lixo”.
O Google não é o único preocupado com “ilusões”. Em maio do ano passado, quando um internauta perguntou sobre o novo Bing da Microsoft, a resposta estava obviamente errada. Quando ele clicou no link de referência, ele descobriu que a resposta de Zhihu como fonte de referência era na verdade gerada por IA.
Como os pesquisadores de IA citam as fontes também é uma questão intrigante. Quando pesquisei "Como dar banho em um Shiba Inu" em chinês, as fontes do Perplexity eram Sohu, YouTube, Douban Diary e Bilibili, enquanto as fontes de Tiangong eram Zhihu e Baidu Wenku. Eu não sabia qual delas era mais confiável no momento. e eu não pude acreditar.
Já que as pesquisas de IA são todas alucinações, por que o Google está sempre sendo assado no fogo?
Fundado em 1998, o Google tornou-se sinônimo de pesquisa. Como gigante da IA, o Google aumentou as expectativas do mundo exterior e deve arcar com as consequências dos erros.
Pelo contrário, o CEO da Perplexity, Aravind Srinivas, disse que viajar com leveza é a sua vantagem, e há algum orgulho nas palavras.
Se você usa nossos produtos e 80% deles funcionam bem, você pode ficar impressionado, mas se você usa os produtos do Google e apenas 70% deles estão corretos, você pode ficar confuso, como o Google pode estar errado 30% das vezes?
Além disso, a pesquisa por IA também levou a uma mudança na cognição do usuário.
Costumávamos dizer "Pesquise com o Google", mas ao introduzir a função de pesquisa generativa da IA, o próprio Google intitulou o blog "Deixe o Google pesquisar por você", o que é uma inversão sutil de prioridades.
No passado, o Google mostrava quais links respondiam à sua pergunta. Agora, o próprio Google usa IA para responder às suas perguntas.
A culpa pela disseminação de desinformação passou da própria fonte para o Google por citar a fonte. O Google tem que assumir a culpa.
Que possibilidades a pesquisa por IA tem além de fornecer fatos?
Como a ilusão já é a premissa, deveríamos olhar para a pesquisa de IA de um ângulo diferente e nos perguntar: nossas expectativas estão erradas?
Na verdade, antes da visão geral da IA ser criticada, o CEO do Google, Pichai, mencionou em uma entrevista recente ao The Verge que o problema da “ilusão” ainda não foi resolvido, e pode até ser considerado uma característica inerente de grandes modelos de linguagem.
Ele acredita que grandes modelos de linguagem não são necessariamente o melhor canal para compreender os fatos, mas isso não significa que grandes modelos de linguagem sejam inúteis e que o pensamento preto e branco não seja aconselhável. Por exemplo, pode criar poesia e introduzir pesquisas.
Quer o CEO esteja sendo entrevistado ou na conferência I/O, eles estão transmitindo um conceito aos usuários: não trate a pesquisa de IA apenas como um simples resumo de páginas da web existentes.
No entanto, a Visão Geral da IA não conseguiu satisfazer as pessoas e os usuários não são os culpados. Em comparação com a demonstração, a Visão Geral da IA atual não está em sua forma completa e muitas funções ainda não foram lançadas.
Liz Reid, diretora de pesquisa do Google, demonstrou um exemplo de “raciocínio em várias etapas” no I/O. Digite “Encontre o melhor estúdio de ioga em Boston, exiba informações sobre descontos e tempo de caminhada de Beacon Hill. Pesquisei três vezes, agora”. uma vez é suficiente.
Ao mesmo tempo, o AI Overview também terá recursos de "planejamento" no futuro. Por exemplo, se a IA for solicitada a planejar o jantar para três dias, os usuários poderão obter uma receita diretamente, refiná-la no meio do caminho, adicionar "vegetariano" e outros requisitos. e depois exporte-o para um documento.
A ideia do Google é a mesma de outros produtos de busca de IA – tornar as buscas mais visuais, interativas e personalizadas, usando palavras humanas em vez de palavras-chave para se comunicar, economizando tempo na busca de informações e respondendo a perguntas mais complexas e específicas.
Secret Tower oferece diferentes modos de pesquisa para simplicidade, profundidade e pesquisa. O modo de pesquisa pode até fornecer esboços e mapas mentais para gerar apresentações.
O Perplexity pode controlar o escopo da pesquisa, cobrindo toda a Internet ou restringindo-a a trabalhos acadêmicos, YouTube e Reddit, de acordo com as necessidades de pesquisa.
Tiangong usa a pesquisa de IA como um portal, equipado com mais ferramentas de produtividade e fornece leitura rápida de IA, criação de música e outros agentes inteligentes. É equivalente a construir uma plataforma de criação de conteúdo AIGC sobre a pesquisa de IA.
A maioria das perguntas usuais, como como está o tempo, qual é a taxa de câmbio e acessar o site oficial, podem ser respondidas por meio de pesquisas simples e tradicionais.
No entanto, em cenários relativamente complexos, a pesquisa de IA tem grandes esperanças. Afinal, ela tem mais fontes de informação do que o ChatGPT e outras fontes, é mais conveniente para verificação e pode conduzir mais pesquisas, criação, planejamento e brainstorming do que a pesquisa tradicional. Em vez de ser uma enciclopédia melhor do que a pesquisa tradicional, é mais parecida com um agente.
Claro, não importa o quanto o bolo seja desenhado, a ilusão da pesquisa por IA ainda é perturbadora. Por esse motivo, algumas pessoas sugerem que, para garantir a segurança, use IA generativa, não apenas olhe o resumo e depois verifique-o com a pesquisa tradicional do Google. Como diz o ditado, a situação muda, mas o irmão mais velho continua sendo o irmão mais velho.
# Bem-vindo a seguir a conta pública oficial do WeChat do aifaner: aifaner (WeChat ID: ifanr). Mais conteúdo interessante será fornecido a você o mais rápido possível.
