Pesquisas mostram que resumos feitos por IA são melhores para o aprendizado, mesmo que possam mudar suas opiniões.

Atualmente, a maioria de nós obtém informações usando chatbots de IA e mecanismos de busca. Até mesmo o Google nos mostra um resumo gerado por IA antes de nos direcionar às fontes de onde compilou as respostas.

Um novo estudo de Yale sugere que, embora as respostas geradas por IA sejam rápidas, convenientes e fáceis de ler, elas também podem influenciar nossas opiniões. Daniel Karell, professor assistente de sociologia em Yale, e sua equipe queriam descobrir se a leitura de resumos de eventos históricos escritos por IA ajudava as pessoas a aprenderem melhor do que a leitura de resumos escritos por humanos.

Para testar isso, os participantes visualizaram breves resumos de eventos históricos, alguns escritos por humanos e outros por ferramentas de IA como o ChatGPT, e depois foram questionados sobre o que se lembravam.

O resultado? As pessoas que leram resumos escritos por IA responderam consistentemente a mais perguntas corretamente.

Será que a IA é simplesmente melhor do que os humanos na disseminação de informações?

Karell atribui isso à forma como a IA apresenta as informações. "É como se o modelo tivesse pegado a Wikipédia e a tornado mais legível", disse ele. Os resumos gerados por IA eram mais fluidos, claros e fáceis de reter, independentemente de os participantes saberem que estavam lendo conteúdo gerado por IA.

Isso significa que, mesmo quando as pessoas eram informadas de que o resumo havia sido escrito por IA, elas ainda aprendiam mais com ele do que com a versão escrita por humanos.

Isso deveria te preocupar?

É aqui que a coisa fica interessante. Em um artigo subsequente publicado na PNAS Nexus , os mesmos pesquisadores descobriram que os resumos feitos por IA não apenas ensinam melhor, mas também influenciam opiniões políticas.

Se o resumo feito por IA tivesse uma inclinação liberal, os leitores terminariam com opiniões mais liberais. Uma inclinação conservadora teria o efeito oposto. Os pesquisadores acreditam que isso acontece porque a IA não apenas apresenta os fatos, mas os enquadra de uma maneira que parece mais lógica e convincente.

As ferramentas de IA estão se tornando a forma padrão de aprendizado sobre história e atualidades. Isso não é necessariamente ruim. Mas saber que a ferramenta que molda o que você aprende também pode, silenciosamente, moldar o que você pensa é algo que vale a pena ter em mente.

Ao mesmo tempo, as alucinações geradas por IA continuam sendo um problema significativo, e os resumos gerados por IA podem ser ainda mais enganosos para os humanos. Um estudo conduzido por pesquisadores do Instituto de Ciências da Informação da USC descobriu que os sistemas de IA podem executar campanhas de propaganda com mínima intervenção humana.

Se acrescentarmos a isso a ideia de que a IA pode ser mais convincente do que os humanos, é assustador pensar em como essas ferramentas podem ser usadas para manipular o pensamento e o raciocínio humanos, conduzindo-nos a um mundo mais fragmentado.

O artigo "Pesquisa revela que resumos feitos por IA são melhores para o aprendizado, mesmo que possam mudar suas opiniões" foi publicado originalmente no Digital Trends .