O ChatGPT pode mudar permanentemente a forma como falamos
Há apenas algumas semanas, um artigo do MIT provocou um amplo debate sobre como o uso de ferramentas de IA como o ChatGPT estava afetando nosso pensamento cognitivo e crítico . As descobertas, embora surpreendentes, não foram totalmente inesperadas. Em 2023, Jeff Hancock, professor de Comunicação em Stanford, revelou como a comunicação por IA já havia mudado a forma como percebemos a linguagem e seu impacto emocional.
“O que descobrimos é que, mesmo que você não use essas respostas geradas por IA, elas influenciam o seu modo de pensar”, disse ele, citando o exemplo de modelos de respostas inteligentes em e-mails e aplicativos de mensagens. Dois anos depois, parece que os padrões de linguagem de assinatura de grandes modelos de linguagem, como o ChatGPT, também estão se tornando parte das conversas humanas naturais.
As descobertas mais recentes são cortesia de uma pesquisa da Universidade Estadual da Flórida, que observa como "palavras-chave da IA usadas em excesso por grandes modelos de linguagem baseados em bate-papo não são mais apenas sugeridas nas telas — elas estão frequentemente aparecendo na maneira como as pessoas realmente falam". A equipe se concentrou em um total de 20 palavras, e até eu estou surpreso que pelo menos duas delas agora apareçam regularmente no meu próprio trabalho.
O que está acontecendo?
A equipe estudou o que chama de tendências lexicais antes e depois do lançamento do ChatGPT e descobriu uma afinidade entre palavras escolhidas pelas pessoas em suas conversas cotidianas e aquelas frequentemente usadas por chatbots de IA. Essas palavras, como "intricate" ou "delve", passaram a ser conhecidas como chavões da IA e são comumente vistas em conteúdo gerado por chatbots de IA.
A equipe avaliou mais de 22 milhões de palavras em conversas espontâneas e sem roteiro, como podcasts que abordam temas relacionados à tecnologia e à ciência. Os pesquisadores estudaram alguns podcasts famosos, como BBC Curious Cases, Lex Fridman e o podcast Big Technology, uma lista que totaliza 17 programas de áudio conhecidos.
Uma tendência notável observada como parte da pesquisa foi que os chavões da IA aparecem como tal em conversas humanas e seus sinônimos, o que reforça a crença de que os chatbots de IA estão influenciando nosso comportamento de fala. Mas qual é o panorama geral aqui?
Se você acompanha o discurso sobre IA ou apenas interage com chatbots de IA como o ChatGPT ou o Gemini, notará que eles usam algumas palavras com bastante frequência. Há um padrão perceptível e fácil de identificar, como ser mais prolixo do que em uma conversa humana casual ou até mesmo usar muitos travessões no texto.
"O que se destaca é a amplitude da mudança: muitas palavras estão apresentando aumentos notáveis em um período relativamente curto. Considerando que todas essas palavras são tipicamente usadas em excesso pela IA, parece plausível conjeturar uma ligação", observa Tom Juzek, professor de linguística computacional na instituição que liderou a pesquisa mais recente.
Os pesquisadores descobriram que palavras normalmente encontradas em trabalhos acadêmicos estão surgindo em conversas humanas, algumas delas com quase o dobro da frequência habitual. A pesquisa levanta a questão de se os chatbots de IA estão tendo um "efeito de infiltração".
Mais importante ainda, se os chavões da IA já estão aparecendo em conversas humanas reais, os pesquisadores se perguntam como os vieses inerentes a um chatbot de IA afetarão o comportamento humano a longo prazo. O artigo de pesquisa é o primeiro a detalhar uma ligação entre o sistema de linguagem humana conversacional e como ele é afetado pelo uso generalizado de ferramentas de IA, como o ChatGPT.
O panorama geral
Agora, antes de você pensar "quem fala essas palavras deve estar falando demais com uma IA", há alguns aspectos que você precisa ter em mente sobre esta pesquisa. A equipe deixa claro que se trata de um caso de "sobreposição observada no vocabulário afetado" e não fala de uma mudança definitiva na linguagem induzida pela IA.
O artigo, no entanto, alerta para uma "mudança nova e potencialmente profunda na trajetória da evolução da linguagem" caso a preferência por jargões de IA continue aparecendo na comunicação humana. A longo prazo, o maior risco é que os vieses de um chatbot de IA também comecem a aparecer subconscientemente nas conversas humanas, mesmo que não reflitam o processo de pensamento original do falante.
Certamente há precedentes para isso, visto que surgiram vários casos em que conversas com IA levaram uma pessoa a um caminho realmente perigoso, levando a emergências de saúde e automutilação grave. A principal conclusão da pesquisa é que a IA não está apenas transformando a linguagem, mas também, essencialmente, a forma como estudamos a linguagem em si.
Intitulado “Desalinhamento de modelo e mudança de linguagem: traços de linguagem associada à IA em inglês falado sem script”, o artigo revisado por pares será publicado no periódico AIES Proceedings.
