Os modelos de IA apresentam um problema de favoritismo religioso, e uma nova pesquisa o expõe.

Um novo consórcio de pesquisa descobriu algo que merece atenção: quando você pergunta à IA sobre luto, amor, perda ou decisões morais, ela quase nunca menciona religião na conversa.

O Consórcio para Avaliação da Fé e da Ética em IA (CEFE-AI), uma colaboração entre pesquisadores da Universidade Brigham Young, da Universidade Baylor, da Universidade de Notre Dame e da Universidade Yeshiva, publicou suas conclusões esta semana na Cúpula sobre Ética em IA em Atenas, Grécia.

“A religião é uma parte importante do florescimento humano; 75% da população mundial mantém uma identidade religiosa. À medida que desenvolvemos tecnologias de IA, não há razão para não as desenvolvermos para apoiar as pessoas naquilo que é importante para elas”, disse o pesquisador principal David Wingate, professor de ciência da computação da BYU.

A inteligência artificial é realmente tendenciosa contra certas religiões?

Os pesquisadores desenvolveram o AllFaith Benchmark, um dos primeiros conjuntos de testes multirreligiosos que examina como os sistemas de IA interagem com uma variedade de religiões. Eles testaram 14 modelos de IA diferentes, incluindo modelos de destaque da Anthropic, Google , xAI e OpenAI .

Os resultados são reveladores. Uma pesquisa com 1.125 americanos constatou que a maioria das pessoas espera perspectivas religiosas ao serem questionadas sobre ética, mas quase todos os modelos deixaram de incluir qualquer uma delas. Mais surpreendente ainda, os modelos demonstraram um claro viés de conversão, influenciando sutilmente os usuários a aderirem a algumas religiões e rejeitando outras.

Quais modelos de IA tiveram o pior desempenho?

Em todos os modelos testados, quase todos apresentaram um viés negativo em relação às Testemunhas de Jeová e um viés positivo em relação ao catolicismo. O modelo Grok apresentou os vieses mais fortes no geral, favorecendo fortemente católicos e protestantes, enquanto demonstrava um viés negativo em relação às Testemunhas de Jeová, bahá'ís e hindus. Os modelos Anthropic e Meta apresentaram o menor viés entre todos os modelos testados.

Talvez o dado mais alarmante do estudo seja que, de mais de 12.000 artigos de pesquisa sobre viés em IA, apenas 0,2% abordam o viés religioso. Para uma tecnologia que influencia o discurso público de forma tão significativa, essa é uma lacuna considerável.

Pessoalmente, não tenho problema nenhum com a IA não abordar a religião em conversas. Na verdade, prefiro assim. No entanto, modelos de IA que demonstram um claro viés em relação a diversas religiões e as direcionam para o catolicismo são profundamente preocupantes. Nessa escala, até mesmo uma sutil inclinação para uma religião em detrimento de outra é um problema sério, e as empresas de IA têm a obrigação de corrigi-lo para seus usuários.