O projeto de enciclopédia Grokipedia de Elon Musk gera preocupações quanto à sua confiança e precisão.

O que aconteceu: Bem, a nova enciclopédia de inteligência artificial de Elon Musk, a Grokipedia, já está em maus lençóis.

• Um novo estudo de pesquisadores da Cornell Tech acaba de ser publicado e é bastante condenatório. Eles afirmam que a plataforma está repleta de referências a fontes extremamente não confiáveis ​​e tendenciosas.
• A Grokipedia foi lançada no mês passado pela empresa de IA de Musk, a xAI . Ela foi concebida como uma nova rival da Wikipédia – que Musk e outros frequentemente acusam de ter um viés liberal.
• Mas eis a questão crucial: o estudo de Cornell descobriu que a Grokipedia não só copia grande parte do seu texto diretamente da Wikipédia, como também cita fontes que a própria Wikipédia baniu por serem consideradas lixo total.
• O exemplo mais chocante que encontraram? A Grokipedia tinha um verbete sobre a teoria da conspiração do "número de mortes de Clinton". E a fonte citada para sustentar essa alegação há muito desmentida? InfoWars . Sim, aquela InfoWars.

Por que isso é importante: Tudo isso lança uma luz enorme sobre um grande problema dessas novas ferramentas de informação de IA: elas parecem não ter nenhum padrão para suas fontes.

• Segundo o estudo, os artigos da Grokipedia que não foram simplesmente copiados da Wikipédia tinham mais de 3 vezes mais probabilidade de citar uma fonte não confiável e 13 vezes mais probabilidade de usar uma fonte que consta em uma lista negra.
• Isso é realmente muito sério. Uma plataforma de IA como essa pode se expandir e espalhar esse tipo de conteúdo repleto de teorias da conspiração para milhões de pessoas em uma fração de segundo, tudo sem que um único editor humano sequer o revise.

Por que isso importa? Veja bem, todos nós estamos começando a depender de ferramentas de IA para obter informações rápidas. Mas é aí que reside o perigo.

• Ao solicitar informações a uma IA, você pode estar recebendo uma grande dose de distorção política e enganosa, sem sequer perceber.
• Isso está tornando tênue a linha entre um fato e… algo que o algoritmo inventou.
• Além disso, vale ressaltar que Musk agora controla várias plataformas de informação gigantescas – o X (Twitter) e essa nova empresa de IA. Isso representa um enorme controle sobre o que as pessoas veem e leem.

O que vem a seguir: Musk, por sua vez, já anunciou que está renomeando a Grokipedia para "Enciclopédia Galáctica" – chamando-a de "uma versão de ficção científica da Biblioteca de Alexandria". (Sim, é sério).

• Mas, como os especialistas estão apontando, você pode chamar isso do que quiser. Sem responsabilidade no mundo real e um compromisso com o uso de fontes reais e confiáveis, será apenas uma máquina para amplificar a desinformação, e não para corrigi-la.
• Entretanto, a Fundação Wikimedia (a entidade por trás da Wikipédia) divulgou um comunicado que basicamente dizia: “Viram? É por isso que mantemos nosso modelo aberto e administrado pela comunidade. É a única maneira de construir confiança.”