Os detectores de notícias falsas por IA não são tão bons quanto você pensa.
Gigantes da tecnologia como Meta, Google e X estão investindo pesado em ferramentas de IA projetadas para detectar notícias falsas. Parece reconfortante, mas, de acordo com um novo estudo da Universidade de Montreal, essas ferramentas têm sérias desvantagens escondidas por trás de números de precisão aparentemente impressionantes.
O pesquisador de doutorado Dorsaf Sallami examinou sistemas de IA para detecção de notícias falsas e descobriu que, na verdade, eles não verificam os fatos. Em vez disso, calculam probabilidades com base em seus dados de treinamento. Pense nisso menos como um jornalista verificando uma história e mais como um espelho refletindo tudo o que vê, incluindo os mesmos vieses e pontos cegos.
Segundo Dorsaf Sallami, um sistema que atinge 95% de precisão em um ambiente de laboratório ainda pode falhar no mundo real, e essa discrepância representa um problema sério.
O problema do viés sobre o qual ninguém está falando
Além da precisão, Sallami descobriu que muitos desses sistemas carregam vieses embutidos que passam despercebidos na maior parte do tempo. Alguns modelos são mais propensos a identificar mulheres como fontes de desinformação. Outros são tendenciosos contra fontes não ocidentais ou reproduzem preconceitos políticos.
Existe também um problema mais profundo relacionado à forma como esses sistemas são treinados. Eles dependem de rótulos de organizações de checagem de fatos, muitas das quais carecem de transparência e algumas são empresas com fins lucrativos. Todo o sistema é construído sobre uma base instável.
Some a isso o surgimento de ferramentas como o ChatGPT , que tornam a produção de conteúdo falso mais fácil do que nunca, e os sistemas de detecção treinados há poucos meses podem rapidamente se tornar obsoletos.
Uma abordagem melhor
A solução de Sallami é o Aletheia, uma extensão para navegadores que explica por que um conteúdo pode ser suspeito, em vez de simplesmente dizer se é verdadeiro ou falso. Nos testes, alcançou 85% de confiabilidade, superando muitas ferramentas existentes. O que o diferencia é sua filosofia. Em vez de apresentar um veredito e esperar que você confie nele, o Aletheia mostra o processo.
A ferramenta extrai evidências de fontes online disponíveis, apresenta-as em linguagem simples e permite que os usuários tomem a decisão final. Ela inclui até mesmo um feed ao vivo de verificações de fatos recentes e um fórum da comunidade onde os usuários podem compartilhar e discutir suas descobertas. A conclusão é simples: a IA deve auxiliar seu julgamento, não substituí-lo.
O artigo "Detectores de notícias falsas por IA não são tão bons quanto você pensa" foi publicado originalmente no Digital Trends .
