OpenAI usa seus próprios modelos para combater interferência eleitoral

OpenAI, o cérebro por trás da popular solução de IA generativa ChatGPT , divulgou um relatório dizendo que bloqueou mais de 20 operações e redes desonestas em todo o mundo em 2024 até agora. As operações diferiam em objetivo, escala e foco e eram usadas para criar malware e escrever contas de mídia falsas, biografias falsas e artigos de sites.

A OpenAI confirma que analisou as atividades que interrompeu e forneceu os principais insights de sua análise. “Os atores de ameaças continuam a evoluir e a experimentar nossos modelos, mas não vimos evidências de que isso leve a avanços significativos em sua capacidade de criar malware substancialmente novo ou construir públicos virais”, afirma o relatório.

Isto é especialmente importante dado que é um ano eleitoral em vários países, incluindo os Estados Unidos, o Ruanda, a Índia e a União Europeia. Por exemplo, no início de julho, a OpenAI baniu uma série de contas que criavam comentários sobre as eleições no Ruanda que foram publicados por diferentes contas no X (antigo Twitter). Portanto, é bom saber que a OpenAI diz que os atores da ameaça não conseguiram fazer muito progresso nas campanhas.

Outra vitória da OpenAI é interromper um ator de ameaça baseado na China conhecido como “SweetSpecter”, que tentou fazer spearphishing nos endereços corporativos e pessoais dos funcionários da OpenAI. O relatório prossegue dizendo que em agosto, a Microsoft expôs um conjunto de domínios que atribuiu a uma operação de influência secreta iraniana conhecida como “STORM-2035”. “Com base no relatório deles, investigamos, interrompemos e relatamos um conjunto associado de atividades no ChatGPT.”

A OpenAI também diz que as postagens nas redes sociais criadas por seus modelos não receberam muita atenção porque receberam poucos ou nenhum comentário, curtida ou compartilhamento. A OpenAI garante que continuará a antecipar a forma como os agentes de ameaças utilizam modelos avançados para fins prejudiciais e planeiam tomar as medidas necessárias para o impedir.