Um hacker transformou uma ferramenta popular de IA em uma máquina de crimes cibernéticos

A empresa por trás do popular chatbot de IA Claude emitiu um alerta assustador sobre o uso crescente de ferramentas de IA por criminosos cibernéticos à medida que a tecnologia se torna cada vez mais sofisticada.

Em seu último relatório de Threat Intelligence, a Anthropic detalhou o caso recente de como um hacker usou suas ferramentas de IA para lançar um ataque cibernético direcionado a diversas empresas e organizações.

De acordo com a Anthropic, o hacker usou um agente de codificação de IA (nesse caso, Claude Code), uma ferramenta capaz de escrever, editar e executar código com intervenção humana mínima.

Ele disse que, no mês passado, o hacker usou o agente para automatizar "reconhecimento, coleta de credenciais e penetração de rede em escala", roubando dados confidenciais de pelo menos 17 empresas e organizações governamentais, de saúde, serviços de emergência e instituições religiosas.

O criminoso conseguiu obter registros pessoais das pessoas, incluindo dados de saúde, informações financeiras e credenciais governamentais, antes de exigir o pagamento de resgate e ameaçar expor os dados online se as exigências não fossem atendidas.

O agente de IA Claude até analisou os dados financeiros roubados para calcular o valor apropriado do resgate — até US$ 500.000 foram exigidos em alguns dos ataques — e também criou notas de resgate "visualmente alarmantes" que apareciam nas telas dos computadores dos alvos.

A Anthropic disse que a operação ousada demonstra "uma evolução preocupante no crime cibernético assistido por IA" e "representa uma mudança fundamental na forma como os criminosos cibernéticos podem escalar suas operações", agora que a IA pode ser usada para automatizar grande parte do processo de hacking, embora sob direção humana.

Embora não esteja claro se algum dos alvos neste caso específico pagou, a Anthropic afirmou ter tomado medidas para prevenir esse tipo de uso indevido. Acrescentou, porém, que esse método de ataque provavelmente se tornará cada vez mais comum "à medida que a IA reduz a barreira de entrada para operações sofisticadas de crimes cibernéticos".

Seu último relatório de Threat Intelligence também destacou como agentes norte-coreanos têm usado Claude para garantir fraudulentamente posições de trabalho remoto em empresas de tecnologia da Fortune 500 dos EUA, e outro caso em que um criminoso cibernético usou suas ferramentas de IA para criar e comercializar vários produtos de ransomware, vendendo-os para outros criminosos cibernéticos por até US$ 1.200 cada.

Muitos hackers usam IA de alguma forma há anos. No entanto, chatbots como o ChatGPT, lançado em 2022, facilitaram o lançamento de ataques, e agora a ascensão dos agentes de IA representa uma ameaça ainda maior. Felizmente, a tecnologia que está sendo explorada por invasores também está sendo utilizada por empresas de segurança cibernética para construir uma linha de defesa crítica, embora seja claramente uma batalha constante para acompanhar o ritmo.