Ótimo, os hackers agora estão usando o ChatGPT para criar malware
Uma nova ameaça surgiu na saga ChatGPT , com cibercriminosos desenvolvendo uma maneira de hackear o chatbot de IA e inundá-lo com comandos de malware.
A empresa de pesquisa Checkpoint descobriu que os hackers criaram bots que podem se infiltrar na API GPT-3 da OpenAI e alterar seu código para gerar conteúdo malicioso, como texto que pode ser usado para e-mails de phishing e scripts de malware.
Os bots funcionam por meio do aplicativo de mensagens Telegram. Os maus atores usam os bots para configurar uma versão escura e sem restrições do ChatGPT, de acordo com a Ars Technica .
O ChatGPT possui botões de polegar para cima e para baixo que você pode pressionar como parte de seu algoritmo de aprendizado se gerar conteúdo que possa ser considerado ofensivo ou inapropriado. Normalmente, entradas como geração de código malicioso ou e-mails de phishing estão fora dos limites, com o ChatGPT se recusando a dar uma resposta.
Essa nefasta alternativa de chatbot tem um preço de $ 6 para cada 100 consultas, com os hackers por trás dela também dando dicas e exemplos do conteúdo ruim que você pode gerar com esta versão. Os hackers também disponibilizaram um script no GitHub. O script baseado em API OpenAI tem a capacidade de permitir que os usuários falsifiquem uma empresa ou pessoa, além de gerar e-mails de phishing por meio de comandos de geração de texto. Os bots também podem auxiliá-lo no posicionamento ideal para o link de phishing no e-mail, segundo a PC Gamer .
É difícil saber quanta ameaça esse desenvolvimento representará para os geradores de texto de IA no futuro, especialmente com grandes empresas já comprometidas em trabalhar com essa tecnologia cada vez mais popular. O Microsoft Bing está definido para adicionar em breve o suporte ChatGPT ao seu navegador em uma atualização futura como parte de sua colaboração contínua com o OpenAI, por exemplo.
Embora o ChatGPT permaneça gratuito no futuro previsível, menos a assinatura prioritária do ChatGPT Plus , esta não é a primeira vez que o gerador de texto AI foi alvo de golpistas. Em janeiro, surgiram notícias de que milhares de pessoas foram enganadas depois de pagar pelas versões de aplicativos móveis iOS e Android do chatbot, que atualmente é um serviço baseado em navegador.
A versão da Apple App Store foi especialmente popular, apesar de seu preço de assinatura semanal de $ 8 após um teste de três dias. Os usuários também tinham a opção de pagar uma assinatura mensal de $ 50, que era ainda mais cara do que o custo semanal. O aplicativo acabou sendo removido da loja da Apple depois de receber atenção da mídia.
O ChatGPT é certamente o principal alvo dos golpistas, pois aumentou em popularidade, mas resta saber se os malfeitores acabarão por pular em uma das muitas alternativas do ChatGPT que circulam.
