Um hacker lançou uma versão maliciosa do ChatGPT da OpenAI chamada WormGPT. A tecnologia de chatbots auxiliares de hackers agora está sendo aprimorada, e utilizada para democratizar, massificar, e facilitar o acesso de cibercriminosos à ferramentas de códigos maliciosos. Desse modo, alguém com pouco conhecimento poderia criar um ataque de phishing por e-mail eficaz contra milhares de vítimas.
WormGPT é um chatbot AI baseado no modelo de linguagem GPTJ, que foi desenvolvido em 2021. A tecnologia possui uma variedade de recursos, incluindo suporte ilimitado a caracteres, retenção de memória de bate-papo e recursos de formatação de código.
De acordo com um relatório da empresa de segurança cibernética SlashNext, membvros da EleutherAI desenvolveram especificamente o WormGPT para realizar atividades maliciosas. Contudo, foi apenas o começo de uma variedade de casos de uso, e ferramentas de IA voltados à ataques maliciosos.
Uma nova leva de ferramentas para hackers
Conforme relatório, a progressão das tecnologias de inteligência artificial (IA), como o ChatGPT da OpenAI, introduziu um novo vetor para ataques de comprometimento de e-mail comercial (BEC).
“O ChatGPT, um sofisticado modelo de IA, gera texto semelhante ao humano com base na entrada que recebe. Os cibercriminosos podem usar os chatbots para automatizar a criação de e-mails falsos altamente convincentes, personalizados para o destinatário, aumentando assim as chances de sucesso do ataque”, diz o relatório.
Os recursos do chatbot malicioso incluem suporte ilimitado a caracteres, retenção de memória de bate-papo e formatação de código. Além disso, o WormGPT foi treinado em conjuntos de dados relacionados a malware.
Os criminosos costumam realizar ataques de phishing, que são uma das formas mais antigas e comuns de ataque. Eles utilizam e-mails, mensagens de texto ou postagens em redes sociais com nomes falsos para executar esses ataques.Nestes ataques, os criminosos se passam por alguém com autoridade, e buscam tirar informação sensível ou dinheiro da vítima.
No caso de informação, os criminosos se apropriam de informações confidenciais. Após esses ataques, os hackers costumam exigir um resgate em dinheiro para evitar a divulgação ou venda dos dados na dark web. Esse crime é conhecido como ransomware ou sequestro de dados.
O ransomware é a única forma de crime, que utiliza criptomoeda, em ascensão até agora em 2023, segundo relatório da Chainalysis. Na verdade, os invasores de ransomware estão no ritmo de seu segundo maior ano de todos os tempos, tendo extorquido pelo menos US$ 449,1 milhões até junho. Se o ritmo continuar, os criminosos que praticam ransomware vão acumular US$ 898,6 milhões das vítimas extorquidas em 2023, perdendo apenas para os US$ 939,9 milhões de 2021.
Além do WormGPT
A SlashNext diz que tecnologias de chatbots como o WormGPT diminuem a barreira para realizar ataques BEC eficazes, capacitando invasores menos habilidosos e, assim, criando um grupo maior de possíveis criminosos cibernéticos. A empresa afirma que outras versões de chatbots estão sendo criadas, a partir do primeiro modelo. No relatório, a SlashNext mostra que teve acesso à alguns destes fóruns.
Nestes fóruns, os criminosos também oferecem “jailbreaks” para interfaces como o ChatGPT. Esses “jailbreaks” são prompts especializados que estão se tornando cada vez mais comuns, conforme o relatório.
Tratam-se de comandos, ou inputs, inseridos nos modelos como WormGPT para que obtenham a melhor resposta possível. Desse modo, o chatbot pode gerar resultados que podem envolver a divulgação de informações confidenciais, produção de conteúdo impróprio ou até mesmo a criação e execução de um código malicioso.
Para se proteger contra ataques de pishings e outros, o relatório da SlashNext recomenda algumas práticas. Entre elas, que as organizações usem verificação de e-mail aprimorada, incluindo alertas automáticos para e-mails que representam figuras internas.
Além disso, é recomendado que as empresas sinalizem e-mails com palavras-chave como “urgente” ou “transferência eletrônica”. São essas palavras que geralmente estão relacionadas às práticas criminosas.
$100 de bônus de boas vindas. Crie sua conta na melhor corretora de traders de criptomoedas. Acesse ByBit.com
