Ciberataques realizados por hackers chineses e iranianos usando o ChatGPT

Se há um sinal de que a IA causa mais problemas do que vale, é OpenAI confirma que ocorreram mais de vinte ataques cibernéticos, todos criados através do ChatGPT. O relatório confirma que a IA generativa foi usada para conduzir ataques de phishing, depurar e desenvolver malware e conduzir outras atividades maliciosas.

O relatório confirma dois ciberataques utilizando a IA generativa ChatGPT. A Cisco Talos informou o primeiro em novembro de 2024, que foi utilizado por atores de ameaças chineses que visavam governos asiáticos. Este ataque utilizou um método de phishing chamado ‘SweetSpecter', que inclui um arquivo ZIP com um arquivo malicioso que, se baixado e aberto, criaria uma cadeia de infecção no sistema do usuário. A OpenAI descobriu que o SweetSpecter foi criado utilizando várias contas que usavam o ChatGPT para desenvolver scripts e descobrir vulnerabilidades utilizando uma ferramenta LLM.

O segundo ciberataque melhorado com IA veio de um grupo com sede no Irã chamado ‘CyberAv3ngers' que utilizou o ChatGPT para explorar vulnerabilidades e roubar senhas de usuários de PCs baseados em macOS. O terceiro ataque, liderado por outro grupo com sede no Irã chamado Storm-0817, utilizou o ChatGPT para desenvolver malware para Andróide. O malware roubou listas de contatos, extraiu registros de chamadas e histórico telefônico. navegador, obteve a localização precisa do dispositivo e acessou arquivos nos dispositivos infectados.

Todos esses ataques usaram métodos existentes para desenvolver malware e, de acordo com o relatório, não houve indícios de que o ChatGPT tenha criado malware substancialmente novo. De qualquer forma, mostra como é fácil para os atores de ameaças enganar os serviços de IA generativa para que criem ferramentas de ataque maliciosas. Abre uma nova caixa de vermes, demonstrando que é mais fácil para qualquer pessoa com o conhecimento necessário ativar o ChatGPT para fazer algo com más intenções. Embora haja pesquisadores de segurança ao descobrir tais vulnerabilidades potenciais para relatá-las e corrigi-las, ataques como esse criariam a necessidade de discutir as limitações de implementação da IA generativa.

A partir de agora, a OpenAI está firmemente empenhada em continuar a melhorar a sua inteligência artificial com o objetivo de evitar a utilização de métodos que possam comprometer a segurança e a integridade dos seus sistemas. Esta decisão sublinha a importância de manter uma abordagem proativa na proteção do seu tecnologias avançado. Entretanto, a OpenAI não se concentrará apenas no desenvolvimento da sua IA, mas também colaborará estreitamente com as suas equipas internas de segurança e proteção para garantir que medidas eficazes e robustas sejam implementadas para salvaguardar as suas plataformas.

A empresa deixou claro que não se concentrará apenas no seu próprio ambiente, mas também continuará a partilhar as suas descobertas e avanços com outros intervenientes na indústria e na comunidade de investigação. Esta abordagem colaborativa procura evitar que situações semelhantes ocorram no futuro, promovendo um ecossistema mais seguro e confiável para todos os utilizadores de tecnologias tecnológicas. inteligência artificial.

Embora esta iniciativa seja liderada pela OpenAI, é crucial que outros líderes da indústria com as suas próprias plataformas generativas de IA também adotem medidas de proteção robustas para evitar ataques que possam comprometer os seus sistemas.

Prevenir este tipo de ameaças é um desafio constante e é essencial que todas as empresas envolvidas no desenvolvimento da inteligência artificial implementem salvaguardas proativas.

Estas medidas não devem centrar-se apenas na resolução de problemas assim que estes ocorram, mas também em antecipá-los para evitar que surjam. Desta forma, as empresas poderão garantir uma experiência segura e confiável a todos os seus utilizadores, fortalecendo a confiança nas tecnologias de inteligência artificial e no seu potencial transformador na sociedade.