Relatório OpenAI: Ataques cibernéticos por hackers chineses e iranianos usam ChatGPT para malware e phishing.
Hackers chineses e iranianos usam ferramentas ChatGPT e LLM para desenvolver malware e ataques de phishing: relatório OpenAI documenta mais de 20 ataques cibernéticos gerados por ChatGPT
Se há um sinal de que a IA causa mais problemas do que vale, é OpenAI confirma que ocorreram mais de vinte ataques cibernéticos, todos criados através do ChatGPT. O relatório confirma que a IA generativa foi usada para conduzir ataques de phishing, depurar e desenvolver malware e conduzir outras atividades maliciosas.
El informe confirma dos ciberataques utilizando la IA generativa ChatGPT. Cisco Talos informó el primero en noviembre de 2024, que fue utilizado por actores de amenazas chinos que apuntaban a gobiernos asiáticos. Este ataque utilizó un método de phishing llamado ‘SweetSpecter', que incluye un archivo ZIP con un archivo malicioso que, si se descarga y se abre, crearía una cadena de infección en el sistema del usuario. OpenAI descubrió que SweetSpecter se creó utilizando varias cuentas que usaban ChatGPT para desarrollar scripts y descubrir vulnerabilidades utilizando una herramienta LLM.
El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers' que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para Andróide. O malware roubou listas de contatos, extraiu registros de chamadas e histórico telefônico. navegador, obteve a localização precisa do dispositivo e acessou arquivos nos dispositivos infectados.
Todos esses ataques usaram métodos existentes para desenvolver malware y, según el informe, no ha habido indicios de que ChatGPT haya creado malware sustancialmente nuevo. De todos modos, muestra lo fácil que es para los actores de amenazas engañar a los servicios de IA generativa para que creen herramientas de ataque maliciosas. Abre una nueva lata de gusanos, demostrando que es más fácil para cualquier persona con el conocimiento necesario activar ChatGPT para hacer algo con malas intenciones. Si bien hay investigadores de segurança ao descobrir tais vulnerabilidades potenciais para relatá-las e corrigi-las, ataques como esse criariam a necessidade de discutir as limitações de implementação da IA generativa.
A partir de agora, a OpenAI está firmemente empenhada em continuar a melhorar a sua inteligência artificial com o objetivo de evitar a utilização de métodos que possam comprometer a segurança e a integridade dos seus sistemas. Esta decisão sublinha a importância de manter uma abordagem proativa na proteção do seu tecnologias avançado. Entretanto, a OpenAI não se concentrará apenas no desenvolvimento da sua IA, mas também colaborará estreitamente com as suas equipas internas de segurança e proteção para garantir que medidas eficazes e robustas sejam implementadas para salvaguardar as suas plataformas.
A empresa deixou claro que não se concentrará apenas no seu próprio ambiente, mas também continuará a partilhar as suas descobertas e avanços com outros intervenientes na indústria e na comunidade de investigação. Esta abordagem colaborativa procura evitar que situações semelhantes ocorram no futuro, promovendo um ecossistema mais seguro e confiável para todos os utilizadores de tecnologias tecnológicas. inteligência artificial.
Embora esta iniciativa seja liderada pela OpenAI, é crucial que outros líderes da indústria com as suas próprias plataformas generativas de IA também adotem medidas de proteção robustas para evitar ataques que possam comprometer os seus sistemas.
Prevenir este tipo de ameaças é um desafio constante e é essencial que todas as empresas envolvidas no desenvolvimento da inteligência artificial implementem salvaguardas proativas.
Estas medidas não devem centrar-se apenas na resolução de problemas assim que estes ocorram, mas também em antecipá-los para evitar que surjam. Desta forma, as empresas poderão garantir uma experiência segura e confiável a todos os seus utilizadores, fortalecendo a confiança nas tecnologias de inteligência artificial e no seu potencial transformador na sociedade.
