OpenAI-rapport: Kinesiska och iranska hackare använder ChatGPT för skadlig programvara och nätfiske i cyberattacker
Kinesiska och iranska hackare använder ChatGPT- och LLM-verktyg för att utveckla skadlig programvara och nätfiskeattacker: En OpenAI-rapport dokumenterar mer än 20 ChatGPT-drivna cyberattacker.
Om det finns ett tecken på att AI orsakar mer problem än det är värt, så är det Öppen AI bekräftar att fler än 20 cyberattacker har inträffat, alla skapade via ChatGPT. Rapporten bekräftar att generativ AI användes för att utföra nätfiskeattacker, felsöka och utveckla skadlig programvara och utföra andra skadliga aktiviteter.
El informe confirma dos ciberataques utilizando la IA generativa ChatGPT. Cisco Talos informó el primero en noviembre de 2024, que fue utilizado por actores de amenazas chinos que apuntaban a gobiernos asiáticos. Este ataque utilizó un método de phishing llamado ‘SweetSpecter', que incluye un archivo ZIP con un archivo malicioso que, si se descarga y se abre, crearía una cadena de infección en el sistema del usuario. OpenAI descubrió que SweetSpecter se creó utilizando varias cuentas que usaban ChatGPT para desarrollar scripts y descubrir vulnerabilidades utilizando una herramienta LLM.
El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers' que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para AndroidSkadlig programvara stal kontaktlistor, extraherade samtalsloggar och historik för webbläsare, erhöll enhetens exakta plats och fick åtkomst till filer på de infekterade enheterna.
Alla dessa attacker använde befintliga metoder för att utveckla skadlig kod y, según el informe, no ha habido indicios de que ChatGPT haya creado malware sustancialmente nuevo. De todos modos, muestra lo fácil que es para los actores de amenazas engañar a los servicios de IA generativa para que creen herramientas de ataque maliciosas. Abre una nueva lata de gusanos, demostrando que es más fácil para cualquier persona con el conocimiento necesario activar ChatGPT para hacer algo con malas intenciones. Si bien hay investigadores de säkerhet som upptäcker sådana potentiella sårbarheter för att rapportera och åtgärda dem, skulle attacker som denna skapa ett behov av att diskutera implementeringsbegränsningarna för generativ AI.
Från och med nu är OpenAI fast beslutet att fortsätta förbättra sin artificiell intelligens i syfte att förhindra användning av metoder som kan äventyra säkerheten och integriteten i dess system. Detta beslut understryker vikten av att upprätthålla en proaktiv strategi för att skydda dess teknologier Under tiden kommer OpenAI inte bara att fokusera på att utveckla sin AI, utan också arbeta nära sina interna säkerhetsteam för att säkerställa att effektiva och robusta åtgärder finns på plats för att skydda sina plattformar.
Företaget har tydliggjort att det inte bara kommer att fokusera på sin egen miljö, utan också fortsätta att dela sina upptäckter och framsteg med andra aktörer inom branschen och forskarsamhället. Denna samarbetsstrategi syftar till att förhindra att liknande situationer uppstår i framtiden och främja ett säkrare och mer tillförlitligt ekosystem för alla användare av informationsteknik. artificiell intelligens.
Även om detta initiativ leds av OpenAI är det avgörande att andra branschledare med sina egna generativa AI-plattformar också antar robusta skyddsåtgärder för att förhindra attacker som kan äventyra deras system.
La prevención de este tipo de amenazas es un desafío constante, y es esencial que todas las empresas involucradas en el desarrollo de inteligencia artificial implementen salvaguardas proactivas.
Estas medidas no solo deben enfocarse en resolver problemas una vez que ocurran, sino en anticiparse a ellos para evitar que surjan en primer lugar. De esta manera, las empresas podrán garantizar una experiencia segura y confiable para todos sus usuarios, fortaleciendo la confianza en las tecnologías de inteligencia artificial y su potencial transformador en la sociedad.
