OpenAI-rapport: Kinesiska och iranska hackare använder ChatGPT för skadlig programvara och nätfiske i cyberattacker
Kinesiska och iranska hackare använder ChatGPT- och LLM-verktyg för att utveckla skadlig programvara och nätfiskeattacker: En OpenAI-rapport dokumenterar mer än 20 ChatGPT-drivna cyberattacker.
Om det finns ett tecken på att AI orsakar mer problem än det är värt, så är det Öppen AI bekräftar att fler än 20 cyberattacker har inträffat, alla skapade via ChatGPT. Rapporten bekräftar att generativ AI användes för att utföra nätfiskeattacker, felsöka och utveckla skadlig programvara och utföra andra skadliga aktiviteter.
El informe confirma dos ciberataques utilizando la IA generativa ChatGPT. Cisco Talos informó el primero en noviembre de 2024, que fue utilizado por actores de amenazas chinos que apuntaban a gobiernos asiáticos. Este ataque utilizó un método de phishing llamado ‘SweetSpecter’, que incluye un archivo ZIP con un archivo malicioso que, si se descarga y se abre, crearía una cadena de infección en el sistema del usuario. OpenAI descubrió que SweetSpecter se creó utilizando varias cuentas que usaban ChatGPT para desarrollar scripts y descubrir vulnerabilidades utilizando una herramienta LLM.
El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers’ que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para AndroidSkadlig programvara stal kontaktlistor, extraherade samtalsloggar och historik för webbläsare, erhöll enhetens exakta plats och fick åtkomst till filer på de infekterade enheterna.
Alla dessa attacker använde befintliga metoder för att utveckla skadlig kod och enligt rapporten har det inte funnits några tecken på att ChatGPT har skapat väsentligt ny skadlig kod. Ändå visar det hur lätt det är för hotaktörer att lura generativa AI-tjänster till att skapa skadliga attackverktyg. Det öppnar en ny Pandoras ask och visar att det är lättare för alla med nödvändig kunskap att aktivera ChatGPT för att göra något med onda avsikter. Även om det finns forskare som arbetar med säkerhet som upptäcker sådana potentiella sårbarheter för att rapportera och åtgärda dem, skulle attacker som denna skapa ett behov av att diskutera implementeringsbegränsningarna för generativ AI.
Från och med nu är OpenAI fast beslutet att fortsätta förbättra sin artificiell intelligens i syfte att förhindra användning av metoder som kan äventyra säkerheten och integriteten i dess system. Detta beslut understryker vikten av att upprätthålla en proaktiv strategi för att skydda dess teknologier Under tiden kommer OpenAI inte bara att fokusera på att utveckla sin AI, utan också arbeta nära sina interna säkerhetsteam för att säkerställa att effektiva och robusta åtgärder finns på plats för att skydda sina plattformar.
Företaget har tydliggjort att det inte bara kommer att fokusera på sin egen miljö, utan också fortsätta att dela sina upptäckter och framsteg med andra aktörer inom branschen och forskarsamhället. Denna samarbetsstrategi syftar till att förhindra att liknande situationer uppstår i framtiden och främja ett säkrare och mer tillförlitligt ekosystem för alla användare av informationsteknik. artificiell intelligens.
Även om detta initiativ leds av OpenAI är det avgörande att andra branschledare med sina egna generativa AI-plattformar också antar robusta skyddsåtgärder för att förhindra attacker som kan äventyra deras system.
Att förebygga denna typ av hot är en ständig utmaning, och det är väsentligt att alla företag som är involverade i utvecklingen av artificiell intelligens implementerar proaktiva skyddsåtgärder.
Dessa åtgärder bör inte bara fokusera på att lösa problem när de uppstår, utan på att förutse dem för att förhindra att de uppstår överhuvudtaget. På så sätt kan företagen garantera en säker och pålitlig upplevelse för alla sina användare, vilket stärker förtroendet för artificiell intelligens-teknologier och deras transformerande potential i samhället.
