Cyberattacker av kinesiska och iranska hackare med hjälp av ChatGPT

Om det finns ett tecken på att AI orsakar mer problem än det är värt, så är det Öppen AI bekräftar att fler än 20 cyberattacker har inträffat, alla skapade via ChatGPT. Rapporten bekräftar att generativ AI användes för att utföra nätfiskeattacker, felsöka och utveckla skadlig programvara och utföra andra skadliga aktiviteter.

Rapporten bekräftar två cyberattacker som använt den generativa AI:n ChatGPT. Cisco Talos rapporterade den första i november 2024, som utfördes av kinesiska hotaktörer som riktade sig mot asiatiska regeringar. Denna attack använde en nätfiskemetod kallad ‘SweetSpecter', som innehåller en ZIP-fil med en skadlig fil som, om den laddas ner och öppnas, skulle skapa en infektionskedja i användarens system. OpenAI upptäckte att SweetSpecter skapades med hjälp av flera konton som använde ChatGPT för att utveckla skript och upptäcka sårbarheter med hjälp av ett LLM-verktyg.

Den andra AI-förbättrade cyberattacken kom från en Iranskt baserad grupp kallad ‘CyberAv3ngers' som använde ChatGPT för att utnyttja sårbarheter och stjäla lösenord från macOS-baserade PC-användare. Den tredje attacken, ledd av en annan Iranskt baserad grupp kallad Storm-0817, använde ChatGPT för att utveckla skadlig kod för AndroidSkadlig programvara stal kontaktlistor, extraherade samtalsloggar och historik för webbläsare, erhöll enhetens exakta plats och fick åtkomst till filer på de infekterade enheterna.

Alla dessa attacker använde befintliga metoder för att utveckla skadlig kod och enligt rapporten har det inte funnits några tecken på att ChatGPT har skapat väsentligt ny skadlig kod. Ändå visar det hur lätt det är för hotaktörer att lura generativa AI-tjänster till att skapa skadliga attackverktyg. Det öppnar en ny Pandoras ask och visar att det är lättare för alla med nödvändig kunskap att aktivera ChatGPT för att göra något med onda avsikter. Även om det finns forskare som arbetar med säkerhet som upptäcker sådana potentiella sårbarheter för att rapportera och åtgärda dem, skulle attacker som denna skapa ett behov av att diskutera implementeringsbegränsningarna för generativ AI.

Från och med nu är OpenAI fast beslutet att fortsätta förbättra sin artificiell intelligens i syfte att förhindra användning av metoder som kan äventyra säkerheten och integriteten i dess system. Detta beslut understryker vikten av att upprätthålla en proaktiv strategi för att skydda dess teknologier Under tiden kommer OpenAI inte bara att fokusera på att utveckla sin AI, utan också arbeta nära sina interna säkerhetsteam för att säkerställa att effektiva och robusta åtgärder finns på plats för att skydda sina plattformar.

Företaget har tydliggjort att det inte bara kommer att fokusera på sin egen miljö, utan också fortsätta att dela sina upptäckter och framsteg med andra aktörer inom branschen och forskarsamhället. Denna samarbetsstrategi syftar till att förhindra att liknande situationer uppstår i framtiden och främja ett säkrare och mer tillförlitligt ekosystem för alla användare av informationsteknik. artificiell intelligens.

Även om detta initiativ leds av OpenAI är det avgörande att andra branschledare med sina egna generativa AI-plattformar också antar robusta skyddsåtgärder för att förhindra attacker som kan äventyra deras system.

Att förebygga denna typ av hot är en ständig utmaning, och det är väsentligt att alla företag som är involverade i utvecklingen av artificiell intelligens implementerar proaktiva skyddsåtgärder.

Dessa åtgärder bör inte bara fokusera på att lösa problem när de uppstår, utan på att förutse dem för att förhindra att de uppstår överhuvudtaget. På så sätt kan företagen garantera en säker och pålitlig upplevelse för alla sina användare, vilket stärker förtroendet för artificiell intelligens-teknologier och deras transformerande potential i samhället.