OpenAI-rapport: Chinese en Iraanse hackers gebruiken ChatGPT voor malware en phishing bij cyberaanvallen
Chinese en Iraanse hackers gebruiken ChatGPT- en LLM-tools om malware en phishingaanvallen te ontwikkelen: een rapport van OpenAI documenteert meer dan 20 cyberaanvallen die door ChatGPT worden aangestuurd.
Als er één teken is dat AI meer problemen veroorzaakt dan het waard is, is het wel OpenAI bevestigt dat er meer dan 20 cyberaanvallen hebben plaatsgevonden, allemaal via ChatGPT. Het rapport bevestigt dat generatieve AI is gebruikt om phishingaanvallen uit te voeren, malware te debuggen en te ontwikkelen, en andere kwaadaardige activiteiten uit te voeren.
Het rapport bevestigt twee cyberaanvallen waarbij de generatieve AI ChatGPT werd gebruikt. Cisco Talos rapporteerde de eerste in november 2024, die werd uitgevoerd door Chinese dreigingsactoren die zich richtten op Aziatische overheden. Deze aanval maakte gebruik van een phishingmethode genaamd ‘SweetSpecter', die een ZIP-bestand met een kwaadaardig bestand bevatte. Indien gedownload en geopend, zou dit een infectieketen in het systeem van de gebruiker creëren. OpenAI ontdekte dat SweetSpecter werd gemaakt met behulp van meerdere accounts die ChatGPT gebruikten om scripts te ontwikkelen en kwetsbaarheden te ontdekken met behulp van een LLM-tool.
De tweede door AI verbeterde cyberaanval kwam van een in Iran gevestigde groep genaamd ‘CyberAv3ngers', die ChatGPT gebruikte om kwetsbaarheden uit te buiten en wachtwoorden te stelen van pc-gebruikers op basis van macOS. De derde aanval, geleid door een andere in Iran gevestigde groep genaamd Storm-0817, gebruikte ChatGPT om malware te ontwikkelen voor AndroidDe malware stal contactenlijsten, haalde oproeplogboeken en de geschiedenis van de browser, de precieze locatie van het apparaat verkregen en toegang verkregen tot bestanden op de geïnfecteerde apparaten.
Bij al deze aanvallen werd gebruik gemaakt van bestaande methoden om malware en, volgens het rapport, zijn er geen aanwijzingen dat ChatGPT substantieel nieuwe malware heeft gecreëerd. Desalniettemin toont het aan hoe gemakkelijk het is voor dreigingsactoren om generatieve AI-diensten te misleiden om kwaadaardige aanvalstools te creëren. Het opent een nieuw blik wormen, wat aantoont dat het gemakkelijker is voor iedereen met de benodigde kennis om ChatGPT te laten doen wat iets met kwade bedoelingen. Hoewel er onderzoekers zijn beveiliging die dergelijke potentiële kwetsbaarheden ontdekken, deze moeten melden en oplossen. Bij dit soort aanvallen is het nodig om de implementatiebeperkingen van generatieve AI te bespreken.
Vanaf nu zet OpenAI zich er nadrukkelijk voor in om zijn diensten te blijven verbeteren. kunstmatige intelligentie met als doel het voorkomen van het gebruik van methoden die de veiligheid en integriteit van haar systemen in gevaar kunnen brengen. Deze beslissing onderstreept het belang van een proactieve aanpak voor de bescherming van haar systemen. technologieën In de tussentijd richt OpenAI zich niet alleen op de ontwikkeling van zijn AI, maar werkt het ook nauw samen met zijn interne veiligheids- en beveiligingsteams om te garanderen dat er effectieve en robuuste maatregelen worden genomen om zijn platforms te beschermen.
Het bedrijf heeft duidelijk gemaakt dat het zich niet alleen op zijn eigen omgeving zal richten, maar zijn ontdekkingen en ontwikkelingen ook zal blijven delen met andere spelers in de industrie en de onderzoeksgemeenschap. Deze gezamenlijke aanpak is erop gericht soortgelijke situaties in de toekomst te voorkomen en een veiliger en betrouwbaarder ecosysteem te creëren voor alle gebruikers van informatietechnologieën. kunstmatige intelligentie.
Hoewel dit initiatief wordt geleid door OpenAI, is het van groot belang dat andere marktleiders met hun eigen generatieve AI-platformen ook robuuste beschermingsmaatregelen treffen om aanvallen te voorkomen die hun systemen in gevaar kunnen brengen.
Het voorkomen van dit soort dreigingen is een voortdurende uitdaging, en het is essentieel dat alle bedrijven die betrokken zijn bij de ontwikkeling van kunstmatige intelligentie proactieve waarborgen implementeren.
Deze maatregelen moeten niet alleen gericht zijn op het oplossen van problemen zodra ze zich voordoen, maar ook op het anticiperen erop om te voorkomen dat ze überhaupt ontstaan. Op deze manier kunnen bedrijven een veilige en betrouwbare ervaring voor al hun gebruikers garanderen, het vertrouwen in kunstmatige intelligentietechnologieën en hun transformerende potentieel in de samenleving versterken.
