OpenAI-rapport: Chinese en Iraanse hackers gebruiken ChatGPT voor malware en phishing bij cyberaanvallen
Chinese en Iraanse hackers gebruiken ChatGPT- en LLM-tools om malware en phishingaanvallen te ontwikkelen: een rapport van OpenAI documenteert meer dan 20 cyberaanvallen die door ChatGPT worden aangestuurd.
Als er één teken is dat AI meer problemen veroorzaakt dan het waard is, is het wel OpenAI bevestigt dat er meer dan 20 cyberaanvallen hebben plaatsgevonden, allemaal via ChatGPT. Het rapport bevestigt dat generatieve AI is gebruikt om phishingaanvallen uit te voeren, malware te debuggen en te ontwikkelen, en andere kwaadaardige activiteiten uit te voeren.
El informe confirma dos ciberataques utilizando la IA generativa ChatGPT. Cisco Talos informó el primero en noviembre de 2024, que fue utilizado por actores de amenazas chinos que apuntaban a gobiernos asiáticos. Este ataque utilizó un método de phishing llamado ‘SweetSpecter', que incluye un archivo ZIP con un archivo malicioso que, si se descarga y se abre, crearía una cadena de infección en el sistema del usuario. OpenAI descubrió que SweetSpecter se creó utilizando varias cuentas que usaban ChatGPT para desarrollar scripts y descubrir vulnerabilidades utilizando una herramienta LLM.
El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers' que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para AndroidDe malware stal contactenlijsten, haalde oproeplogboeken en de geschiedenis van de browser, de precieze locatie van het apparaat verkregen en toegang verkregen tot bestanden op de geïnfecteerde apparaten.
Bij al deze aanvallen werd gebruik gemaakt van bestaande methoden om malware y, según el informe, no ha habido indicios de que ChatGPT haya creado malware sustancialmente nuevo. De todos modos, muestra lo fácil que es para los actores de amenazas engañar a los servicios de IA generativa para que creen herramientas de ataque maliciosas. Abre una nueva lata de gusanos, demostrando que es más fácil para cualquier persona con el conocimiento necesario activar ChatGPT para hacer algo con malas intenciones. Si bien hay investigadores de beveiliging die dergelijke potentiële kwetsbaarheden ontdekken, deze moeten melden en oplossen. Bij dit soort aanvallen is het nodig om de implementatiebeperkingen van generatieve AI te bespreken.
Vanaf nu zet OpenAI zich er nadrukkelijk voor in om zijn diensten te blijven verbeteren. kunstmatige intelligentie met als doel het voorkomen van het gebruik van methoden die de veiligheid en integriteit van haar systemen in gevaar kunnen brengen. Deze beslissing onderstreept het belang van een proactieve aanpak voor de bescherming van haar systemen. technologieën In de tussentijd richt OpenAI zich niet alleen op de ontwikkeling van zijn AI, maar werkt het ook nauw samen met zijn interne veiligheids- en beveiligingsteams om te garanderen dat er effectieve en robuuste maatregelen worden genomen om zijn platforms te beschermen.
Het bedrijf heeft duidelijk gemaakt dat het zich niet alleen op zijn eigen omgeving zal richten, maar zijn ontdekkingen en ontwikkelingen ook zal blijven delen met andere spelers in de industrie en de onderzoeksgemeenschap. Deze gezamenlijke aanpak is erop gericht soortgelijke situaties in de toekomst te voorkomen en een veiliger en betrouwbaarder ecosysteem te creëren voor alle gebruikers van informatietechnologieën. kunstmatige intelligentie.
Hoewel dit initiatief wordt geleid door OpenAI, is het van groot belang dat andere marktleiders met hun eigen generatieve AI-platformen ook robuuste beschermingsmaatregelen treffen om aanvallen te voorkomen die hun systemen in gevaar kunnen brengen.
La prevención de este tipo de amenazas es un desafío constante, y es esencial que todas las empresas involucradas en el desarrollo de inteligencia artificial implementen salvaguardas proactivas.
Estas medidas no solo deben enfocarse en resolver problemas una vez que ocurran, sino en anticiparse a ellos para evitar que surjan en primer lugar. De esta manera, las empresas podrán garantizar una experiencia segura y confiable para todos sus usuarios, fortaleciendo la confianza en las tecnologías de inteligencia artificial y su potencial transformador en la sociedad.
