Rapporto OpenAI: gli hacker cinesi e iraniani usano ChatGPT per malware e phishing
Hacker cinesi e iraniani utilizzano gli strumenti ChatGPT e LLM per sviluppare malware e attacchi di phishing: il rapporto OpenAI documenta più di 20 attacchi informatici generati da ChatGPT
Se c’è un segnale che l’intelligenza artificiale crea più problemi di quanto valga, è proprio questo OpenAI conferma che si sono verificati più di venti attacchi informatici, tutti realizzati tramite ChatGPT. Il rapporto conferma che l’intelligenza artificiale generativa è stata utilizzata per condurre attacchi di phishing, eseguire il debug e sviluppare malware ed eseguire altre attività dannose.
Il rapporto conferma due attacchi informatici che utilizzano l’IA generativa ChatGPT. Cisco Talos ha segnalato il primo nel novembre 2024, utilizzato da attori minacciosi cinesi che prendevano di mira governi asiatici. Questo attacco ha impiegato un metodo di phishing chiamato ‘SweetSpecter', che include un file ZIP contenente un file malintenzionato: se scaricato e aperto, creerebbe una catena di infezione nel sistema dell’utente. OpenAI ha scoperto che SweetSpecter è stato creato utilizzando diversi account che usavano ChatGPT per sviluppare script e individuare vulnerabilità tramite uno strumento LLM.
Il secondo attacco informatico potenziato dall’IA proveniva da un gruppo con sede in Iran chiamato ‘CyberAv3ngers', che ha utilizzato ChatGPT per sfruttare vulnerabilità e rubare password di utenti PC basati su macOS. Il terzo attacco, guidato da un altro gruppo con sede in Iran chiamato Storm-0817, ha utilizzato ChatGPT per sviluppare malware per Android. Il malware ha rubato elenchi di contatti, estratto registri delle chiamate e cronologia telefonica. navigatore, ha ottenuto la posizione precisa del dispositivo e ha avuto accesso ai file sui dispositivi infetti.
Tutti questi attacchi hanno utilizzato metodi esistenti per sviluppare malware e, secondo il rapporto, non ci sono stati segni che ChatGPT abbia creato malware sostanzialmente nuovo. Tuttavia, dimostra quanto sia facile per gli attori minacciosi ingannare i servizi di IA generativa affinché creino strumenti di attacco dannosi. Apre un nuovo vaso di Pandora, mostrando che è più semplice per chiunque abbia le conoscenze necessarie indurre ChatGPT a compiere azioni con intenzioni malevole. Sebbene ci siano ricercatori di sicurezza scoprire tali potenziali vulnerabilità per segnalarle e correggerle, attacchi come questo creerebbero la necessità di discutere i limiti di implementazione dell'intelligenza artificiale generativa.
Da ora in poi, OpenAI è fermamente impegnata a continuare a migliorare il suo intelligenza artificiale con l’obiettivo di prevenire l’impiego di metodi che possano compromettere la sicurezza e l’integrità dei propri sistemi. Questa decisione sottolinea l'importanza di mantenere un approccio proattivo per proteggere i propri tecnologie avanzato. Nel frattempo, OpenAI non si concentrerà solo sullo sviluppo della sua intelligenza artificiale, ma collaborerà anche strettamente con i suoi team interni di sicurezza e protezione per garantire che siano implementate misure efficaci e solide per salvaguardare le sue piattaforme.
L'azienda ha chiarito che non si concentrerà solo sul proprio ambiente, ma continuerà anche a condividere le sue scoperte e i suoi progressi con altri attori del settore e con la comunità della ricerca. Questo approccio collaborativo mira a impedire che situazioni simili si ripetano in futuro, promuovendo un ecosistema più sicuro e affidabile per tutti gli utenti delle tecnologie informatiche. intelligenza artificiale.
Sebbene questa iniziativa sia guidata da OpenAI, è fondamentale che anche altri leader del settore con le proprie piattaforme di intelligenza artificiale generativa adottino solide misure di protezione per prevenire attacchi che potrebbero compromettere i loro sistemi.
Prevenire questo tipo di minacce è una sfida continua ed è essenziale che tutte le aziende coinvolte nello sviluppo dell’intelligenza artificiale implementino misure di salvaguardia proattive.
Queste misure non dovrebbero concentrarsi solo sulla risoluzione dei problemi una volta che si verificano, ma anche sull’anticipazione per evitare che si verifichino. In questo modo, le aziende potranno garantire un’esperienza sicura e affidabile a tutti i propri utenti, rafforzando la fiducia nelle tecnologie di intelligenza artificiale e nel loro potenziale di trasformazione nella società.
