Rapport OpenAI : Les cyberattaques menées par des pirates informatiques chinois et iraniens utilisent ChatGPT pour les logiciels malveillants et le phishing.
Les pirates chinois et iraniens utilisent les outils ChatGPT et LLM pour développer des logiciels malveillants et des attaques de phishing : un rapport d'OpenAI documente plus de 20 cyberattaques générées par ChatGPT.
S’il y a un signe que l’IA pose plus de problèmes qu’elle n’en vaut la peine, c’est bien OpenAI confirme que plus d'une vingtaine de cyberattaques ont eu lieu, toutes créées via ChatGPT. Le rapport confirme que l’IA générative a été utilisée pour mener des attaques de phishing, déboguer et développer des logiciels malveillants, ainsi que pour mener d’autres activités malveillantes.
Le rapport confirme deux cyberattaques utilisant l’IA générative ChatGPT. Cisco Talos a signalé la première en novembre 2024, qui a été utilisée par des acteurs de menace chinois ciblant des gouvernements asiatiques. Cette attaque a utilisé une méthode de phishing appelée ‘SweetSpecter', qui inclut un fichier ZIP contenant un fichier malveillant qui, s'il est téléchargé et ouvert, créerait une chaîne d'infection dans le système de l'utilisateur. OpenAI a découvert que SweetSpecter a été créé à l'aide de plusieurs comptes qui utilisaient ChatGPT pour développer des scripts et découvrir des vulnérabilités en utilisant un outil LLM.
La deuxième cyberattaque améliorée par l'IA provenait d'un groupe basé en Iran appelé ‘CyberAv3ngers' qui a utilisé ChatGPT pour exploiter des vulnérabilités et voler des mots de passe d'utilisateurs de PC basés sur macOS. La troisième attaque, menée par un autre groupe basé en Iran appelé Storm-0817, a utilisé ChatGPT pour développer des logiciels malveillants pour Androïde. Le malware a volé les listes de contacts, extrait les journaux d’appels et l’historique du téléphone. navigateur, a obtenu l'emplacement précis de l'appareil et a accédé aux fichiers sur les appareils infectés.
Toutes ces attaques ont utilisé des méthodes existantes pour développer logiciels malveillants et, selon le rapport, il n'y a eu aucun indice que ChatGPT ait créé des logiciels malveillants substantiellement nouveaux. Quoi qu'il en soit, cela montre à quel point il est facile pour les acteurs de menace de tromper les services d'IA générative pour qu'ils créent des outils d'attaque malveillants. Cela ouvre une nouvelle boîte de Pandore, démontrant qu'il est plus facile pour toute personne ayant les connaissances nécessaires d'activer ChatGPT pour faire quelque chose de malveillant. Bien qu'il y ait des chercheurs de sécurité en découvrant de telles vulnérabilités potentielles pour les signaler et les corriger, des attaques comme celle-ci créeraient le besoin de discuter des limites de mise en œuvre de l'IA générative.
Désormais, OpenAI s'engage fermement à continuer d'améliorer son intelligence artificielle dans le but d’empêcher l’utilisation de méthodes susceptibles de compromettre la sécurité et l’intégrité de leurs systèmes. Cette décision souligne l'importance de maintenir une approche proactive dans la protection de votre technologies avancé. Entre-temps, OpenAI ne se concentrera pas seulement sur le développement de son IA, mais collaborera également en étroite collaboration avec ses équipes internes de sécurité et de sûreté pour garantir que des mesures efficaces et robustes sont mises en œuvre pour protéger ses plateformes.
L'entreprise a clairement indiqué qu'elle ne se concentrerait pas uniquement sur son propre environnement, mais qu'elle continuerait également à partager ses découvertes et ses avancées avec d'autres acteurs de l'industrie et de la communauté de la recherche. Cette approche collaborative vise à éviter que des situations similaires ne se reproduisent à l'avenir, en favorisant un écosystème plus sûr et plus fiable pour tous les utilisateurs de technologies technologiques. intelligence artificielle.
Bien que cette initiative soit dirigée par OpenAI, il est crucial que les autres leaders du secteur disposant de leurs propres plateformes d’IA générative adoptent également des mesures de protection robustes pour prévenir les attaques susceptibles de compromettre leurs systèmes.
La prévention de ce type de menaces constitue un défi permanent et il est essentiel que toutes les entreprises impliquées dans le développement de l’intelligence artificielle mettent en œuvre des mesures de protection proactives.
Ces mesures ne devraient pas se concentrer uniquement sur la résolution des problèmes dès qu’ils surviennent, mais aussi sur leur anticipation pour éviter qu’ils ne surviennent. De cette manière, les entreprises pourront garantir une expérience sûre et fiable à tous leurs utilisateurs, renforçant ainsi la confiance dans les technologies d’intelligence artificielle et leur potentiel de transformation dans la société.
