चैटजीपीटी का उपयोग करके चीनी और ईरानी हैकरों द्वारा साइबर हमले

यदि इस बात का एक संकेत है कि AI अपनी क्षमता से अधिक परेशानी पैदा कर रहा है, तो वह यह है कि ओपनएआई पुष्टि की गई है कि बीस से अधिक साइबर हमले हुए हैं, जो सभी ChatGPT के माध्यम से किए गए हैं। रिपोर्ट पुष्टि करती है कि जनरेटिव एआई का उपयोग फिशिंग हमलों को अंजाम देने, मैलवेयर को डीबग करने और विकसित करने तथा अन्य दुर्भावनापूर्ण गतिविधियों को अंजाम देने के लिए किया गया था।

El informe confirma dos ciberataques utilizando la IA generativa ChatGPT. Cisco Talos informó el primero en noviembre de 2024, que fue utilizado por actores de amenazas chinos que apuntaban a gobiernos asiáticos. Este ataque utilizó un método de phishing llamado ‘SweetSpecter', que incluye un archivo ZIP con un archivo malicioso que, si se descarga y se abre, crearía una cadena de infección en el sistema del usuario. OpenAI descubrió que SweetSpecter se creó utilizando varias cuentas que usaban ChatGPT para desarrollar scripts y descubrir vulnerabilidades utilizando una herramienta LLM.

El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers' que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para एंड्रॉइड. मैलवेयर ने संपर्क सूची चुरा ली, कॉल लॉग और इतिहास निकाल लिया ब्राउज़र, डिवाइस का सटीक स्थान प्राप्त किया और संक्रमित डिवाइस पर फ़ाइलों तक पहुँच प्राप्त की।

इन सभी हमलों में मौजूदा तरीकों का इस्तेमाल किया गया मैलवेयर y, según el informe, no ha habido indicios de que ChatGPT haya creado malware sustancialmente nuevo. De todos modos, muestra lo fácil que es para los actores de amenazas engañar a los servicios de IA generativa para que creen herramientas de ataque maliciosas. Abre una nueva lata de gusanos, demostrando que es más fácil para cualquier persona con el conocimiento necesario activar ChatGPT para hacer algo con malas intenciones. Si bien hay investigadores de सुरक्षा जो ऐसी संभावित कमजोरियों की खोज कर उन्हें रिपोर्ट करते हैं और उनमें सुधार करते हैं, ऐसे हमलों से जनरेटिव एआई के कार्यान्वयन की सीमाओं पर चर्चा करने की आवश्यकता उत्पन्न होगी।

अब से, OpenAI अपने सुधार को जारी रखने के लिए दृढ़ता से प्रतिबद्ध है कृत्रिम होशियारी इसका उद्देश्य उन तरीकों के उपयोग को रोकना है जो उनकी प्रणालियों की सुरक्षा और अखंडता से समझौता कर सकते हैं। यह निर्णय आपकी सुरक्षा के लिए सक्रिय दृष्टिकोण बनाए रखने के महत्व को रेखांकित करता है। प्रौद्योगिकियों विकसित। इस बीच, ओपनएआई न केवल अपने एआई को विकसित करने पर ध्यान केंद्रित करेगा, बल्कि अपने प्लेटफार्मों की सुरक्षा के लिए प्रभावी और मजबूत उपायों को सुनिश्चित करने के लिए अपनी आंतरिक सुरक्षा टीमों के साथ मिलकर काम करेगा।

कंपनी ने यह स्पष्ट कर दिया है कि वह न केवल अपने व्यवसाय पर ध्यान केंद्रित करेगी, बल्कि अपनी खोजों और प्रगति को अन्य उद्योग जगत और अनुसंधान समुदाय के साथ साझा करना भी जारी रखेगी। इस सहयोगात्मक दृष्टिकोण का उद्देश्य भविष्य में ऐसी ही स्थितियों को उत्पन्न होने से रोकना तथा सूचना प्रौद्योगिकी के सभी उपयोगकर्ताओं के लिए अधिक सुरक्षित और विश्वसनीय पारिस्थितिकी तंत्र को बढ़ावा देना है। कृत्रिम होशियारी.

यद्यपि इस पहल का नेतृत्व ओपनएआई द्वारा किया जा रहा है, लेकिन यह महत्वपूर्ण है कि अन्य उद्योग जगत के नेता, जिनके पास स्वयं के जनरेटिव एआई प्लेटफॉर्म हैं, वे भी अपने सिस्टम को खतरे में डालने वाले हमलों को रोकने के लिए मजबूत सुरक्षात्मक उपाय अपनाएं।

La prevención de este tipo de amenazas es un desafío constante, y es esencial que todas las empresas involucradas en el desarrollo de inteligencia artificial implementen salvaguardas proactivas.

Estas medidas no solo deben enfocarse en resolver problemas una vez que ocurran, sino en anticiparse a ellos para evitar que surjan en primer lugar. De esta manera, las empresas podrán garantizar una experiencia segura y confiable para todos sus usuarios, fortaleciendo la confianza en las tecnologías de inteligencia artificial y su potencial transformador en la sociedad.