चैटजीपीटी का उपयोग करके चीनी और ईरानी हैकरों द्वारा साइबर हमले

यदि इस बात का एक संकेत है कि AI अपनी क्षमता से अधिक परेशानी पैदा कर रहा है, तो वह यह है कि ओपनएआई पुष्टि की गई है कि बीस से अधिक साइबर हमले हुए हैं, जो सभी ChatGPT के माध्यम से किए गए हैं। रिपोर्ट पुष्टि करती है कि जनरेटिव एआई का उपयोग फिशिंग हमलों को अंजाम देने, मैलवेयर को डीबग करने और विकसित करने तथा अन्य दुर्भावनापूर्ण गतिविधियों को अंजाम देने के लिए किया गया था।

该报告确认了两次利用生成式AI ChatGPT实施的网络攻击。Cisco Talos于2024年11月报告了第一次攻击，由针对亚洲政府的中国威胁行为者发起。此次攻击采用了一种名为‘SweetSpecter'的网络钓鱼方法，包含一个带有恶意文件的ZIP压缩包，一旦用户下载并打开该文件，就会在用户系统中建立一条感染链。OpenAI发现，“SweetSpecter”是利用多个账户创建的，这些账户使用ChatGPT开发脚本，并借助LLM工具发现漏洞。.

第二次借助AI增强的网络攻击来自一个名为‘CyberAv3ngers'的伊朗组织，该组织利用ChatGPT挖掘漏洞并窃取基于macOS的PC用户密码。第三次攻击由另一个名为“Storm-0817”的伊朗组织主导，该组织利用ChatGPT开发恶意软件。 एंड्रॉइड. मैलवेयर ने संपर्क सूची चुरा ली, कॉल लॉग और इतिहास निकाल लिया ब्राउज़र, डिवाइस का सटीक स्थान प्राप्त किया और संक्रमित डिवाइस पर फ़ाइलों तक पहुँच प्राप्त की।

इन सभी हमलों में मौजूदा तरीकों का इस्तेमाल किया गया मैलवेयर 并且，根据该报告，目前尚无迹象表明ChatGPT创造了实质性的新型恶意软件。尽管如此，这也表明了威胁行为者欺骗生成式AI服务以创建恶意攻击工具的便利性。这打开了新的潘多拉魔盒，证明任何具备必要知识的人都能更轻松地诱导ChatGPT从事恶意行为。尽管有研究人员在 सुरक्षा जो ऐसी संभावित कमजोरियों की खोज कर उन्हें रिपोर्ट करते हैं और उनमें सुधार करते हैं, ऐसे हमलों से जनरेटिव एआई के कार्यान्वयन की सीमाओं पर चर्चा करने की आवश्यकता उत्पन्न होगी।

अब से, OpenAI अपने सुधार को जारी रखने के लिए दृढ़ता से प्रतिबद्ध है कृत्रिम होशियारी इसका उद्देश्य उन तरीकों के उपयोग को रोकना है जो उनकी प्रणालियों की सुरक्षा और अखंडता से समझौता कर सकते हैं। यह निर्णय आपकी सुरक्षा के लिए सक्रिय दृष्टिकोण बनाए रखने के महत्व को रेखांकित करता है। प्रौद्योगिकियों विकसित। इस बीच, ओपनएआई न केवल अपने एआई को विकसित करने पर ध्यान केंद्रित करेगा, बल्कि अपने प्लेटफार्मों की सुरक्षा के लिए प्रभावी और मजबूत उपायों को सुनिश्चित करने के लिए अपनी आंतरिक सुरक्षा टीमों के साथ मिलकर काम करेगा।

कंपनी ने यह स्पष्ट कर दिया है कि वह न केवल अपने व्यवसाय पर ध्यान केंद्रित करेगी, बल्कि अपनी खोजों और प्रगति को अन्य उद्योग जगत और अनुसंधान समुदाय के साथ साझा करना भी जारी रखेगी। इस सहयोगात्मक दृष्टिकोण का उद्देश्य भविष्य में ऐसी ही स्थितियों को उत्पन्न होने से रोकना तथा सूचना प्रौद्योगिकी के सभी उपयोगकर्ताओं के लिए अधिक सुरक्षित और विश्वसनीय पारिस्थितिकी तंत्र को बढ़ावा देना है। कृत्रिम होशियारी.

यद्यपि इस पहल का नेतृत्व ओपनएआई द्वारा किया जा रहा है, लेकिन यह महत्वपूर्ण है कि अन्य उद्योग जगत के नेता, जिनके पास स्वयं के जनरेटिव एआई प्लेटफॉर्म हैं, वे भी अपने सिस्टम को खतरे में डालने वाले हमलों को रोकने के लिए मजबूत सुरक्षात्मक उपाय अपनाएं।

预防此类威胁是一项持续的挑战，所有参与人工智能开发的企业必须主动实施安全防护措施，这一点至关重要。.

这些措施不仅应侧重于问题发生后的解决，更应着眼于提前预判，以防患于未然。如此一来，企业才能为其所有用户确保安全可靠的体验，从而巩固对人工智能技术及其在社会中变革潜力的信任。.