यदि इस बात का एक संकेत है कि AI अपनी क्षमता से अधिक परेशानी पैदा कर रहा है, तो वह यह है कि ओपनएआई पुष्टि की गई है कि बीस से अधिक साइबर हमले हुए हैं, जो सभी ChatGPT के माध्यम से किए गए हैं। रिपोर्ट पुष्टि करती है कि जनरेटिव एआई का उपयोग फिशिंग हमलों को अंजाम देने, मैलवेयर को डीबग करने और विकसित करने तथा अन्य दुर्भावनापूर्ण गतिविधियों को अंजाम देने के लिए किया गया था।

रिपोर्ट में जनरेटिव AI ChatGPT का उपयोग करके किए गए दो साइबर हमलों की पुष्टि की गई है। सिस्को टैलोस ने नवंबर 2024 में पहली रिपोर्ट की थी, जिसका उपयोग एशियाई सरकारों को निशाना बनाने वाले चीनी खतरे वाले अभिनेताओं द्वारा किया गया था। इस हमले में एक विधि का इस्तेमाल किया गया फ़िशिंग 'स्वीटस्पेक्टर' नामक इस वायरस में एक ज़िप फ़ाइल शामिल है, जिसमें एक दुर्भावनापूर्ण फ़ाइल है, जिसे यदि डाउनलोड करके खोला जाए तो उपयोगकर्ता के सिस्टम पर संक्रमण की एक श्रृंखला बन जाएगी। ओपनएआई ने पाया कि स्वीटस्पेक्टर को कई खातों का उपयोग करके बनाया गया था, जो स्क्रिप्ट विकसित करने और एलएलएम टूल का उपयोग करके कमजोरियों का पता लगाने के लिए चैटजीपीटी का उपयोग करते थे।

दूसरा एआई-संवर्धित साइबर हमला ईरान स्थित 'साइबरएवेंजर्स' नामक समूह से आया, जिसने चैटजीपीटी का उपयोग कमजोरियों का फायदा उठाने और पीसी उपयोगकर्ताओं से पासवर्ड चुराने के लिए किया। मैक ओएस. तीसरा हमला, स्टॉर्म-0817 नामक एक अन्य ईरान-आधारित समूह के नेतृत्व में किया गया, जिसमें चैटजीपीटी का उपयोग मैलवेयर विकसित करने के लिए किया गया। एंड्रॉयड. मैलवेयर ने संपर्क सूची चुरा ली, कॉल लॉग और इतिहास निकाल लिया ब्राउज़र, डिवाइस का सटीक स्थान प्राप्त किया और संक्रमित डिवाइस पर फ़ाइलों तक पहुँच प्राप्त की।

इन सभी हमलों में मौजूदा तरीकों का इस्तेमाल किया गया मैलवेयर और, रिपोर्ट के अनुसार, ऐसा कोई संकेत नहीं मिला है कि चैटजीपीटी ने कोई नया मैलवेयर बनाया है। वैसे भी, इससे पता चलता है कि धमकी देने वालों के लिए उपयोगकर्ताओं को धोखा देना कितना आसान है। सेवा दुर्भावनापूर्ण हमले के उपकरण बनाने के लिए जनरेटिव एआई। इससे समस्याओं का एक नया पिटारा खुल गया है, तथा यह सिद्ध हो गया है कि ChatGPT को सक्रिय करने के लिए आवश्यक ज्ञान रखने वाले किसी भी व्यक्ति के लिए कुछ दुर्भावनापूर्ण कार्य करना अधिक आसान है। जबकि वहाँ शोधकर्ताओं रहे हैं सुरक्षा जो ऐसी संभावित कमजोरियों की खोज कर उन्हें रिपोर्ट करते हैं और उनमें सुधार करते हैं, ऐसे हमलों से जनरेटिव एआई के कार्यान्वयन की सीमाओं पर चर्चा करने की आवश्यकता उत्पन्न होगी।

अब से, OpenAI अपने सुधार को जारी रखने के लिए दृढ़ता से प्रतिबद्ध है कृत्रिम होशियारी इसका उद्देश्य उन तरीकों के उपयोग को रोकना है जो उनकी प्रणालियों की सुरक्षा और अखंडता से समझौता कर सकते हैं। यह निर्णय आपकी सुरक्षा के लिए सक्रिय दृष्टिकोण बनाए रखने के महत्व को रेखांकित करता है। प्रौद्योगिकियों विकसित। इस बीच, ओपनएआई न केवल अपने एआई को विकसित करने पर ध्यान केंद्रित करेगा, बल्कि अपने प्लेटफार्मों की सुरक्षा के लिए प्रभावी और मजबूत उपायों को सुनिश्चित करने के लिए अपनी आंतरिक सुरक्षा टीमों के साथ मिलकर काम करेगा।

कंपनी ने यह स्पष्ट कर दिया है कि वह न केवल अपने व्यवसाय पर ध्यान केंद्रित करेगी, बल्कि अपनी खोजों और प्रगति को अन्य उद्योग जगत और अनुसंधान समुदाय के साथ साझा करना भी जारी रखेगी। इस सहयोगात्मक दृष्टिकोण का उद्देश्य भविष्य में ऐसी ही स्थितियों को उत्पन्न होने से रोकना तथा सूचना प्रौद्योगिकी के सभी उपयोगकर्ताओं के लिए अधिक सुरक्षित और विश्वसनीय पारिस्थितिकी तंत्र को बढ़ावा देना है। कृत्रिम होशियारी.

यद्यपि इस पहल का नेतृत्व ओपनएआई द्वारा किया जा रहा है, लेकिन यह महत्वपूर्ण है कि अन्य उद्योग जगत के नेता, जिनके पास स्वयं के जनरेटिव एआई प्लेटफॉर्म हैं, वे भी अपने सिस्टम को खतरे में डालने वाले हमलों को रोकने के लिए मजबूत सुरक्षात्मक उपाय अपनाएं।

इस प्रकार के खतरों को रोकना एक निरंतर चुनौती है, और यह आवश्यक है कि विकास में शामिल सभी कंपनियां कृत्रिम होशियारी सक्रिय सुरक्षा उपाय लागू करना।

इन उपायों का ध्यान न केवल समस्याओं के उत्पन्न होने पर उनका समाधान करने पर होना चाहिए, बल्कि उनका पूर्वानुमान लगाकर उन्हें उत्पन्न होने से पहले ही रोकने पर भी होना चाहिए। इस तरह, कंपनियां अपने सभी उपयोगकर्ताओं के लिए एक सुरक्षित और विश्वसनीय अनुभव की गारंटी देने में सक्षम होंगी, जिससे उनकी विश्वसनीयता पर भरोसा मजबूत होगा। प्रौद्योगिकियों कृत्रिम बुद्धिमत्ता और समाज में इसकी परिवर्तनकारी क्षमता के बारे में चर्चा की गई।