การโจมตีทางไซเบอร์โดยแฮกเกอร์ชาวจีนและอิหร่านที่ใช้ ChatGPT

หากมีสัญญาณหนึ่งที่บ่งบอกว่า AI มีปัญหามากกว่าความคุ้มค่า นั่นก็คือ โอเพ่นไอ ยืนยันว่ามีการโจมตีทางไซเบอร์เกิดขึ้นมากกว่า 20 ครั้ง ทั้งหมดนี้สร้างขึ้นผ่าน ChatGPT รายงานยืนยันว่า generative AI ถูกใช้เพื่อโจมตีแบบฟิชชิ่ง แก้ไขจุดบกพร่องและพัฒนามัลแวร์ และดำเนินกิจกรรมที่เป็นอันตรายอื่นๆ

报告确认了一起利用生成式AI ChatGPT的网络攻击。Cisco Talos于2024年11月报告了首起攻击，该攻击由针对亚洲政府机构的中国威胁行为者实施。此次攻击采用了一种名为‘SweetSpecter'的网络钓鱼手段，包含一个内含恶意文件的ZIP压缩包；若用户下载并打开该文件，将在其系统中形成一条感染链。OpenAI发现，SweetSpecter是通过多个账户创建的，这些账户利用ChatGPT编写脚本，并使用LLM工具来发掘漏洞。.

第二起由AI增强的网络攻击来自伊朗的‘CyberAv3ngers'组织，该组织利用ChatGPT挖掘漏洞并窃取基于macOS的PC用户的密码。第三起攻击由另一个名为“Storm-0817”的伊朗组织主导，他们使用ChatGPT开发恶意软件，以实现相关目的。 แอนดรอยด์- มัลแวร์ขโมยรายชื่อผู้ติดต่อ ดึงบันทึกการโทรและประวัติโทรศัพท์ เบราว์เซอร์ได้รับตำแหน่งที่แม่นยำของอุปกรณ์และเข้าถึงไฟล์บนอุปกรณ์ที่ติดไวรัส

การโจมตีทั้งหมดนี้ใช้วิธีการที่มีอยู่ในการพัฒนา มัลแวร์ 此外，根据该报告，目前没有证据表明ChatGPT曾生成过全新的实质性恶意软件。尽管如此，这仍表明威胁行为者很容易欺骗生成式AI服务，使其创建恶意攻击工具。这打开了新的潘多拉魔盒，证明任何具备必要知识的人都可以轻易诱导ChatGPT从事恶意行为。不过，仍有研究人员在积极应对这一问题。 ความปลอดภัย การค้นพบช่องโหว่ที่มีศักยภาพดังกล่าวเพื่อรายงานและแก้ไข การโจมตีประเภทนี้จะทำให้เกิดความจำเป็นต้องมีการหารือเกี่ยวกับข้อจำกัดในการใช้งาน AI เชิงสร้างสรรค์

จากนี้ไป OpenAI มุ่งมั่นที่จะปรับปรุงอย่างต่อเนื่อง ปัญญาประดิษฐ์ โดยมีวัตถุประสงค์เพื่อป้องกันไม่ให้มีการใช้วิธีการที่อาจส่งผลต่อความปลอดภัยและความสมบูรณ์ของระบบ การตัดสินใจครั้งนี้เน้นย้ำถึงความสำคัญของการรักษาแนวทางเชิงรุกในการปกป้องของคุณ เทคโนโลยี ขั้นสูง. ในระหว่างนี้ OpenAI ไม่เพียงแต่มุ่งเน้นไปที่การพัฒนา AI เท่านั้น แต่ยังจะร่วมมืออย่างใกล้ชิดกับทีมรักษาความปลอดภัยและความปลอดภัยภายในเพื่อให้แน่ใจว่ามีการนำมาตรการที่มีประสิทธิภาพและแข็งแกร่งมาใช้เพื่อปกป้องแพลตฟอร์มของตน

บริษัทได้แสดงให้เห็นชัดเจนว่าจะไม่เพียงแต่มุ่งเน้นไปที่สภาพแวดล้อมของบริษัทเท่านั้น แต่ยังจะแบ่งปันการค้นพบและความก้าวหน้าของบริษัทกับผู้เล่นคนอื่นๆ ในอุตสาหกรรมและชุมชนการวิจัยต่อไป แนวทางการทำงานร่วมกันนี้พยายามป้องกันไม่ให้สถานการณ์ที่คล้ายกันเกิดขึ้นในอนาคต โดยส่งเสริมระบบนิเวศที่ปลอดภัยและเชื่อถือได้มากขึ้นสำหรับผู้ใช้เทคโนโลยีเทคโนโลยีทุกคน ปัญญาประดิษฐ์.

แม้ว่าความคิดริเริ่มนี้จะนำโดย OpenAI แต่ผู้นำอุตสาหกรรมรายอื่นๆ ที่มีแพลตฟอร์ม AI เจนเนอเรชั่นของตนเองก็จำเป็นอย่างยิ่งที่จะต้องนำมาตรการป้องกันที่แข็งแกร่งมาใช้เพื่อป้องกันการโจมตีที่อาจส่งผลต่อระบบของพวกเขา

การป้องกันภัยคุกคามประเภทนี้ถือเป็นความท้าทายอย่างต่อเนื่อง และจำเป็นอย่างยิ่งที่ทุกบริษัทที่เกี่ยวข้องกับการพัฒนาปัญญาประดิษฐ์จะต้องใช้มาตรการป้องกันเชิงรุก

มาตรการเหล่านี้ไม่เพียงแต่มุ่งเน้นไปที่การแก้ปัญหาที่เกิดขึ้นเท่านั้น แต่ยังมุ่งเน้นไปที่การคาดการณ์เพื่อป้องกันไม่ให้เกิดขึ้นตั้งแต่แรกอีกด้วย ด้วยวิธีนี้ บริษัทต่างๆ จะสามารถรับประกันประสบการณ์ที่ปลอดภัยและเชื่อถือได้สำหรับผู้ใช้ทุกคน เสริมสร้างความไว้วางใจในเทคโนโลยีปัญญาประดิษฐ์ และศักยภาพในการเปลี่ยนแปลงในสังคม