รายงาน OpenAI: แฮกเกอร์ชาวจีนและอิหร่านใช้ ChatGPT สำหรับมัลแวร์และฟิชชิ่ง
แฮกเกอร์ชาวจีนและอิหร่านใช้เครื่องมือ ChatGPT และ LLM เพื่อพัฒนามัลแวร์และการโจมตีแบบฟิชชิ่ง: รายงาน OpenAI บันทึกการโจมตีทางไซเบอร์ที่สร้างโดย ChatGPT มากกว่า 20 รายการ
หากมีสัญญาณหนึ่งที่บ่งบอกว่า AI มีปัญหามากกว่าความคุ้มค่า นั่นก็คือ โอเพ่นไอ ยืนยันว่ามีการโจมตีทางไซเบอร์เกิดขึ้นมากกว่า 20 ครั้ง ทั้งหมดนี้สร้างขึ้นผ่าน ChatGPT รายงานยืนยันว่า generative AI ถูกใช้เพื่อโจมตีแบบฟิชชิ่ง แก้ไขจุดบกพร่องและพัฒนามัลแวร์ และดำเนินกิจกรรมที่เป็นอันตรายอื่นๆ
รายงานยืนยันการโจมตีทางไซเบอร์สองครั้งโดยใช้ ChatGPT generative AI ครั้งแรกรายงานโดย Cisco Talos ในเดือนพฤศจิกายน 2024 ซึ่งถูกใช้โดยผู้แสดงภัยคุกคามชาวจีนที่กำหนดเป้าหมายไปที่รัฐบาลในเอเชีย การโจมตีนี้ใช้วิธีการฟิชชิ่งที่เรียกว่า 'SweetSpecter' ซึ่งรวมถึงไฟล์ ZIP ที่มีไฟล์ที่เป็นอันตราย ซึ่งหากดาวน์โหลดและเปิดขึ้นมา จะทำให้เกิดการติดไวรัสในระบบของผู้ใช้ OpenAI ค้นพบว่า SweetSpecter ถูกสร้างขึ้นโดยใช้หลายบัญชีที่ใช้ ChatGPT เพื่อพัฒนาสคริปต์และค้นหาช่องโหว่โดยใช้เครื่องมือ LLM
El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers’ que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para แอนดรอยด์- มัลแวร์ขโมยรายชื่อผู้ติดต่อ ดึงบันทึกการโทรและประวัติโทรศัพท์ เบราว์เซอร์ได้รับตำแหน่งที่แม่นยำของอุปกรณ์และเข้าถึงไฟล์บนอุปกรณ์ที่ติดไวรัส
การโจมตีทั้งหมดนี้ใช้วิธีการที่มีอยู่ในการพัฒนา มัลแวร์ 此外，根据该报告，目前没有证据表明ChatGPT曾生成过全新的实质性恶意软件。尽管如此，这仍表明威胁行为者很容易欺骗生成式AI服务，使其创建恶意攻击工具。这打开了新的潘多拉魔盒，证明任何具备必要知识的人都可以轻易诱导ChatGPT从事恶意行为。不过，仍有研究人员在积极应对这一问题。 ความปลอดภัย การค้นพบช่องโหว่ที่มีศักยภาพดังกล่าวเพื่อรายงานและแก้ไข การโจมตีประเภทนี้จะทำให้เกิดความจำเป็นต้องมีการหารือเกี่ยวกับข้อจำกัดในการใช้งาน AI เชิงสร้างสรรค์
จากนี้ไป OpenAI มุ่งมั่นที่จะปรับปรุงอย่างต่อเนื่อง ปัญญาประดิษฐ์ โดยมีวัตถุประสงค์เพื่อป้องกันไม่ให้มีการใช้วิธีการที่อาจส่งผลต่อความปลอดภัยและความสมบูรณ์ของระบบ การตัดสินใจครั้งนี้เน้นย้ำถึงความสำคัญของการรักษาแนวทางเชิงรุกในการปกป้องของคุณ เทคโนโลยี ขั้นสูง. ในระหว่างนี้ OpenAI ไม่เพียงแต่มุ่งเน้นไปที่การพัฒนา AI เท่านั้น แต่ยังจะร่วมมืออย่างใกล้ชิดกับทีมรักษาความปลอดภัยและความปลอดภัยภายในเพื่อให้แน่ใจว่ามีการนำมาตรการที่มีประสิทธิภาพและแข็งแกร่งมาใช้เพื่อปกป้องแพลตฟอร์มของตน
บริษัทได้แสดงให้เห็นชัดเจนว่าจะไม่เพียงแต่มุ่งเน้นไปที่สภาพแวดล้อมของบริษัทเท่านั้น แต่ยังจะแบ่งปันการค้นพบและความก้าวหน้าของบริษัทกับผู้เล่นคนอื่นๆ ในอุตสาหกรรมและชุมชนการวิจัยต่อไป แนวทางการทำงานร่วมกันนี้พยายามป้องกันไม่ให้สถานการณ์ที่คล้ายกันเกิดขึ้นในอนาคต โดยส่งเสริมระบบนิเวศที่ปลอดภัยและเชื่อถือได้มากขึ้นสำหรับผู้ใช้เทคโนโลยีเทคโนโลยีทุกคน ปัญญาประดิษฐ์.
แม้ว่าความคิดริเริ่มนี้จะนำโดย OpenAI แต่ผู้นำอุตสาหกรรมรายอื่นๆ ที่มีแพลตฟอร์ม AI เจนเนอเรชั่นของตนเองก็จำเป็นอย่างยิ่งที่จะต้องนำมาตรการป้องกันที่แข็งแกร่งมาใช้เพื่อป้องกันการโจมตีที่อาจส่งผลต่อระบบของพวกเขา
การป้องกันภัยคุกคามประเภทนี้ถือเป็นความท้าทายอย่างต่อเนื่อง และจำเป็นอย่างยิ่งที่ทุกบริษัทที่เกี่ยวข้องกับการพัฒนาปัญญาประดิษฐ์จะต้องใช้มาตรการป้องกันเชิงรุก
มาตรการเหล่านี้ไม่เพียงแต่มุ่งเน้นไปที่การแก้ปัญหาที่เกิดขึ้นเท่านั้น แต่ยังมุ่งเน้นไปที่การคาดการณ์เพื่อป้องกันไม่ให้เกิดขึ้นตั้งแต่แรกอีกด้วย ด้วยวิธีนี้ บริษัทต่างๆ จะสามารถรับประกันประสบการณ์ที่ปลอดภัยและเชื่อถือได้สำหรับผู้ใช้ทุกคน เสริมสร้างความไว้วางใจในเทคโนโลยีปัญญาประดิษฐ์ และศักยภาพในการเปลี่ยนแปลงในสังคม
