การโจมตีทางไซเบอร์โดยแฮกเกอร์ชาวจีนและอิหร่านที่ใช้ ChatGPT

หากมีสัญญาณหนึ่งที่บ่งบอกว่า AI มีปัญหามากกว่าความคุ้มค่า นั่นก็คือ OpenAI ยืนยันว่ามีการโจมตีทางไซเบอร์เกิดขึ้นมากกว่า 20 ครั้ง ทั้งหมดนี้สร้างขึ้นผ่าน ChatGPT รายงานยืนยันว่า generative AI ถูกใช้เพื่อโจมตีแบบฟิชชิ่ง แก้ไขจุดบกพร่องและพัฒนามัลแวร์ และดำเนินกิจกรรมที่เป็นอันตรายอื่นๆ

รายงานยืนยันการโจมตีทางไซเบอร์สองครั้งโดยใช้ ChatGPT generative AI ครั้งแรกรายงานโดย Cisco Talos ในเดือนพฤศจิกายน 2024 ซึ่งถูกใช้โดยผู้แสดงภัยคุกคามชาวจีนที่กำหนดเป้าหมายไปที่รัฐบาลในเอเชีย การโจมตีครั้งนี้ใช้วิธีการของ ฟิชชิ่ง เรียกว่า 'SweetSpecter' ซึ่งประกอบด้วยไฟล์ ZIP ที่มีไฟล์อันตราย ซึ่งหากดาวน์โหลดและเปิดขึ้นมา จะสร้างห่วงโซ่การติดเชื้อบนระบบของผู้ใช้ OpenAI ค้นพบว่า SweetSpecter ถูกสร้างขึ้นโดยใช้หลายบัญชีที่ใช้ ChatGPT เพื่อพัฒนาสคริปต์และค้นหาช่องโหว่โดยใช้เครื่องมือ LLM

การโจมตีทางไซเบอร์ด้วย AI ครั้งที่สองเกิดขึ้นจากกลุ่มที่ตั้งอยู่ในอิหร่านที่เรียกว่า 'CyberAv3ngers' ซึ่งใช้ ChatGPT เพื่อใช้ประโยชน์จากช่องโหว่และขโมยรหัสผ่านจากผู้ใช้พีซีตาม ระบบปฏิบัติการ macOS- การโจมตีครั้งที่สามซึ่งนำโดยกลุ่มที่อยู่ในอิหร่านอีกกลุ่มหนึ่งชื่อ Storm-0817 ใช้ ChatGPT เพื่อพัฒนามัลแวร์ แอนดรอยด์- มัลแวร์ขโมยรายชื่อผู้ติดต่อ ดึงบันทึกการโทรและประวัติโทรศัพท์ เบราว์เซอร์ได้รับตำแหน่งที่แม่นยำของอุปกรณ์และเข้าถึงไฟล์บนอุปกรณ์ที่ติดไวรัส

การโจมตีทั้งหมดนี้ใช้วิธีการที่มีอยู่ในการพัฒนา มัลแวร์ และตามรายงาน ไม่มีข้อบ่งชี้ว่า ChatGPT ได้สร้างมัลแวร์ใหม่อย่างมีนัยสำคัญ อย่างไรก็ตาม มันแสดงให้เห็นว่าการที่ผู้คุกคามสามารถหลอกผู้ใช้ได้ง่ายเพียงใด บริการ AI เชิงสร้างสรรค์เพื่อสร้างเครื่องมือโจมตีที่เป็นอันตราย มันเปิดกระป๋องหนอนใหม่ พิสูจน์ให้เห็นว่าใครก็ตามที่มีความรู้ที่จำเป็นสามารถเปิดใช้งาน ChatGPT เพื่อทำบางสิ่งบางอย่างที่มีเจตนาเป็นอันตรายได้ง่ายขึ้น ขณะที่มีนักวิจัยของ ความปลอดภัย การค้นพบช่องโหว่ที่มีศักยภาพดังกล่าวเพื่อรายงานและแก้ไข การโจมตีประเภทนี้จะทำให้เกิดความจำเป็นต้องมีการหารือเกี่ยวกับข้อจำกัดในการใช้งาน AI เชิงสร้างสรรค์

จากนี้ไป OpenAI มุ่งมั่นที่จะปรับปรุงอย่างต่อเนื่อง ปัญญาประดิษฐ์ โดยมีวัตถุประสงค์เพื่อป้องกันไม่ให้มีการใช้วิธีการที่อาจส่งผลต่อความปลอดภัยและความสมบูรณ์ของระบบ การตัดสินใจครั้งนี้เน้นย้ำถึงความสำคัญของการรักษาแนวทางเชิงรุกในการปกป้องของคุณ เทคโนโลยี ขั้นสูง. ในระหว่างนี้ OpenAI ไม่เพียงแต่มุ่งเน้นไปที่การพัฒนา AI เท่านั้น แต่ยังจะร่วมมืออย่างใกล้ชิดกับทีมรักษาความปลอดภัยและความปลอดภัยภายในเพื่อให้แน่ใจว่ามีการนำมาตรการที่มีประสิทธิภาพและแข็งแกร่งมาใช้เพื่อปกป้องแพลตฟอร์มของตน

บริษัทได้แสดงให้เห็นชัดเจนว่าจะไม่เพียงแต่มุ่งเน้นไปที่สภาพแวดล้อมของบริษัทเท่านั้น แต่ยังจะแบ่งปันการค้นพบและความก้าวหน้าของบริษัทกับผู้เล่นคนอื่นๆ ในอุตสาหกรรมและชุมชนการวิจัยต่อไป แนวทางการทำงานร่วมกันนี้พยายามป้องกันไม่ให้สถานการณ์ที่คล้ายกันเกิดขึ้นในอนาคต โดยส่งเสริมระบบนิเวศที่ปลอดภัยและเชื่อถือได้มากขึ้นสำหรับผู้ใช้เทคโนโลยีเทคโนโลยีทุกคน ปัญญาประดิษฐ์.

แม้ว่าความคิดริเริ่มนี้จะนำโดย OpenAI แต่ผู้นำอุตสาหกรรมรายอื่นๆ ที่มีแพลตฟอร์ม AI เจนเนอเรชั่นของตนเองก็จำเป็นอย่างยิ่งที่จะต้องนำมาตรการป้องกันที่แข็งแกร่งมาใช้เพื่อป้องกันการโจมตีที่อาจส่งผลต่อระบบของพวกเขา

การป้องกันภัยคุกคามประเภทนี้ถือเป็นความท้าทายอย่างต่อเนื่อง และจำเป็นอย่างยิ่งที่ทุกบริษัทจะต้องมีส่วนร่วมในการพัฒนา ปัญญาประดิษฐ์ ใช้มาตรการป้องกันเชิงรุก

มาตรการเหล่านี้ไม่เพียงแต่มุ่งเน้นไปที่การแก้ปัญหาที่เกิดขึ้นเท่านั้น แต่ยังมุ่งเน้นไปที่การคาดการณ์เพื่อป้องกันไม่ให้เกิดขึ้นตั้งแต่แรกอีกด้วย ด้วยวิธีนี้ บริษัทต่างๆ จะสามารถรับประกันประสบการณ์ที่ปลอดภัยและเชื่อถือได้สำหรับผู้ใช้ทุกคน เสริมสร้างความไว้วางใจใน เทคโนโลยี ปัญญาประดิษฐ์และศักยภาพในการเปลี่ยนแปลงในสังคม