OpenAI 보고서: 중국과 이란 해커, 맬웨어 및 피싱에 ChatGPT 사용
중국과 이란 해커는 ChatGPT 및 LLM 도구를 사용하여 맬웨어 및 피싱 공격을 개발합니다. OpenAI 보고서에는 20개 이상의 ChatGPT 생성 사이버 공격이 기록되어 있습니다.
AI가 가치보다 문제가 더 많다는 징후가 하나 있다면, 오픈아이 20건 이상의 사이버 공격이 발생했으며 모두 ChatGPT를 통해 발생했음을 확인합니다. 보고서는 생성 AI가 피싱 공격 수행, 악성 코드 디버깅 및 개발, 기타 악의적인 활동 수행에 사용되었음을 확인했습니다.
이 보고서는 생성형 AI인 ChatGPT를 활용한 두 건의 사이버 공격을 확인했습니다. Cisco Talos는 2024년 11월 첫 번째 공격을 보고했으며, 이는 아시아 정부를 표적으로 삼은 중국 위협 행위자들이 사용한 것입니다. 이 공격은 ‘SweetSpecter'라고 불리는 피싱 방식을 사용했으며, 악성 파일이 포함된 ZIP 파일을 다운로드하여 열 경우 사용자 시스템에 감염 체인이 생성됩니다. OpenAI는 SweetSpecter가 여러 계정을 사용해 생성되었으며, 해당 계정들은 ChatGPT를 이용해 스크립트를 개발하고 LLM 도구를 활용해 취약점을 발견한 것으로 확인했습니다.
AI 강화 두 번째 사이버 공격은 이란에 기반을 둔 ‘CyberAv3ngers'라는 그룹에서 발생했으며, 이들은 ChatGPT를 이용해 취약점을 악용하고 macOS 기반 PC 사용자의 비밀번호를 탈취했습니다. 세 번째 공격은 이란에 기반을 둔 또 다른 그룹인 Storm-0817이 주도했으며, ChatGPT를 이용해 악성코드를 개발했습니다. 기계적 인조 인간. 이 악성코드는 연락처 목록을 훔치고 통화 기록과 전화 기록을 추출했습니다. 브라우저, 장치의 정확한 위치를 파악하고 감염된 장치의 파일에 액세스했습니다.
이러한 공격은 모두 기존의 방법을 사용하여 개발되었습니다. 맬웨어 그리고 보고서에 따르면, ChatGPT가 실질적으로 새로운 악성코드를 생성했다는 증거는 아직 없습니다. 그럼에도 불구하고, 이는 위협 행위자들이 생성형 AI 서비스를 속여 악의적인 공격 도구를 만들기가 얼마나 쉬운지를 보여줍니다. 이는 새로운 골칫거리를 야기하며, 필요한 지식을 가진 사람이라면 누구나 ChatGPT를 악의적인 목적으로 작동시키기가 더 쉬워졌음을 입증합니다. 비록 연구자들이 보안 이러한 잠재적인 취약성을 발견하고 보고하고 패치를 적용하려면 생성적 AI의 구현상 한계에 대한 논의가 필요합니다.
이제부터 OpenAI는 지속적인 개선을 위해 최선을 다하고 있습니다. 인공지능 시스템의 보안과 무결성을 손상시킬 수 있는 방법이 사용되는 것을 방지하는 것을 목표로 합니다. 이번 결정은 고객을 보호하기 위해 사전 예방적인 접근 방식을 유지하는 것이 중요하다는 점을 강조합니다. 기술 고급의. 그 동안 OpenAI는 AI 개발에만 집중하는 것이 아니라 내부 보안 및 안전 팀과 긴밀히 협력하여 플랫폼을 보호하기 위한 효과적이고 강력한 조치가 구현되도록 할 것입니다.
회사는 자체 환경에만 초점을 맞추는 것이 아니라 업계 및 연구 커뮤니티의 다른 참여자들과 발견 및 발전을 계속 공유할 것임을 분명히 했습니다. 이러한 협력적 접근 방식은 향후 유사한 상황이 발생하지 않도록 방지하고 모든 기술 기술 사용자를 위한 보다 안전하고 신뢰할 수 있는 생태계를 조성하기 위한 것입니다. 인공지능.
이 이니셔티브는 OpenAI가 주도하고 있지만 자체 생성 AI 플랫폼을 보유한 다른 업계 리더들도 시스템을 손상시킬 수 있는 공격을 방지하기 위해 강력한 보호 조치를 채택하는 것이 중요합니다.
이러한 유형의 위협을 예방하는 것은 지속적인 과제이며, 인공 지능 개발에 참여하는 모든 회사가 사전 예방적 보호 조치를 구현하는 것이 필수적입니다.
이러한 조치는 문제가 발생했을 때 이를 해결하는 데 초점을 둘 뿐만 아니라 문제가 발생하는 것을 사전에 예방하는 데도 초점을 맞춰야 합니다. 이러한 방식으로 기업은 모든 사용자에게 안전하고 신뢰할 수 있는 경험을 보장하고 인공 지능 기술과 사회의 변혁적 잠재력에 대한 신뢰를 강화할 수 있습니다.
