AI가 가치보다 문제가 더 많다는 징후가 하나 있다면, 오픈AI 20건 이상의 사이버 공격이 발생했으며 모두 ChatGPT를 통해 발생했음을 확인합니다. 보고서는 생성 AI가 피싱 공격 수행, 악성 코드 디버깅 및 개발, 기타 악의적인 활동 수행에 사용되었음을 확인했습니다.

보고서는 ChatGPT 생성 AI를 사용한 두 건의 사이버 공격을 확인했습니다. 첫 번째는 2024년 11월 Cisco Talos가 보고한 것으로, 아시아 정부를 표적으로 삼는 중국 위협 행위자들이 사용했습니다. 이 공격은 'SweetSpecter'라는 피싱 방법을 사용했습니다. 여기에는 다운로드하여 열면 사용자 시스템에 감염 체인을 생성하는 악성 파일이 포함된 ZIP 아카이브가 포함되어 있습니다. OpenAI는 ChatGPT를 사용하여 스크립트를 개발하고 LLM 도구를 사용하여 취약점을 발견하는 여러 계정을 사용하여 SweetSpecter가 생성되었음을 발견했습니다.

AI로 강화된 두 번째 사이버 공격은 ChatGPT를 사용하여 macOS 기반 PC 사용자의 취약점을 악용하고 비밀번호를 훔친 'CyberAv3ngers'라는 이란 기반 그룹에서 발생했습니다. Storm-0817이라는 이란 기반의 또 다른 그룹이 주도한 세 번째 공격은 ChatGPT를 사용하여 Android 악성 코드를 개발했습니다. 악성코드는 연락처 목록을 훔치고, 통화 기록과 브라우저 기록을 추출하고, 정확한 장치 위치를 확보하고, 감염된 장치의 파일에 액세스했습니다.

이러한 모든 공격은 기존 방법을 사용하여 악성 코드를 개발했으며 보고서에 따르면 ChatGPT가 실질적으로 새로운 악성 코드를 생성했다는 징후는 없습니다. 그럼에도 불구하고 위협 행위자가 생성 AI 서비스를 속여 악성 공격 도구를 만드는 것이 얼마나 쉬운지 보여줍니다. 이는 새로운 웜 캔을 열어 필요한 지식을 가진 사람이라면 누구나 ChatGPT를 활성화하여 나쁜 의도로 작업을 수행하는 것이 더 쉽다는 것을 보여줍니다. 이러한 잠재적인 취약점을 발견하여 이를 보고하고 패치하는 보안 연구원이 있지만, 이와 같은 공격으로 인해 생성 AI의 구현 한계에 대해 논의할 필요가 있습니다.

이제부터 OpenAI는 시스템의 보안과 무결성을 손상시킬 수 있는 방법이 사용되는 것을 방지하기 위해 인공 지능을 지속적으로 개선하기 위해 최선을 다하고 있습니다. 이번 결정은 첨단 기술을 보호하기 위한 사전 예방적 접근 방식 유지의 중요성을 강조합니다. 그 동안 OpenAI는 AI 개발에만 집중하는 것이 아니라 내부 보안 및 안전 팀과 긴밀히 협력하여 플랫폼을 보호하기 위한 효과적이고 강력한 조치가 구현되도록 할 것입니다.

회사는 자체 환경에만 초점을 맞추는 것이 아니라 업계 및 연구 커뮤니티의 다른 참여자들과 발견 및 발전을 계속 공유할 것임을 분명히 했습니다. 이러한 협업적 접근 방식은 향후 유사한 상황이 발생하지 않도록 방지하고 모든 인공 지능 기술 사용자를 위한 보다 안전하고 신뢰할 수 있는 생태계를 조성하기 위한 것입니다.

이 이니셔티브는 OpenAI가 주도하고 있지만 자체 생성 AI 플랫폼을 보유한 다른 업계 리더들도 시스템을 손상시킬 수 있는 공격을 방지하기 위해 강력한 보호 조치를 채택하는 것이 중요합니다.

이러한 유형의 위협을 예방하는 것은 지속적인 과제이며, 인공 지능 개발에 참여하는 모든 회사가 사전 예방적 보호 조치를 구현하는 것이 필수적입니다.

이러한 조치는 문제가 발생했을 때 이를 해결하는 데 초점을 둘 뿐만 아니라 문제가 발생하는 것을 사전에 예방하는 데도 초점을 맞춰야 합니다. 이러한 방식으로 기업은 모든 사용자에게 안전하고 신뢰할 수 있는 경험을 보장하고 인공 지능 기술과 사회의 변혁적 잠재력에 대한 신뢰를 강화할 수 있습니다.