Laporan OpenAI: Peretas Tiongkok dan Iran Menggunakan ChatGPT untuk Menyebarkan Malware dan Phishing dalam Serangan Siber
Peretas Cina dan Iran menggunakan alat ChatGPT dan LLM untuk mengembangkan malware dan serangan phishing: Laporan OpenAI mendokumentasikan lebih dari 20 serangan siber yang didukung ChatGPT.
Jika ada satu tanda bahwa AI menyebabkan lebih banyak masalah daripada manfaatnya, itu adalah OpenAI mengonfirmasi bahwa lebih dari dua puluh serangan siber telah terjadi, semuanya dibuat melalui ChatGPT. Laporan tersebut mengonfirmasi bahwa AI generatif digunakan untuk melakukan serangan phishing, men-debug dan mengembangkan malware, dan melakukan aktivitas jahat lainnya.
Laporan tersebut mengonfirmasi dua serangan siber yang menggunakan AI generatif ChatGPT. Cisco Talos melaporkan yang pertama pada November 2024, yang digunakan oleh aktor ancaman Tiongkok yang menargetkan pemerintah Asia. Serangan ini menggunakan metode phishing yang disebut ‘SweetSpecter', yang mencakup file ZIP dengan file berbahaya yang, jika diunduh dan dibuka, akan menciptakan rantai infeksi di sistem pengguna. OpenAI menemukan bahwa SweetSpecter dibuat menggunakan beberapa akun yang menggunakan ChatGPT untuk mengembangkan skrip dan menemukan kerentanan menggunakan alat LLM.
Serangan siber kedua yang ditingkatkan dengan AI berasal dari kelompok yang berbasis di Iran bernama ‘CyberAv3ngers' yang menggunakan ChatGPT untuk mengeksploitasi kerentanan dan mencuri kata sandi pengguna PC berbasis macOS. Serangan ketiga, yang dipimpin oleh kelompok lain yang berbasis di Iran bernama Storm-0817, menggunakan ChatGPT untuk mengembangkan malware untuk... Android. Malware tersebut mencuri daftar kontak, mengekstrak log panggilan dan riwayat panggilan. peramban, memperoleh lokasi pasti perangkat tersebut dan mengakses berkas pada perangkat yang terinfeksi.
Semua serangan ini menggunakan metode yang ada untuk mengembangkan perangkat lunak jahat dan, menurut laporan tersebut, tidak ada indikasi bahwa ChatGPT telah menciptakan malware yang secara substansial baru. Bagaimanapun, ini menunjukkan betapa mudahnya bagi aktor ancaman untuk menipu layanan AI generatif agar membuat alat serangan berbahaya. Ini membuka kotak Pandora baru, menunjukkan bahwa lebih mudah bagi siapa pun dengan pengetahuan yang diperlukan untuk mengaktifkan ChatGPT agar melakukan sesuatu dengan niat jahat. Meskipun ada peneliti dari... keamanan yang menemukan kerentanan potensial untuk melaporkan dan menambalnya, serangan seperti ini akan menciptakan kebutuhan untuk membahas batasan implementasi AI generatif.
Mulai sekarang, OpenAI berkomitmen kuat untuk terus meningkatkan kecerdasan buatan dengan tujuan mencegah penggunaan metode yang dapat membahayakan keamanan dan integritas sistem mereka. Keputusan ini menggarisbawahi pentingnya mempertahankan pendekatan proaktif untuk melindungi teknologi canggih. Sementara itu, OpenAI tidak hanya akan fokus pada pengembangan AI-nya, tetapi juga akan bekerja sama erat dengan tim keselamatan dan keamanan internalnya untuk memastikan langkah-langkah yang efektif dan kuat diterapkan untuk melindungi platformnya.
Perusahaan telah menjelaskan bahwa mereka tidak akan hanya fokus pada lingkungannya sendiri, tetapi juga akan terus berbagi penemuan dan kemajuannya dengan pelaku industri lain dan komunitas penelitian. Pendekatan kolaboratif ini berupaya mencegah situasi serupa terjadi di masa mendatang, dengan mendorong ekosistem yang lebih aman dan andal bagi semua pengguna teknologi informasi. kecerdasan buatan.
Sementara inisiatif ini dipimpin oleh OpenAI, sangat penting bahwa pemimpin industri lain dengan platform AI generatif mereka sendiri juga mengadopsi tindakan perlindungan yang kuat untuk mencegah serangan yang dapat membahayakan sistem mereka.
Pencegahan jenis ancaman ini merupakan tantangan yang terus-menerus, dan sangat penting bagi semua perusahaan yang terlibat dalam pengembangan kecerdasan buatan untuk menerapkan perlindungan proaktif.
Langkah-langkah ini tidak hanya harus fokus pada penyelesaian masalah setelah terjadi, tetapi juga mengantisipasinya untuk mencegahnya muncul sejak awal. Dengan cara ini, perusahaan dapat memastikan pengalaman yang aman dan terpercaya bagi semua penggunanya, memperkuat kepercayaan pada teknologi kecerdasan buatan dan potensi transformasinya dalam masyarakat.
