Serangan siber oleh peretas Tiongkok dan Iran menggunakan ChatGPT

Jika ada satu tanda bahwa AI menyebabkan lebih banyak masalah daripada manfaatnya, itu adalah OpenAI mengonfirmasi bahwa lebih dari dua puluh serangan siber telah terjadi, semuanya dibuat melalui ChatGPT. Laporan tersebut mengonfirmasi bahwa AI generatif digunakan untuk melakukan serangan phishing, men-debug dan mengembangkan malware, dan melakukan aktivitas jahat lainnya.

El informe confirma dos ciberataques utilizando la IA generativa ChatGPT. Cisco Talos informó el primero en noviembre de 2024, que fue utilizado por actores de amenazas chinos que apuntaban a gobiernos asiáticos. Este ataque utilizó un método de phishing llamado ‘SweetSpecter’, que incluye un archivo ZIP con un archivo malicioso que, si se descarga y se abre, crearía una cadena de infección en el sistema del usuario. OpenAI descubrió que SweetSpecter se creó utilizando varias cuentas que usaban ChatGPT para desarrollar scripts y descubrir vulnerabilidades utilizando una herramienta LLM.

El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers’ que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para Android. Malware tersebut mencuri daftar kontak, mengekstrak log panggilan dan riwayat panggilan. peramban, memperoleh lokasi pasti perangkat tersebut dan mengakses berkas pada perangkat yang terinfeksi.

Semua serangan ini menggunakan metode yang ada untuk mengembangkan perangkat lunak jahat dan, menurut laporan tersebut, tidak ada indikasi bahwa ChatGPT telah menciptakan malware yang secara substansial baru. Bagaimanapun, ini menunjukkan betapa mudahnya bagi aktor ancaman untuk menipu layanan AI generatif agar membuat alat serangan berbahaya. Ini membuka kotak Pandora baru, menunjukkan bahwa lebih mudah bagi siapa pun dengan pengetahuan yang diperlukan untuk mengaktifkan ChatGPT agar melakukan sesuatu dengan niat jahat. Meskipun ada peneliti dari... keamanan yang menemukan kerentanan potensial untuk melaporkan dan menambalnya, serangan seperti ini akan menciptakan kebutuhan untuk membahas batasan implementasi AI generatif.

Mulai sekarang, OpenAI berkomitmen kuat untuk terus meningkatkan kecerdasan buatan dengan tujuan mencegah penggunaan metode yang dapat membahayakan keamanan dan integritas sistem mereka. Keputusan ini menggarisbawahi pentingnya mempertahankan pendekatan proaktif untuk melindungi teknologi canggih. Sementara itu, OpenAI tidak hanya akan fokus pada pengembangan AI-nya, tetapi juga akan bekerja sama erat dengan tim keselamatan dan keamanan internalnya untuk memastikan langkah-langkah yang efektif dan kuat diterapkan untuk melindungi platformnya.

Perusahaan telah menjelaskan bahwa mereka tidak akan hanya fokus pada lingkungannya sendiri, tetapi juga akan terus berbagi penemuan dan kemajuannya dengan pelaku industri lain dan komunitas penelitian. Pendekatan kolaboratif ini berupaya mencegah situasi serupa terjadi di masa mendatang, dengan mendorong ekosistem yang lebih aman dan andal bagi semua pengguna teknologi informasi. kecerdasan buatan.

Sementara inisiatif ini dipimpin oleh OpenAI, sangat penting bahwa pemimpin industri lain dengan platform AI generatif mereka sendiri juga mengadopsi tindakan perlindungan yang kuat untuk mencegah serangan yang dapat membahayakan sistem mereka.

Pencegahan jenis ancaman ini merupakan tantangan yang terus-menerus, dan sangat penting bagi semua perusahaan yang terlibat dalam pengembangan kecerdasan buatan untuk menerapkan perlindungan proaktif.

Langkah-langkah ini tidak hanya harus fokus pada penyelesaian masalah setelah terjadi, tetapi juga mengantisipasinya untuk mencegahnya muncul sejak awal. Dengan cara ini, perusahaan dapat memastikan pengalaman yang aman dan terpercaya bagi semua penggunanya, memperkuat kepercayaan pada teknologi kecerdasan buatan dan potensi transformasinya dalam masyarakat.