OpenAI Raporu: Çinli ve İranlı Hackerlar Siber Saldırılarda Kötü Amaçlı Yazılım ve Kimlik Avı İçin ChatGPT Kullanıyor
Çinli ve İranlı bilgisayar korsanları, kötü amaçlı yazılım ve kimlik avı saldırıları geliştirmek için ChatGPT ve LLM araçlarını kullanıyor: OpenAI raporunda 20'den fazla ChatGPT destekli siber saldırı belgeleniyor.
Yapay zekanın değerinden daha fazla soruna yol açtığına dair bir işaret varsa, o da şudur: OpenAI ChatGPT üzerinden yirmiyi aşkın siber saldırının gerçekleştiğini doğruladı. Raporda, üretken yapay zekanın kimlik avı saldırıları gerçekleştirmek, kötü amaçlı yazılımları hata ayıklamak ve geliştirmek ve diğer kötü amaçlı faaliyetleri gerçekleştirmek için kullanıldığı doğrulandı.
Rapor, üretken yapay zeka ChatGPT kullanılarak gerçekleştirilen iki siber saldırıyı doğrulamaktadır. Cisco Talos, Kasım 2024‘te ilkini bildirmiş olup, bu saldırı Asya hükümetlerini hedef alan Çinli tehdit aktörleri tarafından kullanılmıştır. Bu saldırı, 'SweetSpecter' adı verilen ve kötü amaçlı bir dosya içeren bir ZIP arşivi barındıran bir kimlik avı yöntemi kullanmıştır; bu dosya indirilip açıldığında kullanıcının sisteminde bir enfeksiyon zinciri oluşturacaktır. OpenAI, SweetSpecter'in, betikler geliştirmek ve bir LLM aracı kullanarak güvenlik açıklarını keşfetmek için ChatGPT kullanan çeşitli hesaplar aracılığıyla oluşturulduğunu tespit etmiştir.
Yapay zeka destekli ikinci siber saldırı, ‘CyberAv3ngers' adlı İran merkezli bir gruptan gelmiş olup, bu grup güvenlik açıklarından yararlanmak ve macOS tabanlı PC kullanıcılarının şifrelerini çalmak için ChatGPT kullanmıştır. Storm-0817 adlı yine İran merkezli başka bir grup tarafından yürütülen üçüncü saldırı ise, kötü amaçlı yazılım geliştirmek için ChatGPT kullanmıştır. Android. Kötü amaçlı yazılım, kişi listelerini çaldı, arama kayıtlarını ve geçmişi çıkardı tarayıcı, cihazın tam yerini elde etti ve enfekte cihazlardaki dosyalara erişti.
Tüm bu saldırılar, mevcut yöntemleri kullanarak geliştirildi kötü amaçlı yazılım ve rapora göre, ChatGPT'nin önemli ölçüde yeni bir kötü amaçlı yazılım oluşturduğuna dair herhangi bir belirti bulunmamaktadır. Yine de bu durum, tehdit aktörlerinin saldırı araçları oluşturmak için üretken yapay zeka hizmetlerini kandırmasının ne kadar kolay olduğunu göstermektedir. Bu, gerekli bilgiye sahip herkesin kötü niyetli bir amaç için ChatGPT'yi harekete geçirmesinin daha kolay olduğunu kanıtlayarak yeni bir sorunlar silsilesini ortaya çıkarmaktadır. Her ne kadar araştırmacılar olsa da, güvenlik Bu tür potansiyel güvenlik açıklarını keşfedip raporlayıp yamalamak isteyen şirketler için bu tür saldırılar, üretken yapay zekanın uygulama sınırlamalarının tartışılması ihtiyacını doğuracaktır.
OpenAI bundan sonra da kendini geliştirmeye kararlı bir şekilde devam edecektir. yapay zeka sistemlerinin güvenliğini ve bütünlüğünü tehlikeye atabilecek yöntemlerin kullanılmasının önlenmesi amacıyla; Bu karar, haklarınızı korumak için proaktif bir yaklaşım sürdürmenin önemini vurgulamaktadır. teknolojiler gelişmiş. Bu arada OpenAI yalnızca yapay zekasını geliştirmeye odaklanmayacak, aynı zamanda platformlarını korumak için etkili ve sağlam önlemlerin alındığından emin olmak amacıyla iç güvenlik ve emniyet ekipleriyle yakın bir şekilde çalışacak.
Şirket, yalnızca kendi işine odaklanmayacağını, aynı zamanda keşiflerini ve gelişmelerini diğer sektör oyuncuları ve araştırma topluluğuyla paylaşmaya devam edeceğini açıkça belirtti. Bu işbirlikçi yaklaşım, benzer durumların gelecekte de yaşanmasını önlemeyi, bilgi teknolojileri kullanıcılarının tamamı için daha güvenli ve güvenilir bir ekosistem oluşturmayı amaçlıyor. yapay zeka.
Bu girişim OpenAI tarafından yönetilirken, kendi üretken yapay zeka platformlarına sahip diğer sektör liderlerinin de sistemlerini tehlikeye atabilecek saldırıları önlemek için güçlü koruyucu önlemler alması hayati önem taşıyor.
Bu tür tehditlerin önlenmesi sürekli bir zorluk teşkil etmektedir ve yapay zeka geliştirme sürecinde yer alan tüm şirketlerin proaktif güvenlik önlemleri uygulaması hayati önem taşımaktadır.
Bu önlemler yalnızca sorunlar ortaya çıktığında çözmeye odaklanmamalı, aynı zamanda öncelikle ortaya çıkmamaları için onları öngörmeye yönelik olmalıdır. Bu şekilde şirketler, tüm kullanıcıları için güvenli ve güvenilir bir deneyim sağlayabilir, yapay zeka teknolojilerine ve bunların toplumdaki dönüştürücü potansiyeline olan güveni güçlendirebilir.
