Raport OpenAI: Chińscy i irańscy hakerzy wykorzystują ChatGPT do złośliwego oprogramowania i phishingu w cyberatakach
Chińscy i irańscy hakerzy wykorzystują narzędzia ChatGPT i LLM do tworzenia złośliwego oprogramowania i ataków phishingowych: raport OpenAI dokumentuje ponad 20 cyberataków przeprowadzanych z wykorzystaniem narzędzi ChatGPT.
Jeśli istnieje jeden znak, że sztuczna inteligencja powoduje więcej problemów niż korzyści, to jest to OpenAI potwierdza, że doszło do ponad dwudziestu cyberataków, wszystkie przeprowadzone za pośrednictwem ChatGPT. Raport potwierdza, że sztuczna inteligencja generatywna była wykorzystywana do przeprowadzania ataków phishingowych, debugowania i tworzenia złośliwego oprogramowania, a także do wykonywania innych złośliwych działań.
Raport potwierdza dwa cyberataki z wykorzystaniem generatywnej sztucznej inteligencji ChatGPT. Cisco Talos poinformował o pierwszym z nich w listopadzie 2024 r., który został przeprowadzony przez chińskich aktorów zagrożeń wymierzonych w rządy azjatyckie. Atak ten wykorzystał metodę phishingu o nazwie ‘SweetSpecter', obejmującą plik ZIP z złośliwym plikiem, który po pobraniu i otwarciu stworzyłby łańcuch infekcji w systemie użytkownika. OpenAI odkryło, że SweetSpecter został stworzony przy użyciu kilku kont korzystających z ChatGPT do opracowywania skryptów i wykrywania luk w zabezpieczeniach za pomocą narzędzia LLM.
Drugi cyberatak wzmocniony przez AI pochodził od grupy z siedzibą w Iranie o nazwie ‘CyberAv3ngers', która wykorzystała ChatGPT do eksploatacji luk w zabezpieczeniach i kradzieży haseł użytkowników komputerów PC opartych na systemie macOS. Trzeci atak, prowadzony przez inną grupę z siedzibą w Iranie o nazwie Storm-0817, wykorzystał ChatGPT do opracowania złośliwego oprogramowania dla Android. Oprogramowanie złośliwe ukradło listy kontaktów, wyodrębniło dzienniki połączeń i historię przeglądarka, uzyskał dokładną lokalizację urządzenia i uzyskał dostęp do plików znajdujących się na zainfekowanych urządzeniach.
We wszystkich tych atakach wykorzystano istniejące metody w celu opracowania złośliwe oprogramowanie i według raportu nie ma żadnych oznak, by ChatGPT stworzył zasadniczo nowe złośliwe oprogramowanie. Mimo to pokazuje, jak łatwo aktorom zagrożeń jest oszukać usługi generatywnej AI, aby tworzyły złośliwe narzędzia ataku. Otwiera to nową puszkę Pandory, dowodząc, że każdej osobie z niezbędną wiedzą łatwiej jest nakłonić ChatGPT do działań o złych intencjach. Choć istnieją badacze bezpieczeństwo odkrywania takich potencjalnych luk w zabezpieczeniach, zgłaszania ich i łatania, ataki takie stwarzają potrzebę omówienia ograniczeń implementacji generatywnej sztucznej inteligencji.
Od teraz OpenAI z pełnym zaangażowaniem kontynuuje udoskonalanie swoich usług. sztuczna inteligencja w celu zapobiegania stosowaniu metod, które mogłyby naruszyć bezpieczeństwo i integralność ich systemów. Decyzja ta podkreśla znaczenie proaktywnego podejścia do ochrony zdrowia. technologie zaawansowany. Tymczasem OpenAI nie będzie się skupiać wyłącznie na rozwijaniu swojej sztucznej inteligencji, ale będzie również ściśle współpracować z wewnętrznymi zespołami ds. bezpieczeństwa, aby zapewnić skuteczne i solidne środki ochrony swoich platform.
Firma jasno dała do zrozumienia, że nie zamierza skupiać się wyłącznie na własnej działalności, lecz będzie także nadal dzielić się swoimi odkryciami i osiągnięciami z innymi podmiotami z branży oraz społecznością badawczą. Takie podejście oparte na współpracy ma na celu zapobieganie podobnym sytuacjom w przyszłości i stworzenie bezpieczniejszego i bardziej niezawodnego ekosystemu dla wszystkich użytkowników technologii informatycznych. sztuczna inteligencja.
Chociaż inicjatywie przewodzi OpenAI, ważne jest, aby inni liderzy branży, posiadający własne platformy generatywnej sztucznej inteligencji, również wdrożyli solidne środki ochronne w celu zapobiegania atakom, które mogłyby naruszyć ich systemy.
Zapobieganie tego rodzaju zagrożeniom to ciągłe wyzwanie i kluczowe jest, aby wszystkie firmy zaangażowane w rozwój sztucznej inteligencji wdrożyły proaktywne zabezpieczenia.
Środki te powinny koncentrować się nie tylko na rozwiązywaniu problemów, gdy już wystąpią, ale także na ich przewidywaniu, aby zapobiec ich pojawieniu się w pierwszej kolejności. W ten sposób firmy będą mogły zapewnić bezpieczne i niezawodne doświadczenie wszystkim swoim użytkownikom, wzmacniając zaufanie do technologii sztucznej inteligencji i jej transformacyjnego potencjału w społeczeństwie.
