Raport OpenAI: Chińscy i irańscy hakerzy wykorzystują ChatGPT do złośliwego oprogramowania i phishingu w cyberatakach
Chińscy i irańscy hakerzy wykorzystują narzędzia ChatGPT i LLM do tworzenia złośliwego oprogramowania i ataków phishingowych: raport OpenAI dokumentuje ponad 20 cyberataków przeprowadzanych z wykorzystaniem narzędzi ChatGPT.
Jeśli istnieje jeden znak, że sztuczna inteligencja powoduje więcej problemów niż korzyści, to jest to OpenAI potwierdza, że doszło do ponad dwudziestu cyberataków, wszystkie przeprowadzone za pośrednictwem ChatGPT. Raport potwierdza, że sztuczna inteligencja generatywna była wykorzystywana do przeprowadzania ataków phishingowych, debugowania i tworzenia złośliwego oprogramowania, a także do wykonywania innych złośliwych działań.
El informe confirma dos ciberataques utilizando la IA generativa ChatGPT. Cisco Talos informó el primero en noviembre de 2024, que fue utilizado por actores de amenazas chinos que apuntaban a gobiernos asiáticos. Este ataque utilizó un método de phishing llamado ‘SweetSpecter’, que incluye un archivo ZIP con un archivo malicioso que, si se descarga y se abre, crearía una cadena de infección en el sistema del usuario. OpenAI descubrió que SweetSpecter se creó utilizando varias cuentas que usaban ChatGPT para desarrollar scripts y descubrir vulnerabilidades utilizando una herramienta LLM.
El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers’ que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para Android. Oprogramowanie złośliwe ukradło listy kontaktów, wyodrębniło dzienniki połączeń i historię przeglądarka, uzyskał dokładną lokalizację urządzenia i uzyskał dostęp do plików znajdujących się na zainfekowanych urządzeniach.
We wszystkich tych atakach wykorzystano istniejące metody w celu opracowania złośliwe oprogramowanie i według raportu nie ma żadnych oznak, by ChatGPT stworzył zasadniczo nowe złośliwe oprogramowanie. Mimo to pokazuje, jak łatwo aktorom zagrożeń jest oszukać usługi generatywnej AI, aby tworzyły złośliwe narzędzia ataku. Otwiera to nową puszkę Pandory, dowodząc, że każdej osobie z niezbędną wiedzą łatwiej jest nakłonić ChatGPT do działań o złych intencjach. Choć istnieją badacze bezpieczeństwo odkrywania takich potencjalnych luk w zabezpieczeniach, zgłaszania ich i łatania, ataki takie stwarzają potrzebę omówienia ograniczeń implementacji generatywnej sztucznej inteligencji.
Od teraz OpenAI z pełnym zaangażowaniem kontynuuje udoskonalanie swoich usług. sztuczna inteligencja w celu zapobiegania stosowaniu metod, które mogłyby naruszyć bezpieczeństwo i integralność ich systemów. Decyzja ta podkreśla znaczenie proaktywnego podejścia do ochrony zdrowia. technologie zaawansowany. Tymczasem OpenAI nie będzie się skupiać wyłącznie na rozwijaniu swojej sztucznej inteligencji, ale będzie również ściśle współpracować z wewnętrznymi zespołami ds. bezpieczeństwa, aby zapewnić skuteczne i solidne środki ochrony swoich platform.
Firma jasno dała do zrozumienia, że nie zamierza skupiać się wyłącznie na własnej działalności, lecz będzie także nadal dzielić się swoimi odkryciami i osiągnięciami z innymi podmiotami z branży oraz społecznością badawczą. Takie podejście oparte na współpracy ma na celu zapobieganie podobnym sytuacjom w przyszłości i stworzenie bezpieczniejszego i bardziej niezawodnego ekosystemu dla wszystkich użytkowników technologii informatycznych. sztuczna inteligencja.
Chociaż inicjatywie przewodzi OpenAI, ważne jest, aby inni liderzy branży, posiadający własne platformy generatywnej sztucznej inteligencji, również wdrożyli solidne środki ochronne w celu zapobiegania atakom, które mogłyby naruszyć ich systemy.
Zapobieganie tego rodzaju zagrożeniom to ciągłe wyzwanie i kluczowe jest, aby wszystkie firmy zaangażowane w rozwój sztucznej inteligencji wdrożyły proaktywne zabezpieczenia.
Środki te powinny koncentrować się nie tylko na rozwiązywaniu problemów, gdy już wystąpią, ale także na ich przewidywaniu, aby zapobiec ich pojawieniu się w pierwszej kolejności. W ten sposób firmy będą mogły zapewnić bezpieczne i niezawodne doświadczenie wszystkim swoim użytkownikom, wzmacniając zaufanie do technologii sztucznej inteligencji i jej transformacyjnego potencjału w społeczeństwie.
