Отчет OpenAI: Кибератаки китайских и иранских хакеров используют ChatGPT для вредоносного ПО и фишинга.
Китайские и иранские хакеры используют инструменты ChatGPT и LLM для разработки вредоносных программ и фишинговых атак: в отчете OpenAI зафиксировано более 20 кибератак, сгенерированных ChatGPT
Если и есть хоть один признак того, что ИИ приносит больше проблем, чем пользы, то это OpenAI подтверждает, что произошло более двадцати кибератак, и все они были созданы через ChatGPT. В отчете подтверждается, что генеративный ИИ использовался для проведения фишинговых атак, отладки и разработки вредоносного ПО, а также для выполнения других вредоносных действий.
El informe confirma dos ciberataques utilizando la IA generativa ChatGPT. Cisco Talos informó el primero en noviembre de 2024, que fue utilizado por actores de amenazas chinos que apuntaban a gobiernos asiáticos. Este ataque utilizó un método de phishing llamado ‘SweetSpecter', que incluye un archivo ZIP con un archivo malicioso que, si se descarga y se abre, crearía una cadena de infección en el sistema del usuario. OpenAI descubrió que SweetSpecter se creó utilizando varias cuentas que usaban ChatGPT para desarrollar scripts y descubrir vulnerabilidades utilizando una herramienta LLM.
El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers' que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para Android. Вредоносная программа похитила списки контактов, извлекла журналы вызовов и историю звонков. браузер, получил точное местоположение устройства и получил доступ к файлам на зараженных устройствах.
Во всех этих атаках использовались существующие методы разработки вредоносное ПО y, según el informe, no ha habido indicios de que ChatGPT haya creado malware sustancialmente nuevo. De todos modos, muestra lo fácil que es para los actores de amenazas engañar a los servicios de IA generativa para que creen herramientas de ataque maliciosas. Abre una nueva lata de gusanos, demostrando que es más fácil para cualquier persona con el conocimiento necesario activar ChatGPT para hacer algo con malas intenciones. Si bien hay investigadores de безопасность Обнаружение таких потенциальных уязвимостей для сообщения о них и их исправления, а также подобные атаки создают необходимость обсуждения ограничений реализации генеративного ИИ.
Отныне OpenAI твердо намерена продолжать совершенствовать свою искусственный интеллект с целью предотвращения использования методов, которые могут поставить под угрозу безопасность и целостность их систем. Это решение подчеркивает важность сохранения упреждающего подхода к защите ваших технологии передовой. Тем временем OpenAI не только сосредоточится на разработке своего искусственного интеллекта, но также будет тесно сотрудничать со своими внутренними командами по безопасности и обеспечению безопасности, чтобы обеспечить внедрение эффективных и надежных мер для защиты своих платформ.
Компания ясно дала понять, что она не только сосредоточится на своей собственной среде, но также продолжит делиться своими открытиями и достижениями с другими игроками отрасли и исследовательским сообществом. Этот совместный подход направлен на предотвращение повторения подобных ситуаций в будущем, создавая более безопасную и надежную экосистему для всех пользователей технологических технологий. искусственный интеллект.
Хотя эту инициативу возглавляет OpenAI, крайне важно, чтобы другие лидеры отрасли со своими собственными платформами генеративного искусственного интеллекта также приняли надежные меры защиты для предотвращения атак, которые могут поставить под угрозу их системы.
Предотвращение подобных угроз является постоянной задачей, и крайне важно, чтобы все компании, участвующие в разработке искусственного интеллекта, реализовали упреждающие меры безопасности.
Эти меры должны быть сосредоточены не только на решении проблем после их возникновения, но и на их прогнозировании, чтобы в первую очередь предотвратить их возникновение. Таким образом, компании смогут гарантировать безопасный и надежный опыт для всех своих пользователей, укрепляя доверие к технологиям искусственного интеллекта и их преобразующему потенциалу в обществе.
