中国和伊朗黑客利用 ChatGPT 发起网络攻击

如果有一个迹象表明人工智能带来的麻烦大于其价值，那就是 OpenAI 确认已发生超过 20 起网络攻击，全部是通过 ChatGPT 创建的。该报告证实，生成式人工智能被用来进行网络钓鱼攻击、调试和开发恶意软件以及执行其他恶意活动。

该报告证实了两次使用 ChatGPT 生成人工智能的网络攻击。第一个是 Cisco Talos 于 2024 年 11 月报告的，它被中国威胁者用来针对亚洲政府。这次攻击使用了一种名为“SweetSpecter”的网络钓鱼方法，其中包含一个带有恶意文件的 ZIP 存档，如果下载并打开该文件，就会在用户系统上创建感染链。 OpenAI 发现 SweetSpecter 是使用多个帐户创建的，这些帐户使用 ChatGPT 来开发脚本并使用 LLM 工具发现漏洞。

El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers’ que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para 安卓。该恶意软件窃取了联系人列表、提取了通话记录和电话历史记录。 浏览器，获取设备的精确位置并访问受感染设备上的文件。

所有这些攻击都是利用现有的方法来开发的 恶意软件 并且，根据该报告，目前尚无迹象表明ChatGPT曾生成过实质性的新型恶意软件。尽管如此，这仍表明威胁行为者欺骗生成式AI服务以创建恶意攻击工具是多么容易。这打开了新的潘多拉魔盒，证明任何具备必要知识的人都能更容易地诱导ChatGPT做出恶意行为。尽管有研究人员—— 安全 发现此类潜在漏洞并进行报告和修补，这样的攻击将需要讨论生成式人工智能的实施限制。

从现在开始，OpenAI坚定致力于继续改进其 人工智能 目的是防止使用可能损害其系统安全性和完整性的方法。这一决定强调了保持积极主动的方法来保护您的重要性 技术 先进的。与此同时，OpenAI不仅将专注于人工智能的开发，还将与其内部安全团队密切合作，确保采取有效、稳健的措施来保护其平台。

该公司已明确表示，不仅将关注自身环境，还将继续与行业和研究界的其他参与者分享其发现和进展。这种协作方法旨在防止未来发生类似情况，为所有技术用户培育一个更安全、更可靠的生态系统。 人工智能.

尽管该计划由 OpenAI 牵头，但拥有自己的生成式 AI 平台的其他行业领导者也必须采取强有力的保护措施来防止可能损害其系统的攻击，这一点至关重要。

预防此类威胁是一项持续的挑战，所有参与人工智能开发的公司都必须实施主动的防护措施。

这些措施不仅应着眼于问题发生后的解决，还应着眼于预防问题的发生。通过这种方式，公司将能够保证所有用户获得安全可靠的体验，增强对人工智能技术及其社会变革潜力的信任。