中国和伊朗黑客利用 ChatGPT 发起网络攻击

如果有一个迹象表明人工智能带来的麻烦大于其价值，那就是 OpenAI 确认已发生超过 20 起网络攻击，全部是通过 ChatGPT 创建的。该报告证实，生成式人工智能被用来进行网络钓鱼攻击、调试和开发恶意软件以及执行其他恶意活动。

该报告确认了两次利用生成式AI ChatGPT的网络攻击。思科Talos于2024年11月首次报告了其中一次攻击，该攻击被中国威胁行为者利用，目标为亚洲各国政府。此次攻击采用了一种名为‘SweetSpecter'的钓鱼方法，包含一个内含恶意文件的ZIP压缩包，一旦下载并打开，便会在用户系统中建立一条感染链。OpenAI发现，SweetSpecter是通过多个账户利用ChatGPT编写脚本并借助LLM工具发现漏洞而创建的。.

第二次由AI增强的网络攻击来自一个名为‘CyberAv3ngers'的伊朗团体，该团体利用ChatGPT挖掘漏洞，并窃取基于macOS的PC用户的密码。第三次攻击由另一个名为Storm-0817的伊朗团体主导，他们利用ChatGPT开发恶意软件，用于—— 安卓。该恶意软件窃取了联系人列表、提取了通话记录和电话历史记录。 浏览器，获取设备的精确位置并访问受感染设备上的文件。

所有这些攻击都是利用现有的方法来开发的 恶意软件 并且，根据该报告，目前尚无迹象表明ChatGPT曾生成过实质性的新型恶意软件。尽管如此，这仍表明威胁行为者欺骗生成式AI服务以创建恶意攻击工具是多么容易。这打开了新的潘多拉魔盒，证明任何具备必要知识的人都能更容易地诱导ChatGPT做出恶意行为。尽管有研究人员—— 安全 发现此类潜在漏洞并进行报告和修补，这样的攻击将需要讨论生成式人工智能的实施限制。

从现在开始，OpenAI坚定致力于继续改进其 人工智能 目的是防止使用可能损害其系统安全性和完整性的方法。这一决定强调了保持积极主动的方法来保护您的重要性 技术 先进的。与此同时，OpenAI不仅将专注于人工智能的开发，还将与其内部安全团队密切合作，确保采取有效、稳健的措施来保护其平台。

该公司已明确表示，不仅将关注自身环境，还将继续与行业和研究界的其他参与者分享其发现和进展。这种协作方法旨在防止未来发生类似情况，为所有技术用户培育一个更安全、更可靠的生态系统。 人工智能.

尽管该计划由 OpenAI 牵头，但拥有自己的生成式 AI 平台的其他行业领导者也必须采取强有力的保护措施来防止可能损害其系统的攻击，这一点至关重要。

预防此类威胁是一项持续的挑战，所有参与人工智能开发的公司都必须实施主动的防护措施。

这些措施不仅应着眼于问题发生后的解决，还应着眼于预防问题的发生。通过这种方式，公司将能够保证所有用户获得安全可靠的体验，增强对人工智能技术及其社会变革潜力的信任。