ChatGPTを利用した中国とイランのハッカーによるサイバー攻撃

AI がその価値よりも問題のほうが多いという兆候があるとすれば、それは オープンAI 20 件を超えるサイバー攻撃が発生し、すべて ChatGPT を通じて作成されたことが確認されています。この報告書は、生成 AI がフィッシング攻撃、マルウェアのデバッグと開発、その他の悪意のある活動の実行に使用されたことを確認しています。

この報告書は、ChatGPT 生成 AI を使用した 2 件のサイバー攻撃を確認しています。 1 つ目は 2024 年 11 月に Cisco Talos によって報告され、アジア政府を標的とする中国の脅威アクターによって使用されました。この攻撃では、「SweetSpecter」と呼ばれるフィッシング手法が使用されており、これには悪意のあるファイルが含まれた ZIP アーカイブが含まれており、ダウンロードして開くとユーザーのシステムに感染の連鎖を引き起こす可能性があります。 OpenAI は、SweetSpecter が ChatGPT を使用してスクリプトを開発し、LLM ツールを使用して脆弱性を発見する複数のアカウントを使用して作成されたことを発見しました。

El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers’ que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para アンドロイド。このマルウェアは連絡先リストを盗み、通話記録や電話履歴を抽出しました。 ブラウザ、デバイスの正確な位置を取得し、感染したデバイス上のファイルにアクセスしました。

これらの攻撃はすべて、既存の手法を使用して開発されました。 マルウェア そして、報告書によれば、ChatGPTが実質的に新しいマルウェアを作成したという兆候はない。とはいえ、これは脅威アクターが生成AIサービスを欺いて悪意のある攻撃ツールを作成させることがいかに容易であるかを示している。新たな厄介な問題を引き起こし、必要な知識を持つ者であれば誰でも、ChatGPTを悪意のある目的で作動させることが容易であることを実証している。研究者たちがいる一方で、 安全 このような潜在的な脆弱性を発見して報告し、修正する以外に、このような攻撃により、生成 AI の実装の制限について議論する必要が生じます。

今後、OpenAI はその改善を継続することに強く取り組んでいきます。 人工知能 システムのセキュリティと完全性を損なう可能性のある方法の使用を防ぐことを目的としています。この決定は、お客様の安全を守るために積極的なアプローチを維持することの重要性を強調しています。 テクノロジー 高度な。それまでの間、OpenAI は AI の開発に注力するだけでなく、社内のセキュリティおよび安全チームと緊密に連携して、プラットフォームを保護するための効果的かつ堅牢な対策が確実に実行されるようにします。

同社は、自社の環境に注力するだけでなく、その発見や進歩を業界の他のプレーヤーや研究コミュニティと共有し続けることを明らかにしました。この協力的なアプローチは、将来同様の状況が発生するのを防ぎ、テクノロジーのすべてのユーザーにとってより安全で信頼性の高いエコシステムを育成することを目指しています。 人工知能.

この取り組みは OpenAI によって主導されていますが、独自の生成 AI プラットフォームを持つ他の業界リーダーも、自社のシステムを侵害する可能性のある攻撃を防ぐために堅牢な保護措置を採用することが重要です。

この種の脅威を防ぐことは継続的な課題であり、人工知能の開発に携わるすべての企業が予防的な保護措置を導入することが不可欠です。

これらの対策は、問題が発生してから解決することだけに重点を置くのではなく、問題を事前に予測して発生を防ぐことに重点を置く必要があります。このようにして、企業はすべてのユーザーに安全で信頼できるエクスペリエンスを保証し、人工知能テクノロジーとその社会における変革の可能性に対する信頼を強化できるようになります。