OpenAI レポート: 中国とイランのハッカーがマルウェアとフィッシングに ChatGPT を利用
中国とイランのハッカーは、ChatGPT と LLM ツールを使用してマルウェアとフィッシング攻撃を開発：OpenAI レポートには、ChatGPT によって生成された 20 を超えるサイバー攻撃が記載されています
AI がその価値よりも問題のほうが多いという兆候があるとすれば、それは オープンAI 20 件を超えるサイバー攻撃が発生し、すべて ChatGPT を通じて作成されたことが確認されています。この報告書は、生成 AI がフィッシング攻撃、マルウェアのデバッグと開発、その他の悪意のある活動の実行に使用されたことを確認しています。
El informe confirma dos ciberataques utilizando la IA generativa ChatGPT. Cisco Talos informó el primero en noviembre de 2024, que fue utilizado por actores de amenazas chinos que apuntaban a gobiernos asiáticos. Este ataque utilizó un método de phishing llamado ‘SweetSpecter', que incluye un archivo ZIP con un archivo malicioso que, si se descarga y se abre, crearía una cadena de infección en el sistema del usuario. OpenAI descubrió que SweetSpecter se creó utilizando varias cuentas que usaban ChatGPT para desarrollar scripts y descubrir vulnerabilidades utilizando una herramienta LLM.
El segundo ciberataque mejorado con IA provino de un grupo con sede en Irán llamado ‘CyberAv3ngers' que utilizó ChatGPT para explotar vulnerabilidades y robar contraseñas de usuarios de PC basadas en macOS. El tercer ataque, liderado por otro grupo con sede en Irán llamado Storm-0817, utilizó ChatGPT para desarrollar malware para アンドロイド。このマルウェアは連絡先リストを盗み、通話記録や電話履歴を抽出しました。 ブラウザ、デバイスの正確な位置を取得し、感染したデバイス上のファイルにアクセスしました。
これらの攻撃はすべて、既存の手法を使用して開発されました。 マルウェア y, según el informe, no ha habido indicios de que ChatGPT haya creado malware sustancialmente nuevo. De todos modos, muestra lo fácil que es para los actores de amenazas engañar a los servicios de IA generativa para que creen herramientas de ataque maliciosas. Abre una nueva lata de gusanos, demostrando que es más fácil para cualquier persona con el conocimiento necesario activar ChatGPT para hacer algo con malas intenciones. Si bien hay investigadores de 安全 このような潜在的な脆弱性を発見して報告し、修正する以外に、このような攻撃により、生成 AI の実装の制限について議論する必要が生じます。
今後、OpenAI はその改善を継続することに強く取り組んでいきます。 人工知能 システムのセキュリティと完全性を損なう可能性のある方法の使用を防ぐことを目的としています。この決定は、お客様の安全を守るために積極的なアプローチを維持することの重要性を強調しています。 テクノロジー 高度な。それまでの間、OpenAI は AI の開発に注力するだけでなく、社内のセキュリティおよび安全チームと緊密に連携して、プラットフォームを保護するための効果的かつ堅牢な対策が確実に実行されるようにします。
同社は、自社の環境に注力するだけでなく、その発見や進歩を業界の他のプレーヤーや研究コミュニティと共有し続けることを明らかにしました。この協力的なアプローチは、将来同様の状況が発生するのを防ぎ、テクノロジーのすべてのユーザーにとってより安全で信頼性の高いエコシステムを育成することを目指しています。 人工知能.
この取り組みは OpenAI によって主導されていますが、独自の生成 AI プラットフォームを持つ他の業界リーダーも、自社のシステムを侵害する可能性のある攻撃を防ぐために堅牢な保護措置を採用することが重要です。
この種の脅威を防ぐことは継続的な課題であり、人工知能の開発に携わるすべての企業が予防的な保護措置を導入することが不可欠です。
これらの対策は、問題が発生してから解決することだけに重点を置くのではなく、問題を事前に予測して発生を防ぐことに重点を置く必要があります。このようにして、企業はすべてのユーザーに安全で信頼できるエクスペリエンスを保証し、人工知能テクノロジーとその社会における変革の可能性に対する信頼を強化できるようになります。
