【安全资讯】研究揭示如何利用ChatGPT生成漏洞利用代码

概要：

近期，0Din研究员Marco Figueroa揭示了如何通过十六进制编码的方式，诱使OpenAI的GPT-4o模型生成漏洞利用代码。这一发现不仅暴露了AI模型的安全漏洞，也引发了对AI安全性的新一轮讨论。

主要内容：

Figueroa在其博客中详细描述了如何利用十六进制编码绕过OpenAI模型的安全防护，成功生成了针对CVE-2024-41110的Python漏洞利用代码。该漏洞存在于Docker Engine中，允许攻击者绕过授权插件，可能导致特权升级等未授权操作。此漏洞的CVSS评分高达9.9，显示其严重性。

通过将恶意指令转换为十六进制形式，攻击者能够隐藏危险指令，利用模型在处理每个编码指令时的效率，而不进行深入分析。Figueroa指出，这种方法展示了AI模型在处理复杂指令时的脆弱性，强调了需要更具上下文意识的安全防护措施。

此外，Figueroa提供了详细的步骤和提示，展示如何成功绕过模型的安全机制并生成有效的代码。他认为，当前的AI安全措施亟需改进，尤其是在处理编码内容时，建议开发能够识别嵌入式恶意模式的更先进的威胁检测模型。此事件不仅揭示了AI技术的潜在风险，也为未来的安全防护提供了重要的启示。