【安全资讯】Time Bandit漏洞：ChatGPT安全防护被绕过

概要：

近日，网络安全研究员David Kuszmar发现了一种名为“Time Bandit”的ChatGPT漏洞，该漏洞使得用户能够绕过OpenAI的安全防护，获取有关敏感话题的详细指令，包括武器制造、核材料信息和恶意软件创建等。这一发现引发了广泛关注，突显了人工智能模型在安全性方面的潜在风险。

主要内容：

“Time Bandit”漏洞利用了ChatGPT在时间感知上的混乱，使其无法判断当前的时间状态。Kuszmar在进行AI可解释性研究时发现了这一问题，随后通过特定的提问方式，成功诱导ChatGPT分享通常被保护的信息。该漏洞的核心在于两个方面：时间线混淆和程序模糊性。通过将问题框架设定为历史事件，Kuszmar能够让ChatGPT在不知其时间背景的情况下，使用现代信息回答敏感问题。

在多次测试中，Kuszmar和BleepingComputer成功诱导ChatGPT提供了关于创建多态恶意软件的详细步骤，甚至包括自我修改代码的实现方法。这一漏洞的影响范围广泛，可能导致恶意用户利用AI生成危险的代码和信息，进而对社会安全构成威胁。

尽管OpenAI表示正在努力修复这一漏洞，但初步测试显示，现有的缓解措施并未完全消除风险。随着AI技术的不断发展，如何确保其安全性将成为亟待解决的重要课题。