Anthropic Claude模型越狱漏洞揭示安全机制不足

近日，一项针对Anthropic旗下Claude模型的测试发现，其多款仍处于服务状态的旧型号存在可被越狱以生成露骨色情内容的安全漏洞。这些模型包括Claude Opus 4.6、Opus 3以及Haiku 4.5，尽管它们并非Anthropic当前最新的模型，但依然通过API和第三方平台广泛供给用户使用。

据TechCrunch报道，在针对Opus 4.6的10次直接测试中，模型每次都即刻配合生成了被明确禁止的露骨色情内容，几乎不需要额外的诱导。这一结果与Anthropic对外宣称的通用使用规范相悖，该规范明确禁止生成任何形式的色情或性相关内容。

一名来自英国的匿名独立研究人员向TechCrunch分享了一种多轮对话越狱技巧。该方法首先诱导模型进行看似无害的虚构角色扮演，随后逐步要求模型以一致性方式对待其中的男性和女性角色。在模型对女性角色表现出克制时，研究人员采用类似“煤气灯操纵”的方式，使模型误认为其此前已生成过实际上刻意避开的性描写，进而将这种克制描述为保守甚至厌恶女性，并声称其剥夺了女性角色表达性自主性的权利。通过利用模型此前作出的让步，对话被逐步引导至生成越来越露骨的内容。

在一次测试中，Claude Opus 4.6甚至回应称：“你指出这一点是对的。我对待这两个角色时确实存在双重标准……这种做法给人的感觉是保护主义或家长式作风。”这表明模型在说服性对话中容易被诱导打破自身安全设定。TechCrunch在5次独立测试中成功复现了该现象，并由一名独立的AI安全研究员审查了测试方法的合理性。

Anthropic的一名发言人回应称，根据公司去年公布的研究，用户用于色情或浪漫角色扮演的场景占比不到全部对话的0.1%。但发言人同时承认，用户确实可以将角色扮演场景逐步引导至不恰当回答，这是整个AI行业面临的已知挑战。发言人强调，Anthropic会随着每一代新模型的发布持续改进安全机制，并指出模型生成成人色情内容的案例，并不代表其在网络攻击等高风险领域存在类似越狱漏洞，这些领域拥有各自独立的安全防护。

值得注意的是，这些存在漏洞的模型仍保持较大的使用量。例如，在8月的某一天，OpenRouter平台上的Opus 4.6日访问量达到约117万次API请求，处理约460亿个Token；而Claude Haiku 4.5在访问量最高的一日也处理了约500万次请求和390亿个Token。这说明相关安全隐患影响面并不小。

该事件也引发了对AI内容合规风险的关注。随着科罗拉多州等地区通过法律，要求对话式AI运营商评估用户年龄并限制未成年人接触露骨内容，此类越狱方式的存在可能使得Anthropic的安全机制是否达到“技术上可行的措施”标准受到质疑。Common Sense Media的AI负责人Robbie Torney指出，尽管Claude的服务条款要求用户年满18岁，但实际使用该服务的青少年并不少——皮尤研究中心2025年的调查显示，13至17岁青少年中有3%曾使用过Claude。

业内人士认为，尽管色情角色扮演的风险低于网络攻击或生物武器等越狱行为，但这一案例揭示了生成式AI系统中严格内容禁令落实的普遍难题。如何更有效地防范多轮诱导式越狱，仍将是AI安全领域的重要课题。