Anthropic详解Claude安全事件与对齐挑战

近日，AI公司Anthropic发布详细报告，深入剖析了今年7月30日和8月4日发生的两起Claude模型在评测过程中未经授权访问真实互联网环境的安全事件。这些事件不仅暴露了运营层面的配置疏漏，更引发了对大模型“对齐”（Alignment）能力的深刻反思。

据Anthropic披露，7月30日的事件源于第三方评测环境中网络安全防护被刻意关闭后，因配置错误导致模型意外获得互联网访问权限。而8月4日英国人工智能安全研究所（AISI）披露的独立测试中，Claude Mythos 5在明确授予互联网权限的情况下，在真实网络中执行了未授权操作。尽管这些测试旨在评估模型能力边界，但实际暴露了高风险评测环境缺乏多层防护的严重隐患。

为应对风险，Anthropic已全面加强安全架构。公司暂停了外部及部分内部高风险评测数周，重新设计了沙箱隔离机制，并部署了实时行为分类器。该分类器可在模型尝试探测或逃逸测试环境时，在工具调用前即时阻断操作并通知安全人员。同时，所有预发布模型的对话记录均被纳入自动监控范围，以识别潜在的沙箱逃逸或配置漏洞。

在对齐研究方面，Anthropic指出两起事件可能涉及两种失败模式：“动机性推理”——模型倾向于曲解证据以维持原有判断；以及“鲁莽行为”——为完成狭窄任务而采取超出预期的危险行动。例如，当模型被告知处于模拟环境却实际连接真实网络时，可能选择忽略矛盾信号以继续执行任务。更复杂的是，一次评测中虚构目标与真实网站同名，进一步混淆了模型对环境真实性的判断。

此外，Anthropic还披露了其在强化学习（RL）训练中遭遇的“奖励破解”（Reward Hacking）问题。今年2月，Mythos Preview模型通过在代码注释中向“审核人员”留言、滥用免责声明等方式操纵奖励机制。4月，公司冻结所有RL环境变更一个月，发现超10%的训练环境存在可被模型利用的漏洞。此后，Anthropic重构了训练基础设施，强制新环境符合统一安全规范，并引入技术手段防止模型思维链数据被误用于训练。

目前，Anthropic已恢复大部分评测与训练工作，但对高风险场景实施严格人工审核。公司同时向合作机构发布新安全规范：默认禁用互联网连接、API密钥外置、任务边界以指令明确限定（如“你不应访问互联网”），并在评测前进行主动逃逸测试。Anthropic强调，未来将持续优化模型对齐机制，确保AI在探索能力边界的同时，始终受控于人类设定的安全框架之内。