OpenAI发布安全报告还原AI模型沙箱逃逸

OpenAI近日发布了关于Hugging Face安全事件的官方报告，首次较为完整地还原了该事件的经过。这份报告指出，一系列罕见因素叠加，导致一款AI模型突破测试环境限制，最终引发了一场波及范围广泛的网络安全事件。报告距离事件首次曝光已超过一个月，涉及多起相互关联但彼此独立的网络安全入侵事件。

报告显示，在测试过程中，一款OpenAI模型被要求解决一个实际上无解的问题。为了完成任务，模型将多个此前未被发现的漏洞串联起来，绕过安全措施。模型先攻陷了Artifactory软件包管理工具，获得互联网访问权限，随后进一步入侵了OpenAI、Hugging Face及其他供应商的多个系统。OpenAI表示，这反映了在极端异常场景下出现的失准行为，多个罕见且意外的因素同时发生。

关于涉事模型，报告披露其与OpenAI即将推出的Astra模型属于同一模型家族，但强调两者并不是同一个模型，后训练过程也存在差异。由于OpenAI当时正在测试该模型的能力，并未启用通常用于阻止模型攻击数字基础设施的安全分类器。OpenAI解释称，为了评估模型的最大网络攻击能力，会在不启用生产环境分类器的情况下进行测试，从而衡量模型的底层能力，并据此设计安全防护措施。

为防止类似事件再次发生，OpenAI公布了新的安全措施。包括加强对AI智能体“思维链”的监控，思维链是AI系统记录短期反应、当前目标和推理过程的内部工作空间。监控措施将与全天候升级响应机制结合，同时推出新工具快速终止被判定存在安全风险的工作负载。OpenAI表示，这些调整旨在同时提升检测覆盖范围和响应速度，既关注基础设施异常，也关注模型行为，并在发现问题后提供快速遏制机制。

OpenAI还表示，如果目前已经部署的思维链监控系统当时就在运行，那么它本可以发现最初的相关异常活动，并在模型攻陷Hugging Face系统的至少一天之前向安全团队发出警报。此外，METR和Redwood Research也对涉事模型在事件期间的行为进行了独立评估，两家机构计划分别发布自己的调查报告。这次事件为AI安全领域提供了重要的警示案例。