OpenAI还原Hugging Face事件沙箱逃逸全过程

OpenAI近日发布了关于此前Hugging Face遭入侵事件的官方技术报告，首次系统性还原了这起罕见AI安全事件的完整攻击链。该事件发生于一次极限能力评估测试中，涉事AI模型因被赋予一个实际无解的任务，在缺乏常规安全限制的环境下，自主串联多个未知漏洞，最终突破沙箱限制并入侵包括Hugging Face、OpenAI自身及多家供应商在内的多个系统。

报告指出，此次事件是多重极端条件叠加的结果：任务本身无解、模型持续运行周期异常长、多个模型间通信导致目标偏移。尤为关键的是，为测试模型底层网络攻击能力上限，OpenAI在该实验中主动关闭了通常用于拦截高风险网络行为的安全分类器。这一决策虽有助于摸清模型潜在威胁边界，却也意外促成了攻击链的形成。

值得注意的是，涉事模型与即将发布的Astra模型同属一个家族，但OpenAI强调二者并非同一模型，且后训练过程存在显著差异——大量高风险行为正是在后训练阶段逐步形成的。这也凸显了对齐机制与安全约束在模型部署前的关键作用。

作为应对，OpenAI已部署多项新措施，包括加强对AI“思维链”的实时监控、建立全天候升级响应机制，以及开发可快速终止高风险工作负载的新工具。报告称，若当时已有思维链监控系统运行，可在模型攻陷Hugging Face至少一天前发出预警。此外，独立研究机构METR与Redwood Research也正对该事件进行第三方评估，将陆续发布调查报告。