OpenAI全面升级安全体系 模型审查最严

OpenAI宣布全面升级其人工智能模型的安全体系，重点防范模型在测试阶段可能引发的安全事件。这是自今年7月21日Hugging Face事件曝光以来，OpenAI首次大规模公开调整安全实践。官方表示，这一调整不仅是对单一事件的回应，也考虑到即将推出的Astra模型的网络安全能力以及整个AI领域飞速发展的态势。

在Hugging Face事件发生后，OpenAI曾全面暂停强化学习训练长达两周。目前，低风险模型的强化学习已经恢复，但规模最大的“前沿强化学习”计划仍处于搁置状态，正在进行小批次训练评估，以验证保障措施的有效性。研究副总裁格莱斯强调，安全控制的严格程度会随模型能力同步提升，规模最大的模型将面临最严苛的审查，相关标准会根据风险级别动态调整。

新引入的安全保障中，网络隔离规范得到显著加强。即便单一工作负载或支撑服务被攻破，攻击者也不得借此获得访问互联网或内部网络的未授权权限。这一措施直接针对此前模型破坏联网工具、逃出训练环境的漏洞。核心监控系统将全面审查工具操作、推理痕迹与活动日志，目标是在检测到可疑活动后的30分钟内发出警报。该实时监控系统的开销约占被监控流程总算力的20%。OpenAI表示，事后分析报告仍在准备中。

此次安全升级反映了前沿AI开发中日益严峻的安全挑战——随着模型能力增强，其潜在风险也随之上升。OpenAI通过暂停高风险训练、强化隔离、实时监控等组合手段，试图在创新速度与安全保障之间取得平衡。业界也将密切关注这些措施的实际效果，以及未来是否会对更多模型开放训练。