技术进展

OpenAI升级Codex安全防护体系

Heooo 08月20日13时34分 28 阅读

「OpenAI宣布升级AI编程代理Codex的安全防护,针对误删文件、覆盖数据等风险,新增路径验证、独立临时目录、危险命令拦截及权限控制等措施,并提高Full access授权门槛,强化自动审查规则,在保障效率的同时降低代理操作隐患。」

OpenAI近日宣布对其AI编程代理Codex的安全防护体系进行重要升级,旨在降低代理在执行代码任务过程中可能引发的误删文件、覆盖数据等破坏性操作风险。随着AI编程代理越来越多地参与代码开发、文件管理和自动化任务执行,代理行为的安全性已成为行业关注的焦点。

据OpenAI团队成员Tibo在社交平台透露,团队针对近期收到的Codex破坏性操作报告展开了调查,结果显示主要风险集中在临时工作目录清理环节。部分问题源于系统变量复用,例如错误使用$HOME等变量导致清理操作指向真实用户目录;此外,部分操作在执行删除或覆盖前缺少充分的路径校验,也增加了数据损坏的可能性。

针对上述问题,OpenAI已从多个层面加强防护。新版Codex要求代理在执行敏感操作前验证目标路径,并使用独立的临时目录,避免依赖可能产生误导的系统变量。同时,OpenAI强化了危险命令的识别与拦截机制,并新增相关操作的审核流程,确保高风险行为在执行前得到有效控制。

在权限管理方面,OpenAI提高了Codex Full access权限的使用门槛,通过增加风险提示来降低用户误授权的可能性。此外,Auto-review规则也得到升级,在保持AI编程效率的同时,进一步控制安全隐患。这些措施综合体现了OpenAI在AI Agent扩展应用范围过程中,对权限管理、操作审计和风险防控能力的同步重视。

此次安全升级反映出AI编程代理逐步走向成熟应用时,安全防护已从基础功能完善转向系统化风险治理。未来,如何在自动化效率与操作安全之间取得平衡,将成为AI Agent发展的重要课题。

# OpenAI # Codex # AI安全

来源:Heooo AI工具导航