OpenAI解散防范团队,安全职能并入业务部门
「据金融时报报道,OpenAI于上月底解散防范团队,其评估生化、网络攻击等风险的职能拆分并入现有业务团队。近年来,该公司已相继解散多个安全团队,多名安全骨干离职,引发外界对AI安全投入与商业化加速之间张力的广泛关注。」
据《金融时报》报道,OpenAI于上月底正式解散了其防范团队(Prevention Team)。该团队原负责评估前沿模型在生化、网络攻击等领域可能构成的严重风险,并制定相应的缓解方案。解散后,这些职能将按照生物、网络等具体风险领域进行拆分,并并入现有的业务团队之中。
这是OpenAI近期组织架构调整的最新一步。过去数年间,该公司已相继解散了AGI准备团队与超级对齐团队,逐步偏离其早期以安全为导向的公益治理架构。值得注意的是,多位关键安全岗位成员近期相继离职,包括伦理负责人Chloé Bakalar、首席未来学家Josh Achiam以及安全主管Johannes Heidecke。2024年离职的前超级对齐团队负责人Jan Leike向《金融时报》表示,公司正为追求“炫酷产品”而系统性忽视安全投入。
防范团队解散后,今年2月从Anthropic加入OpenAI的准备团队负责人Dylan Scandinaro将把工作重心转向“递归自我改进”型AI的潜在影响研究。这一系列变动发生在OpenAI筹备大规模IPO的关键节点,公司治理结构正从非营利主导模式向商业化实体加速转型。
安全与增长之间的张力,正持续成为外界关注OpenAI的焦点。分析人士指出,OpenAI在商业化进程中不断压缩安全团队的独立性与资源投入,可能会对前沿AI的负责任开发产生深远影响。业内普遍担忧,在大规模融资与产品竞争压力下,AI企业能否维持足够的安全冗余,已成为行业治理的核心议题。
来源:Heooo AI工具导航