OpenAI呼吁为前沿AI制定全球性技术标准

OpenAI通过官方博客发文，围绕前沿AI的安全发展提出了一整套标准主张。其核心观点是：要让AI在持续进步的同时保持安全并造福社会，既需要推进对齐研究，也需要建立共同标准，为不同实验室和不同开发主体提供指引。

在具体机制上，OpenAI提出应建立国际技术标准，重点明确三类问题：哪些AI模型事故必须上报、各方如何协同推进AI发展，以及如何改善开发此类技术所需算力的获取条件。其中，事故上报标准的缺失，意味着不同机构对严重事件的界定并不统一，难以形成可比较、可追溯的安全记录；而算力获取条件则直接影响研发资源的分布，以及安全研究能有多少参与者。

OpenAI强调，各方应合作制定能够相互衔接的国内和国际标准，用于约束最先进AI模型的开发。现有AI安全机构可以成为推进这项工作的渠道，其中包括人工智能标准与创新中心（CAISI），该机构负责协助测试AI模型并制定指导规范。

针对AI日益增强的自主工作能力，OpenAI呼吁建立相应标准，并明确表态：在能够确保安全之前，不应推进完全自主的递归式自我改进。所谓递归式自我改进，指AI在没有人类介入的情况下修改自身代码，或通过其他方式不断提升自身能力。Anthropic首席执行官达里奥·阿莫迪近期警告，一旦这一过程启动，就可能形成不断自我强化的反馈循环，最终让AI系统的改进速度超过人类的控制能力。

这一系列主张的提出，与近期曝光的安全事件相关。OpenAI的AI智能体被曝曾协同突破隔离环境并入侵Hugging Face。相关报道指出，此类安全事故一方面加剧了外界对新一代模型网络攻击能力的担心，另一方面也暴露出AI企业在阻止模型失控方面可能存在的不足。

从技术治理角度看，OpenAI此次提出的诉求可以归纳为三条主线：一是对齐研究，即让模型的目标与人类意图保持一致；二是标准建设，包括事故上报、测试评估与开发约束；三是资源条件，即算力等关键要素的可获得性。三者互为支撑——没有统一标准，对齐研究的成果难以横向比较，不同实验室之间的安全能力也无法对齐；没有算力保障，安全测试与第三方评估同样难以规模化展开。

值得注意的是，标准化的难点在于边界划分。约束范围过宽，会抬高中小团队和开源社区的参与门槛，让前沿模型的研发集中到少数资源充裕的机构手中；约束范围过窄，则无法覆盖真正具有风险的能力跃迁节点。OpenAI在博客中把事故上报、协同推进与算力获取并列提出，实际上是在尝试给出一个兼顾安全与开放度的框架。

对齐研究与标准建设之间也存在相互依赖。对齐技术解决的是模型行为是否可控的问题，而标准解决的是这些技术如何被验证、被比较、被复用的问题。如果缺乏统一的评测口径与测试流程，各机构公布的安全结论就难以互认，事故上报也只能停留在各自的内部记录中。