行业资讯

奥尔特曼支持 AI 控速:别让能力跑在对齐前

Heooo 09月14日22时01分 43 阅读

「OpenAI 首席执行官萨姆·奥尔特曼公开支持为人工智能发展“控速”,强调并非叫停技术进步,而是不让模型能力领先于对齐技术与安全监测。其观点与 Anthropic 首席执行官阿莫迪相近,他此前亦表示愿放缓前沿技术迭代,并确认 2026 年不会上市。消息引发亚洲 AI 概念股下跌。」

OpenAI 首席执行官萨姆·奥尔特曼近日公开表态,支持对人工智能的发展采取“控速”思路,核心诉求是避免尖端模型的能力增长速度超出人类可控范围。这一表态被视为前沿模型厂商在能力竞赛与安全底线之间,试图重新划出一条更清晰的界线。

奥尔特曼在 X 平台上写道,无论面临多大的竞争压力,都不能成为鲁莽行事的理由,也不能让模型能力的发展领先于对齐技术与安全监测。他同时强调,保障安全并不等同于停止技术进步:“我们所说的‘控速’,并不是‘叫停’。”

这一表述与 Anthropic 首席执行官达里奥·阿莫迪的观点相近。奥尔特曼承认,把工作重心转向安全会付出一定代价,但此举有助于维持外界信心,证明企业在研发能力日益强大的人工智能时恪守责任,这份代价值得承担。

值得注意的是,就在奥尔特曼发声前不久,阿莫迪与 SpaceX 人工智能业务负责人埃隆·马斯克罕见达成共识,呼吁放缓人工智能的研发脚步。多位长期处于研发一线的负责人接连释放类似信号,说明“迭代节奏”本身正在成为行业公开讨论的技术议题。

从技术视角看,这场讨论的焦点在于“能力曲线”与“对齐曲线”的赛跑。过去几年,前沿模型在推理、多模态、长上下文等方向上的提升速度,往往快于配套的对齐、可解释性与评测手段。一旦能力跨过某个门槛而评估方法未能同步跟上,风险便难以在部署前被充分识别。因此,业内提出的“控速”,本质上是要求把更多算力与人力投入到对齐研究、红队测试、模型行为监测等环节,让安全能力的成熟度与模型能力保持同步,而不是简单压低模型的参数规模或训练量。

奥尔特曼本月早些时候曾对 OpenAI 员工表示,公司愿意放缓前沿技术的迭代节奏,以便更充分地评估相关风险。他还确认,受安全相关事项优先安排的影响,公司 2026 年不会上市。这一取舍意味着,短期内的产品发布频率与商业化进度,可能会让位于更长的内部验证周期。

对开发者生态而言,这种节奏变化同样值得关注。若头部实验室主动拉长前沿模型的验证窗口,下游应用团队获得的接口与能力升级节奏也会相应调整,围绕评测、对齐工具链与安全中间件的需求则可能上升,成为新的技术投入方向。

市场层面,相关消息迅速传导至资本市场。亚洲人工智能概念股出现下跌,软银集团股价大跌 13%,三星电子、SK 海力士跌幅均超过 4%。这从侧面说明,投资者已把“研发节奏放缓”纳入对人工智能产业链的定价考量。

# OpenAI # AI 安全 # 对齐技术

来源:Heooo AI工具导航