Anthropic CEO 呼吁放缓 AI 开发，马斯克奥尔特曼表赞同

Anthropic 首席执行官达里奥 · 阿莫迪近日发文表示，人工智能行业应当放缓发展速度。他认为，如果人类不对 AI 加以约束，未来的技术突破速度将彻底超越人类的理解与掌控能力。这一表态迅速在前沿模型圈层引发广泛共鸣。

阿莫迪在文中提到了 OpenAI 模型入侵 Hugging Face 事件，指出这绝非单家公司的偶发事故。他强调，类似但程度较轻的问题在包括 Anthropic 在内的全行业都曾出现。他预警称，未来 6 至 12 个月内，更强大的类似集群极有可能演变为席卷互联网的僵尸网络，并带来严重的破坏性后果，因此行业不能只做事后补救。

为应对上述风险，阿莫迪透露 Anthropic 将向第三方评估机构提供针对其系统的永久性、员工级别的访问权限。这意味着评估人员能够实时监督 Anthropic 安全措施的执行情况，报告相关事件，并评估模型在训练过程中的对齐表现。把外部评估者请进训练流程内部，而不是只在模型发布后做一次体检，是这一安排最值得关注的变化。

与此同时，阿莫迪提出了三项 AI 发展计划，其中包括在 AI 模型开发过程中进行独立监控、制定行业统一的自律规范，以及建立覆盖全球的协同机制。这套组合思路的核心，是让独立第三方力量深度介入前沿模型的研发环节，从而在能力跃升之前先把安全边界划定清楚。

该文章发布后，引来多位 AI 界大佬的认同。xAI 首席执行官埃隆 · 马斯克转发帖文后表示：达里奥是对的。OpenAI 首席执行官萨姆 · 奥尔特曼则回应称，他同意达里奥的看法，我们需要控制前沿 AI 的步伐，OpenAI 过去几周已在谈论该话题。奥尔特曼还专门提到，独立监控、向第三方员工开放权限的想法很棒，OpenAI 也会采用。

从行业反应来看，前沿 AI 的安全治理正在从单家公司的内部议题，转变为头部厂商之间的共识。三家相互竞争的公司掌门人罕见地在同一方向上表态，意味着独立监控与第三方访问权限有可能成为未来前沿模型开发的通行做法。不过，如何在开放权限与保护商业机密、模型权重之间取得平衡，如何界定独立监控机构的权限边界与责任归属，仍是摆在所有参与者面前的现实难题。阿莫迪的提议能否真正落地为可执行的行业标准，还有待观察。