三家 AI 巨头联手推进 AI 安全研究
「OpenAI 与 Anthropic、谷歌 DeepMind 就 AI 安全问题展开合作,接触已持续数周。OpenAI 全球政策主管克里斯·莱恩称,此类安全协调无需专门的反垄断豁免,并类比航空业的安全协作。Anthropic 首席执行官达里奥·阿莫迪此前发表长文呼吁放缓最先进 AI 系统研发,萨姆·奥尔特曼与埃隆·马斯克均表达支持。」
AI 安全领域的协作正在打破公司之间的竞争边界。据彭博社报道,OpenAI 全球政策主管克里斯·莱恩透露,公司已与 Anthropic 和谷歌 DeepMind 围绕 AI 安全问题展开合作,相关接触已持续数周。这意味着三家在通用大模型赛道上互为竞争对手的企业,开始在安全议题上共享信息、协调立场。
莱恩表示,OpenAI 认为三家公司开展这类协调并不需要专门获得反垄断豁免,因为“尝试合作、优先保障安全,对大家都更好”。他同时强调,企业为了安全而合作并不罕见,航空业就是一个典型例子。“长期以来,企业为了提高安全性而相互帮助的情况很多。”在他看来,安全优先的协作逻辑完全可以被前沿 AI 领域借鉴。
这一合作动向出现在 AI 安全讨论持续升温的背景下。Anthropic 首席执行官达里奥·阿莫迪发表了一篇 3800 词长文,呼吁放缓最先进 AI 系统的研发节奏,让研究人员有更多时间了解潜在威胁,并推动 AI 生存风险进入公众讨论。OpenAI 首席执行官萨姆·奥尔特曼与埃隆·马斯克很快对阿莫迪的主张表达支持,显示出头部实验室在“先安全、后速度”这一判断上存在共识空间。
从技术角度看,三家公司的协同可能落在多个具体层面:前沿模型的危险能力评测方法、红队测试与对抗样本的共享、模型行为规范的统一表述,以及安全护栏在训练与部署阶段的工程实现路径。此前各家实验室多采用自建评测体系,标准口径不一,横向比较困难;若能在安全基准上形成相对统一的参考,将有助于整个行业更早识别模型能力跃迁带来的风险。
截至发稿,Anthropic 与谷歌 DeepMind 的发言人均未立即回应置评请求。业内普遍认为,随着模型能力快速提升,安全研究已难以由单一机构独立完成,跨公司的技术协作与安全共识,正在成为前沿 AI 发展的重要基础设施。
来源:Heooo AI工具导航