技术进展

OpenAI内部AI已可自主训练模型,RSI雏形初现

Heooo 09月22日21时00分 26 阅读

「OpenAI内部AI模型已能自主接管实验性模型的训练全流程,多智能体协作压缩实验耗时,甚至可自行编写GPU内核优化程序,被视为递归式自我提升的雏形。OpenAI同时发布全球安全倡议,呼吁建立统一技术标准与强制人类监督机制,并与Anthropic达成交叉测试协议。」

OpenAI的生产线深处正在发生一件值得警惕的变化:其内部AI模型已经能够自主接管实验性AI模型的训练全流程。多个智能体自发协作完成相关工作,把原本漫长的实验耗时大幅压缩,甚至还能自己动手编写用于优化GPU内核的程序。在OpenAI看来,这正是递归式自我提升(RSI)的雏形——当造AI的AI开始自己迭代自己,研发效率的提升曲线将不再由人类的手速决定。

面对这股正在加速的势头,OpenAI抛出了全球安全倡议。公司明确指出,全自主的RSI尚未真正发生,但进程正在提速;一旦缺乏管控,人类有可能彻底失去对AI发展的实际控制。这一判断并不激进,却足够现实:如果模型能够自行设计实验、自行编写底层优化代码、自行评估结果并进入下一轮迭代,那么整个研发闭环的节奏将远超人类团队的审查能力。

为此,倡议呼吁建立针对前沿AI模型的全球统一技术标准,把几件最要紧的事写进规则:评估AI在自动化研发中的占比、设置强制人类监督的触发机制、确立事故的分类与报告规范。换言之,不仅要衡量模型有多强,还要量化它究竟参与了多少研发工作,并在关键节点上强制人类介入,同时让每一次异常都有统一的定级口径与上报路径。倡议设定的目标很明确,就是让安全对齐研究的速度始终跑在AI能力提升的前头。

更务实的一步是互相盯防。OpenAI正与曾因安全理念分歧出走的Anthropic敲定一份协议,双方交叉测试对方的商用模型,用互查来补上自审的盲区,共同应对RSI逼近带来的未知风险。这种由竞争对手彼此充当审查者的安排,在AI行业并不多见,也从侧面说明问题的紧迫程度。

放在更长的时间尺度上看,这条消息释放出两个信号。其一,自动化研发已经从论文里的设想,变成实验室里可运行、可度量、可压缩耗时的真实工作流,GPU内核级别的程序生成能力尤其值得关注,因为它触及了训练效率的底层。其二,安全治理的范式正在从单家企业关起门来自我审查,转向跨机构的标准共建与交叉验证。当最激进的玩家也开始担心控制权问题,说明RSI不再只是一个思想实验,而是一个需要提前布防的工程问题。

# OpenAI # 递归式自我提升 # AI安全对齐

来源:Heooo AI工具导航