低成本代理架构突破抽象推理基准
「最新研究提出两种基于开源模型DeepSeek V3.2的代理架构,在不进行ARC-AGI-1特定微调且严格控制预算的情况下,实现了显著的抽象推理性能提升。Explorer-Definer Pipeline以每任务0.25美元的成本达到57.50%的pass@2,Reflective Orchestrator则以0.62美元的成本达到67.25%的pass@2,相比15.50%的基线提升约52个百分点。研究通过无偏pass@k分析揭示了生成瓶颈而非选择瓶颈,并通过消融实验确认了“思考工具”模块的重要性。」
近期,一项关于ARC-AGI-1基准测试的研究在人工智能社区引起广泛关注。该基准测试旨在评估模型的抽象推理与泛化能力,被认为是通往通用人工智能的关键挑战之一。以往,在该基准上取得显著进展的方法主要分为两类:一类依赖前沿模型在测试时进行大量计算,例如进化搜索、穷举采样或长链思维;另一类则针对基准进行特定训练,通过微调小模型并采用任务专用架构来提升性能。
然而,一项来自arXiv的新研究探索了第三条路径:在严格预算限制下,使用开源权重模型(DeepSeek V3.2)的非思考模式,且不进行任何ARC-AGI-1特定的微调。研究团队的核心问题是:仅通过架构设计,能在多大程度上提升模型的抽象推理能力?为此,他们构建了两种代理管道,将模式发现与程序合成阶段显式分离。
第一种架构被称为Explorer-Definer Pipeline。该管道采用两阶段代理流程:第一阶段负责模式发现,第二阶段负责将发现的模式转化为可执行的变换合成。这种分离设计使得模型能够更系统地处理抽象推理任务。在ARC-AGI-1公开的400个任务评估集上,该管道以每任务0.25美元的成本,达到了57.50%的pass@2(即两次尝试中至少一次成功)。
第二种架构是Reflective Orchestrator,它在Explorer-Definer Pipeline的基础上增加了反思机制。当先前的假设在训练对(training pairs)上失败时,Orchestrator会自动探索新的变换。这种自适应探索能力显著提升了性能:以每任务0.62美元的成本,达到了67.25%的pass@2。相比15.50%的单次基线,这两种架构共同将性能提升了约52个百分点,且完全没有依赖基准专用训练或大量测试时计算。
研究团队还通过无偏pass@k分析揭示了性能瓶颈的本质。他们发现,管道的主要限制在于生成能力,而非选择能力。具体而言,基于训练对准确率的选择机制能够捕获约95%的候选上限,这意味着即使改进排名算法,性能提升空间也十分有限。相反,扩大生成范围才是关键。Reflective Orchestrator正是通过自适应重新探索实现了这一预测:无偏pass@1提升了9.81个百分点,与选择介导的pass@2提升相匹配。
此外,一项消融实验进一步确认了“思考工具”(think tool)在管道中的重要性。当移除该工具时,pass@2下降了5.75个百分点,表明这一模块在模式发现和推理过程中扮演着不可或缺的角色。
这项研究的意义在于,它证明了通过精巧的代理架构设计,即使使用开源模型和有限预算,也能在抽象推理这一高难度基准上取得突破性进展。这为未来开发更高效、更通用的AI系统提供了新的思路,即不再单纯依赖模型规模或计算资源,而是通过架构层面的创新来释放模型的潜在能力。研究团队的工作也为AI社区提供了一个可验证的诊断框架,帮助研究者更准确地识别系统瓶颈,从而进行有针对性的改进。
来源:Heooo AI工具导航