技术进展

AURA:为机器人策略构建恒定显存的动作门控记忆

Heooo 06月03日13时01分 5 阅读

「针对机器人边缘设备显存和带宽有限的问题,AURA提出动作门控记忆机制,替代传统KV缓存,实现恒定显存下的长时程策略推理。」

在数据中心环境中,KV缓存(Key-Value Cache)是处理大量短请求的高效工具,它通过缓存注意力计算的中间结果来加速推理。然而,当这一技术被直接移植到机器人领域时,其局限性便暴露无遗。机器人作为具身智能体,通常运行在带宽受限的边缘硬件上,执行的是长时间、不间断的连续任务。在这种场景下,传统的KV缓存不仅无法有效利用有限的显存和闪存资源,反而会因为不断增长的缓存大小导致显存溢出或推理延迟激增。

针对这一核心矛盾,来自arXiv的最新研究提出了AURA(Action-Gated Memory for Robot Policies at Constant VRAM)——一种专为机器人策略设计的动作门控记忆机制。该机制的核心洞察在于:机器人策略的注意力模式并非随机,而是与当前执行的动作高度相关。通过引入动作门控,AURA能够动态选择并保留与当前动作最相关的历史状态,从而在推理过程中维持一个恒定大小的显存占用,彻底摆脱了传统KV缓存随序列长度线性增长的问题。

从技术实现上看,AURA借鉴了门控循环单元(GRU)中的门控思想,但将其应用于Transformer的注意力缓存管理。具体而言,AURA在每一个时间步,根据当前的动作指令和隐层状态,计算一个门控信号,该信号决定了哪些历史键值对需要被保留、哪些可以被丢弃。这种选择性记忆机制使得机器人能够在有限硬件资源下,保留数分钟甚至更长时间跨度的任务相关信息,而无需担心显存耗尽。

该研究的意义不仅在于技术层面的创新,更在于它为机器人策略的部署提供了新的可能性。当前,许多高性能的机器人策略模型(如基于Transformer的决策模型)由于显存需求过高,难以在低成本边缘设备上运行。AURA的出现意味着,未来机器人可以搭载更轻量级的硬件,同时保持对复杂长时任务的执行能力。这对于家庭服务机器人、工业巡检机器人以及自动驾驶等场景尤为重要,因为这些场景对实时性、低功耗和低成本有着严苛的要求。

此外,AURA的设计思路也为其他边缘AI应用提供了启示。在物联网、可穿戴设备、无人机等资源受限的平台上,类似的动作门控记忆机制或许可以被推广至视觉问答、语音交互等任务中,从而在保持模型性能的同时,大幅降低硬件门槛。目前,该论文已在arXiv上公开,并提供了初步的实验结果,展示了AURA在模拟和真实机器人任务中相比传统方法的显著优势。未来,研究团队计划进一步探索该机制在更多模态和更复杂任务中的泛化能力。

# AURA # 机器人策略 # 显存优化 # 边缘AI # 动作门控记忆

来源:Heooo AI工具导航