技术进展

谷歌发布TimesFM-3实现零样本多变量预测

Heooo 09月01日21时01分 3 阅读

「谷歌发布时间序列基础模型TimesFM-3,拥有3.3亿参数,基于超1万亿时间点语料预训练,支持原生多变量预测、双注意力机制和连续补丁掩码,可零样本捕捉多个序列依赖关系,无需微调即可完成多目标预测与协变量支持。」

谷歌近日正式发布其时间序列基础模型系列的第三代产品TimesFM-3,该模型以3.3亿参数的轻量级规模,实现零样本多变量时间序列预测能力。这一成果标志着时间序列预测领域在通用性与效率上迈出重要一步。

据官方介绍,TimesFM-3在包含超过1万亿个时间点的真实世界与合成时间序列语料库上完成预训练,继承前代模型的高效推理与零样本泛化优势,同时针对复杂多元场景进行了深度增强。该模型最大的突破在于原生支持多变量预测,能够联合预测多个共同演化的时间序列,并自动捕捉序列之间的依赖关系,从而在无需针对特定任务微调的情况下提升整体预测准确率。

具体而言,TimesFM-3支持多目标预测,可同时输出点预测与分位数预测,例如联合预测不同品牌冰淇淋的销量趋势。此外,模型支持过去协变量,即仅从历史角度已知的特征(如过去人流量),也支持过去-未来动态协变量,即利用已知的未来事件来指导预测,例如计划中的促销活动或天气预报数据。这种灵活的协变量处理机制,使模型在零售、供应链、能源、金融等需要多序列联动分析的场景中具有广泛的应用潜力。

从技术架构角度,TimesFM-3引入了双注意力机制与连续补丁掩码技术。双注意力机制让模型在捕获序列内部时间依赖的同时,也能充分建模不同序列之间的交互关系;连续补丁掩码则帮助模型更高效地处理不规则或缺失数据,提升在真实业务环境中的鲁棒性。这些设计使得模型在参数仅3.3亿的情况下,依然具备不逊于更大规模模型的预测表现,降低了部署门槛。

此次发布延续了谷歌在基础模型领域的一贯策略,即通过大规模预训练与通用架构设计,打造可适配多任务的“即用型”模型。TimesFM-3的出现,为开发者提供了一种无需标注数据、无需微调即可快速构建预测方案的选项,有望推动时间序列分析在更多行业实现快速落地。

# 谷歌 # TimesFM-3 # 时间序列预测 # 多变量预测 # 基础模型

来源:Heooo AI工具导航