Kimi K2.5退役在即,K3万亿参数模型接力
「月之暗面宣布第一代万亿参数多模态模型Kimi K2.5将于本月底退役。该模型今年1月开源,在Agent、代码、图像等任务上取得开源SOTA。接力的Kimi K3拥有2.8万亿参数,基于KDA混合线性注意力机制,原生支持视觉与100万token上下文。」
月之暗面近日通过Kimi官方微博宣布,其第一代万亿参数多模态模型Kimi K2.5将于本月底正式结束服役。这一消息标志着Kimi系列进入全新阶段,下一代模型K3将接过技术接力棒。
Kimi K2.5于今年1月推出并开源,被官方称为Kimi迄今最全能的模型。它采用原生多模态架构,同时支持视觉与文本输入,并能在思考与非思考模式之间灵活切换,兼顾对话与Agent任务。在Agent、代码、图像、视频及通用智能任务上,K2.5曾拿下开源state-of-the-art表现,定位为可在对话、复杂推理与自动化任务间自由切换的通用型多模态模型。
K2.5的退场,也意味着月之暗面正式将重心转向7月开源的Kimi K3。这款模型拥有2.8万亿参数,官方称其是首个达到该规模的开源模型。K3基于KDA混合线性注意力机制与注意力残差技术构建,原生支持视觉理解,并拥有100万token的上下文窗口。过去12个月里,有9个月由Kimi保持着开源模型的规模上限,K3的发布延续了这一领先趋势。
从K2.5到K3的迭代,体现了月之暗面在模型架构与参数规模上的持续探索。K2.5作为一代过渡性全能模型,完成了多模态与Agent能力的基础验证;而K3则在注意力机制上做出结构性创新,通过混合线性注意力与残差技术,试图在长上下文与高参数规模之间取得平衡。100万token的上下文支持,也为复杂推理与大型文档处理提供了更广阔的承载空间。
对于开发者社区而言,K2.5的退役意味着后续维护与支持将逐步收尾,而K3的开源则提供了更新更强的替代方案。月之暗面强调,K3在视觉理解与长文本处理上的能力提升,将有助于推动多模态Agent应用落地。随着K2.5谢幕,Kimi系列的下一步技术演进值得关注。
来源:Heooo AI工具导航