讯飞星火X2.5双子星开源,百万Token下放端侧
「词元星火推出并开源星火X2.5-4B与1.7B两款端侧大模型,原生支持百万Token上下文,采用混合注意力架构,基于全国产算力训练。模型在代码、智能体、家居控制等场景表现优异,权重已开放,API限时免费。」
9月1日,科大讯飞全资子公司词元星火正式推出并开源星火X2.5-4B和星火X2.5-1.7B两款端侧通用大模型。这是端侧模型中首个原生支持最长100万Token上下文的模型,同时已全面开放模型权重、代码仓库和部署文档,开发者可即刻下载体验。
两款模型均采用混合注意力架构,围绕智能体、代码、数学和指令遵循等核心能力进行优化,综合实测能力领先业界同尺寸一流开源模型。在上下文能力上,星火X2.5-4B和1.7B使用覆盖长篇文档、技术资料等场景的千亿Token级高质量数据训练,原生支持100万Token上下文窗口,可以一次接收和理解更大规模的信息。
以产品售后为例:用户可将完整售后手册导入星火X2.5-4B,模型先梳理不同场景下的售后规则并标注对应章节,当被问及“购买10天后设备故障且使用过第三方耗材是否符合换货要求”时,能够关联退换货、故障处理和例外条件等跨章节规定给出综合判断。即使后续补充偏远地区、设备存有家庭地图等新条件,模型也能保持前文情境,结合物流、数据清除、费用承担等规则继续给出建议。
长上下文解决的是“信息能不能看全”,智能体和工具调用能力解决的则是“看完之后能不能动手”。星火X2.5端侧模型可面向个人办公、代码开发、智能硬件和机器人等场景提供本地化智能能力。在代码开发场景中,星火X2.5-4B在算法实现、代码补全与生成等任务上可对标参数规模大2至3倍的云端模型;在Domux智能家居测试集上,星火X2.5-1.7B的控制指令端到端执行正确率达到90.3%,平均响应时间仅0.85秒;在机器人场景中,两款模型可部署在机器人本体或边缘设备,支持操作控制、目标追踪、导航决策等任务,减少对云端连接和固定预设程序的依赖。
星火X2.5-4B和1.7B均基于全国产算力平台完成全流程训练,使用约20万亿Token多样化数据进行预训练,并通过高质量监督微调和强化学习持续提升表现。部署层面,两款模型支持NVIDIA、华为、海光及后摩等硬件平台,兼容vLLM、SGLang、llama.cpp等主流推理框架,可通过Ollama、LM Studio等工具快速部署,并支持使用LLaMA-Factory开展增量训练。
即日起,模型权重已在Hugging Face、GitHub等平台开放,对应模型API已上线讯飞星辰MaaS平台,限时免费。9月7日,科大讯飞还将正式发布全新一代旗舰通用大模型星火X2.5,进一步升级代码和智能体等核心能力。
来源:Heooo AI工具导航