阿里开源Qwen3.8-2.4T-A95B模型权重
「阿里云魔搭社区宣布开放Qwen3.8-2.4T-A95B模型权重,总参数2.4T,每Token激活95B,原生支持262144 Token上下文,可扩展至超百万Token。这是Qwen-Max级别模型首次开源,在编程、办公、科研和长周期Agent任务上表现突出。」
阿里云魔搭社区正式宣布,阿里Qwen团队开放了Qwen3.8-2.4T-A95B模型权重。这是Qwen-Max级别的模型首次以开源形式发布,标志着阿里在大模型开源策略上迈出了重要一步。该模型总参数规模达到2.4万亿,每个Token仅激活95亿参数,采用混合专家架构,在保持高性能的同时有效控制推理成本。
在技术规格方面,Qwen3.8-2.4T-A95B原生支持262144 Token的上下文窗口,并可进一步扩展至1010000 Token,为长文档处理、复杂代码库理解和跨天多步Agent任务提供了充足的空间。模型延续了Qwen3.5的混合架构设计,每个MoE层包含512个专家,每个Token会选择10个路由专家,同时激活1个共享专家,从而在计算效率和模型能力之间取得平衡。此外,模型还进行了多步MTP训练,支持推理引擎预测多个后续Token,提升解码效率。
官方公布的评测覆盖了编程Agent、通用Agent、专业工作和长上下文等多个方向。与Opus 4.8、Fable 5、GPT 5.6 Sol等业界先进模型相比,Qwen3.8-2.4T-A95B在各项结果上互有高低,并在PaperBench、IFBench等基准测试中取得了所列模型中的较高成绩。这表明该模型在特定专业任务和通用能力上均已达到国际一线水平。
针对Qwen3.8-Max的办公与Agent后训练,官方介绍了三个核心环节。首先是持续扩展真实环境,并在任务、工作空间和Harness三个独立维度上进行解耦,使环境数能够以组合方式自然增长,而非依赖逐一定制化集成。其次是构建统一的奖励系统,将基于执行的校验、视觉输出rubric评估以及agentic检查统一在一起,为所有环境提供一致可靠的奖励信号。最后是构建在线数据均衡器,对每个batch进行重构,使任务、难度、工作区与harness的分布高度均衡,从而降低梯度方差,支撑强化学习训练算力的稳定扩展。
此次开放权重不仅让开发者可以本地部署和微调这一超大模型,也为研究和应用社区带来了新的可能性。官方云端版Qwen3.8-Max基于该开放权重模型,并加入了更多生产环境能力。用户可以通过Qwen Studio等平台直接体验。随着权重开放,预计将涌现更多围绕长上下文、复杂Agent任务和MoE架构的优化实践。
来源:Heooo AI工具导航