Thinking Machines发布9750亿参数开源模型 封面图
开源项目

Thinking Machines发布9750亿参数开源模型

Heooo 07月16日02时58分 2 阅读

「Thinking Machines公司正式发布其开源大语言模型Inkling,总参数量高达9750亿,但采用混合专家架构,每次推理仅激活410亿参数,兼顾性能与效率。该模型支持文本、图像和音频多模态输入,拥有100万token的超长上下文窗口,并在代码编写、工具使用、指令遵循及置信度预测等任务上表现出色。Inkling已开放权重,开发者可通过Tinker平台进行微调,为AI应用开发提供了强大的基座模型。」

人工智能领域迎来重磅开源模型。由Mira Murati创立的Thinking Machines公司今日正式发布了其首款大语言模型——Inkling。这款模型以其惊人的9750亿总参数和高效的混合专家(MoE)架构,迅速吸引了全球AI开发者的目光。

Inkling的核心亮点在于其“大而精”的设计哲学。模型总参数量达到9750亿,但通过MoE架构,每次推理仅激活约410亿参数。这意味着开发者可以在享受接近万亿参数级别模型强大能力的同时,保持相对较低的计算成本和推理延迟,为实际部署提供了极大的灵活性。

Thinking Machines发布9750亿参数开源模型

在技术规格上,Inkling表现出了全面的前沿性。它原生支持文本、图像和音频三种模态的输入,是一个真正的多模态通用模型。其上下文窗口长度高达100万token,能够一次性处理超长文档或复杂对话。此外,模型还提供了“可控思考时间”功能,允许用户根据任务需求在速度与性能之间进行权衡。

在能力评估方面,Thinking Machines宣称Inkling在知识、数学和科学等通用智能基准测试中表现优异。更值得关注的是,该模型在智能体编码和工具使用方面展现出强大实力,能够编写代码并调用外部工具完成复杂任务。同时,Inkling具备良好的指令遵循能力,可以可靠地处理详细的多步骤指令,并在预测任务中提供校准良好的置信度分数。

作为一款开源模型,Inkling的权重已完全开放,开发者可以自由下载、修改和部署。Thinking Machines还推出了名为Tinker的训练平台,用户可以在该平台上对Inkling进行领域微调,使其更贴合特定业务场景。这种“开放权重+微调平台”的组合,大大降低了企业应用先进AI技术的门槛。

Inkling的发布标志着开源大模型在规模和能力上又迈出了重要一步。它不仅为学术研究提供了强大的实验工具,也为工业界构建定制化AI应用提供了高质量的基座。随着开发者社区的深入探索,Inkling有望在代码生成、多模态理解、智能助手等多个领域催生创新应用。

# Thinking Machines # Inkling # 开源模型 # 混合专家 # 多模态 # 大语言模型

来源:Heooo AI工具导航