前OpenAI CTO发布开源混合专家模型Inkling 封面图
行业资讯

前OpenAI CTO发布开源混合专家模型Inkling

Heooo 07月16日02时31分 4 阅读

「由前OpenAI CTO Mira Murati创立的Thinking Machines Lab发布了其首个开源AI模型Inkling。该模型采用混合专家架构,拥有9750亿总参数,但每次推理仅激活约410亿参数,兼顾性能与效率。Inkling支持文本、图像、音频和视频的原生推理,并允许用户调节“思考努力”以平衡速度与准确性。公司强调模型并非最强,但追求全面性能,并鼓励企业通过其Tinker平台进行微调,挑战“一刀切”的通用AI模式。」

由前OpenAI首席技术官Mira Murati创立的AI初创公司Thinking Machines Lab,于本周三正式发布了其首个自研AI模型——Inkling。与OpenAI、Anthropic或Google的旗舰模型不同,Inkling是一款开源权重模型,这意味着外部开发者和企业可以直接下载并对其进行修改。这一举措标志着Thinking Machines Lab在成立一年半后,首次向公众展示其技术实力,也是对“去中心化AI”理念的一次重要实践。

Inkling采用混合专家系统架构,拥有高达9750亿的总参数,但在处理任何特定任务时,仅激活其中约410亿参数。这种设计在大型模型中颇为常见,旨在保持模型高性能的同时,降低运行成本并提升推理速度。根据公司发布的材料,Inkling在45万亿个标记(涵盖文本、图像、音频和视频数据)上进行了训练,并具备跨这三种模态进行原生推理的能力。这意味着它能够同时理解并处理文字、图片和声音信息,而无需依赖额外的转换模块。

前OpenAI CTO发布开源混合专家模型Inkling

Thinking Machines Lab此前的大部分工作都处于公众视野之外,但今年五月,他们曾发布一项关于“交互模型”的研究预览——这是一种能够倾听、说话甚至打断对话的AI,而非像传统聊天机器人那样等待用户输入完毕后再回应。Inkling的发布可以被视为这家公司核心赌注的试金石:即能够被组织自行适配的AI,其表现将超越那些由大型实验室销售的一刀切模型。

Inkling的设计颇具特色,它能够给出经过校准的答案,包括在不确定时明确表示不确定性,而非强行猜测。此外,用户可以通过调节“思考努力”的强度,在需要时牺牲部分准确性以换取更快的响应速度。在某一项基准测试中,公司声称,Inkling仅需使用英伟达Nemotron 3 Ultra模型三分之一的标记数量,即可达到相同的编码性能。值得注意的是,Thinking Machines Lab并未宣称Inkling是同类最佳。其简报材料明确写道,Inkling“并非当前最强模型,无论是闭源还是开源”。它显然追求的是全面均衡的性能表现。

这自然引出一个关键问题:除了明确的企业级定位外,这款产品究竟瞄准了哪些用户?目前,Thinking Machines Lab更多将Inkling视为一个起点而非成品——一个供组织通过其模型定制平台Tinker进行微调的起点。但这意味着,客户需要自行确保其定制化版本的安全性,而微调本身也需要具备扎实的机器学习人才。相比之下,OpenAI、Anthropic和Google分别以ChatGPT、Claude和Gemini采取了截然不同的策略,它们首先被打造为通用型聊天机器人,之后再叠加代理和自主功能。

前OpenAI CTO发布开源混合专家模型Inkling

Thinking Machines Lab在上周发布的一篇文章中,显然是在为此次发布铺垫背景。文章指出,由一家公司集中训练并固定下来的AI,其表现不如由组织自行塑造的AI,因为大量专业知识是特定于掌握它的人的。更广泛的理念是,集中化的实验室向所有人销售相同的产品,然后反复进行微调优化。Inkling的开源发布,正是对这种“中央集权式”AI模式的一次直接挑战,它试图通过赋予企业更大的定制权,来释放AI在垂直场景中的真正潜力。

# 开源模型 # 混合专家架构 # 企业AI

来源:Heooo AI工具导航