四台Mac Studio集群成功运行万亿参数Kimi K2.6

在苹果WWDC 2026期间，LM Studio与苹果合作完成了一项引人注目的技术演示：利用四台Mac Studio组成的集群，成功运行了月之暗面（Moonshot AI）的万亿参数大模型Kimi K2.6。这一成果展示了在消费级硬件上部署前沿AI模型的巨大潜力。

Kimi K2.6大模型总参数规模达到1万亿，采用MoE（混合专家）架构，激活参数为320亿。该模型支持长上下文处理、多模态输入以及智能体任务处理，代表了当前大语言模型技术的前沿水平。此前，如此规模的模型通常需要依赖昂贵的专业GPU集群才能运行，而此次演示则证明了苹果Mac Studio在AI推理方面的强大能力。

据LM Studio官方介绍，四台Mac Studio通过苹果的内存共享和互联技术紧密协作，形成了统一的集群系统。这些设备的总统一内存容量达到了约1.5TB，足以承载Kimi K2.6模型的推理需求。此外，演示还重点展示了LM Link功能，用户可以通过MacBook Neo笔记本电脑和iPhone等设备，安全地远程访问集群上运行的模型。所有数据和通信均保持本地化处理，确保了用户隐私和数据安全。

此前有开发者进行的测试显示，在类似的四台Mac Studio集群配置下，Kimi K2.6模型在特定模式下可达到约28 tokens/s的生成速度。虽然这一速度相比顶级GPU集群仍有差距，但其功耗相对较低，且硬件成本更为亲民，为开发者和小型团队提供了新的选择。LM Studio作为本地AI模型运行平台，此次合作进一步凸显了在消费级硬件上部署大型开源模型的可行性。

这一演示也凸显了苹果生态在AI本地化部署方面的技术进展，特别是通过Thunderbolt 5 RDMA支持等多设备内存共享能力。LM Link作为LM Studio的远程访问功能，已于2026年6月初更新至其Mac应用和Locally AI iOS应用中，支持端到端加密连接，为用户提供了便捷、安全的远程交互体验。