谷歌AI Edge Gallery登陆Mac，端侧多模态模型仅需16GB内存

谷歌近日正式将其实验性应用AI Edge Gallery引入Mac平台，这一举措显著降低了在本地离线运行生成式大模型的门槛。与Ollama、LM Studio等通用型第三方开源模型管理平台不同，AI Edge Gallery专为macOS深度优化，首批上线的模型包括旗舰端侧模型Gemma412B，该模型拥有120亿参数规模，支持文本、视觉和音频等多模态输入。

据谷歌官方透露，Gemma412B得益于底层架构与macOS的深度适配，仅需16GB内存的普通Mac电脑即可极其流畅地运行。这使得轻薄笔记本能够瞬间变身为具备全天候多模态交互能力的离线智能体，尤其适合需要本地代码编写与逻辑分析能力的场景。这一性能突破为端侧AI应用带来了实质性进步，用户无需依赖云端即可体验强大的多模态能力。

除了核心模型库的扩展，谷歌还同步面向Mac生态释出了一款免费的端侧语音效率工具——Google AI Edge Eloquent。该工具主打离线智能听写服务，不仅能精准捕获并转写用户的语音信息，还能在本地实时去除废话与口误，并对文本进行轻度润色，从而将口头表达转化为更清晰的书面文案。这一功能对于需要频繁记录和整理的职场人士尤为实用。

为了彻底杜绝传统听写软件对特定专业领域的误改痛点，Eloquent还贴心地开放了“自定义词汇表”功能。用户可根据自身需求，在软件中预先输入个人姓名、特定行业术语以及日常高频短语。由于所有的语音分析和文本润色过程全部在Mac本地芯片上闭环完成，数据无需上传云端，这极大满足了职场人士对数据隐私和商业机密的刚性保护需求。

整体来看，谷歌AI Edge Gallery的推出不仅丰富了Mac端的端侧AI生态，更通过Gemma412B和Eloquent等工具展示了端侧AI在性能、隐私和易用性上的巨大潜力。随着更多开发者的参与，未来端侧AI有望在更多领域实现生产力爆发。