Vercel CEO谈模型与智能体分离之战
「Vercel CEO Guillermo Rauch 在 ShipNYC 大会后接受专访,深入探讨了 AI 智能体在生产环境中的挑战与解决方案。Vercel 目前每天处理 600 万次部署,其中一半由编码智能体触发,AI 网关每日处理超过 1 万亿个 token。Rauch 指出,智能体的两大杀手级应用是编码智能体和内部企业智能体,但后者面临数据安全、审计和访问控制等难题。为此,Vercel 推出了 Eve 框架和 Sandbox 沙盒工具,前者允许用自然语言定义智能体指令,后者则通过策略限制数据访问,防止敏感代码泄露。Rauch 强调,将模型能力与智能体行为分离是当前行业的关键挑战。」
在 AI 软件基础设施领域,Vercel 正悄然成为核心角色。这家以无服务器部署平台闻名的公司,如今每天处理 600 万次部署,其中一半由编码智能体自动触发,其 AI 网关每日处理的 token 量超过 1 万亿。在 ShipNYC 大会后,Vercel CEO Guillermo Rauch 分享了关于 AI 智能体从原型到生产的关键洞察,以及平台公司如何与大型 AI 实验室竞争。
“去年是原型阶段,天空才是极限,释放智能体,人人可构建。”Rauch 回忆道。Vercel 内部曾有机开发并部署了数百个智能体,但进入生产环境后,现实的挑战开始浮现。他总结出两大杀手级应用:编码智能体和内部企业智能体。前者驱动了全球大量的 token 消耗,但产生的海量软件需要可靠的部署平台;后者则面临更复杂的难题——如何安全访问数据?如何审计智能体行为?如何追溯工具调用和访问控制的完整轨迹?
为解决这些问题,Vercel 推出了名为 Eve 的框架。该框架允许开发者用自然语言定义智能体的指令和技能,大幅降低了智能体构建的门槛。同时,Vercel Sandbox 工具将智能体置于一个“小笼子”中,赋予其自由表达智能的同时,通过策略严格控制数据访问权限和流出规则。Rauch 强调:“数据控制是沙盒最大的优势。一个真实的风险是,当你在不合适的设置中使用 Devin 或 Cursor 这类编码 IDE 时,它们可能会基于你的整个代码库进行训练。”
Rauch 以空客为例说明了这一风险:“空客拥有数十年积累的、用于航空航天工程的特定 C++ 代码。如果有人安装了错误的开发工具,所有代码就会瞬间上传到云端进行训练。”这种担忧并非杞人忧天,对于拥有核心知识产权的企业而言,智能体的数据安全边界至关重要。
在谈到内部企业智能体的具体应用时,Rauch 描绘了一个销售代表的场景:“她负责维护现有客户并拓展业务。过去,她的瓶颈不是创造力和能力,而是获取信息的速度。现在,智能体可以实时查询客户历史、合同条款和产品目录,并自动生成跟进邮件。但关键在于,智能体必须知道哪些数据库可以访问,哪些操作需要审批。”
这种“模型与智能体分离”的理念,正是 Rauch 认为当前行业最需要厘清的方向。模型提供智能和推理能力,但智能体需要一套独立的规则系统来约束行为、记录审计日志并执行策略。Vercel 的 Eve 和 Sandbox 正是这一理念的实践产物:模型可以自由发挥,但智能体必须在预设的“笼子”里行动。
Rauch 进一步指出,平台公司的竞争优势在于基础设施层。大型 AI 实验室专注于模型能力,而 Vercel 这样的平台则解决智能体在生产环境中的编排、安全和治理问题。“我们不是要取代模型,而是让模型在受控环境中安全地释放价值。”他说道。随着企业从原型阶段转向规模化部署,这种分离策略正成为行业共识。
从数据来看,Vercel 的 AI 网关每日处理超过 1 万亿 token,这反映了智能体调用模型的巨大需求。Rauch 认为,未来智能体将成为企业的“数字员工”,而平台需要提供类似员工管理的权限体系、操作日志和合规框架。Vercel 正在将这种能力产品化,让开发者无需从零构建安全机制。
对于开发者生态,Rauch 观察到今年社区的能量明显不同:“更少的试点项目,更多关于如何让事情在实践中真正运作的讨论。”这种务实转向意味着,AI 行业正在从“展示可能性”进入“交付可靠性”的阶段。而 Vercel 的 600 万次日部署量,正是这一趋势的缩影。
来源:Heooo AI工具导航