Ramp推出AI模型路由器Router 封面图
行业资讯

Ramp推出AI模型路由器Router

Heooo 08月21日00时59分 17 阅读

「企业支出管理平台Ramp推出AI模型路由器Router,用户可通过API使用和切换多家大语言模型,支持多种路由策略与仪表板监控。该服务美国区免费至2026年底,并附26美元信用额度。Ramp希望借此切入AI推理市场,同时强化其AI支出管理产品生态。」

企业支出管理平台Ramp近日推出了一款自研的AI模型路由服务,命名为Router。该服务允许用户和企业通过统一的API接入并灵活切换多家大型语言模型,为AI推理调用提供了新的中间层解决方案。Ramp透露,过去三年中,其内部AI应用一直在使用自建的这套路由器,如今决定将其对外开放。

从功能上看,Router与OpenRouter的运作方式颇为相似,但Ramp当前提供的模型生态相对更为专注。Router目前支持来自OpenAI、Anthropic、DeepSeek、Moonshot、Minimax、Nvidia、xAI以及Z.ai等多家机构的模型。用户可以根据自身需求,在这些模型之间进行切换,而无需频繁调整代码或接口。

Ramp推出AI模型路由器Router

Router最突出的特点在于其提供的多种“路由策略”。用户可以通过这些策略,按照偏好将AI请求分配至最合适的模型。例如,用户可以设定供应商的弹性用量层级偏好,也可以让Router根据最多三个用户指定的基准指标来决定查询的模型。此外,用户还能选择只将困难问题路由到更昂贵的模型,或者在不切换环境的情况下轻松测试不同模型。这种精细化控制,使得Router不仅是一个模型聚合网关,更是一个智能调度工具。

在可观测性方面,Router提供了仪表板功能,用户能够清晰查看令牌消耗、成本、延迟、回退尝试次数以及其他关键运行细节。这对于企业优化AI支出和性能至关重要,也让Router与Ramp原有的AI令牌使用监控和令牌支出管理产品形成了天然协同。

值得注意的是,Router默认采用“选择退出”的数据保留策略。具体来说,Router会默认记录模型的输入、输出和工具调用,保留期限为一年。但Ramp表示,在使用这些内容改进产品之前,会移除其中涉及个人身份的信息。这一设计在提供数据洞察的同时,也在一定程度上兼顾了用户隐私。

Ramp进入模型路由领域,背后是双重的商业考量。一方面,AI推理市场正在迅速膨胀,Ramp希望在这条新赛道上占据一席之地;另一方面,为现有客户提供模型路由服务,能够与其既有产品线无缝衔接,增强客户粘性。如果Router能像OpenRouter那样成为一个受欢迎的模型测试平台,Ramp还有机会与全球的AI实验室和推理服务提供商建立长期合作关系。这无疑将帮助这家在今年六月刚以440亿美元估值融资7.5亿美元的公司,获取新客户并打开销售其支出管理产品的新入口。

Ramp推出AI模型路由器Router

目前,Router服务仅在美国市场提供。在2026年剩余时间内,该服务可免费使用,用户仍需自行承担AI模型推理费用,并且Ramp还附赠了26美元的启动信用额度。不过,Ramp并未透露明年该服务将如何定价,这给市场留下了一定想象空间。随着AI应用场景的不断深化,模型路由这一细分领域正在吸引越来越多玩家的关注,Ramp的入场,或将给这一领域带来新的变数。

# AI模型路由 # Ramp # Router

来源:Heooo AI工具导航