博通发布VMware AI工厂简化私有云部署
「博通推出VMware AI工厂,作为AI私有云的软件定义基础,通过自动化将服务器部署到AI模型服务的时间从数周缩短至数小时,并支持GPU资源池化、统一模型库及可观测性监控,兼容多家硬件和主流大模型,助力企业简化AI部署。」
博通公司近日宣布推出VMware AI工厂,这是其VMware AI私有云的软件定义基础,旨在通过一系列自动化创新功能,为企业提供更加简单的AI生产力部署路径。该产品直接将AI应用部署到企业私有云环境,大幅降低了传统AI基础设施搭建的复杂度和时间成本。
VMware AI工厂的核心能力依托于VMware Cloud Foundation(VCF)。VCF具备独特的基础设施自动化能力,能够将服务器从部署到AI模型开始服务的过程,由以往的数周缩短至数小时。这一显著效率提升,使得企业可以更快速地响应业务需求,加速AI创新落地。
在资源管理方面,VCF可在整个企业内部汇集GPU资源,使不同团队能够在共享硬件上运行多个模型,无需为每个AI任务单独配置服务器。这种资源池化策略有效提高了硬件利用率,降低了基础设施投入成本。同时,统一模型库为数据科学团队提供了单一界面,员工可以在虚拟机、容器和GPU资源之间灵活部署及管理模型推理和RAG工作流,简化了模型生命周期管理。
为了确保AI应用的稳定运行和性能最优,VMware AI工厂内置了可观测性功能,可监控Token吞吐量、延迟以及计算和内存利用率,帮助企业将Token利用率最大化,从而在推理成本与服务质量之间取得更好平衡。
在生态兼容性上,VMware AI工厂支持思科、戴尔、联想、超微等厂商的VCF AI ReadyNodes认证产品,同时也支持客户偏好的AI软件和加速器架构。此外,平台还兼容Gemma 4、Cotomi、Qwen 3.7-Max、GLM 5.2等主流AI大模型,为企业提供了更大的选择灵活性,进一步降低了私有云AI部署的门槛。
来源:Heooo AI工具导航