车载移动式词元工厂亮相探索算电协同新模式
「国内首个车载移动式词元工厂近日亮相,采用标准化40尺集装箱设计,搭载国产算力和能源管理系统,可实现多车快速组网形成移动算力集群。在120千瓦供电下可提供约50P至100P算力,支撑两个国产大模型推理任务,移动接入整体成本降低约25%,并可为应急场景和大型基建提供弹性算力。」
近日,国内首个车载移动式词元工厂正式亮相,这一创新性算力基础设施引起了行业广泛关注。该设施通过将算力与能源系统整合到移动载体上,实现了对人工智能算力需求的灵活匹配,同时探索了算电协同的全新模式,既有助于提升新能源消纳能力,又能显著降低算力运营成本。
从设计细节来看,这台车载移动式词元工厂采用了标准化40尺集装箱,整车采用电算冷、存算网一体化设计。车头可选用电动牵引车,使其在运行过程中更加环保。箱体内部支持9个机柜的部署,配备电力与通讯一体化快接口,能够实现多台车辆快速组网部署,形成移动算力集群。据相关报道,从车辆到场接入到完成调试运行,整个过程仅需6到8小时,极大缩短了传统算力部署周期。
在算力输出能力方面,该车在120千瓦供电条件下,可提供大约50P到100P的算力,理论上能够支撑两个国产大模型的推理任务。这种移动式布局带来的优势十分明显:当新能源发电出现低价电力时,算力车可以移动至距离新能源场站较近的变电站接入,有效提升新能源的消纳水平,同时降低算力运行成本。根据测算,通过移动方式接入算力,整体成本可降低约25%,从而能够生产出更具性价比的词元,服务于下游不同应用场景。
除了常规的算力供给,车载移动式词元工厂还具备场站级快速部署能力,能够在应急情况下提供可靠的算力支持。对于大型基建项目实施期间,它也可以提供弹性的就近算力,满足灵活、低延迟的算力刚需,真正实现算力随着词元走。这一创新模式有望为边缘计算、临时性算力需求以及新能源富集地区的算力利用提供新的解决思路。
来源:Heooo AI工具导航