行业资讯
微软称典型AI查询耗水量不足一滴
Heooo 06月16日20时00分 2 阅读
「微软援引最新研究指出,AI典型查询的耗水量中位数不足一滴,能耗也远低于此前估计,规模越大效率越高。」
微软近日发布博文,援引《Joule》期刊的研究指出,AI在大规模部署下的能耗与用水量显著低于早前外界估计。该研究认为,外界对AI大语言模型的关注点不应只放在单个模型的训练或推理规模上,而应更注重用户典型调用下的“每次查询”数据。
研究显示,一次常规典型AI调用耗电0.16至0.60瓦时,约等于一台40瓦电脑运行15至60秒,或1000瓦微波炉工作0.6至2秒。相比此前文献和媒体报道,新研究的数据低至四分之一到二十分之一。在水资源方面,保守估计下,典型查询的冷却用水为0.0至0.067毫升,中位数约相当于一百分之一茶匙,甚至少于一滴水。微软还提到,随着零用水数据中心设计的推广,这一数字还有继续下降的空间。
微软指出,规模越大,单位查询效率通常越高。大系统可同时处理更多请求,并在模型、调度、硬件多个层面叠加优化。就像大型航空公司更容易通过统一调度节省燃料一样,云平台也能把效率改进扩散到每一次推理。在10亿次日查询场景下,基础耗电约0.7吉瓦时;若加入效率优化,可降至约0.3吉瓦时。即使10%的请求属于代码生成、多步推理等长任务,整体能耗仍可比基线下降一半以上。
这一研究结果有助于消除外界对AI环境影响的过度担忧,同时也为AI行业在可持续发展方面提供了更精确的评估依据。微软强调,持续优化数据中心的设计与运营,是降低AI环境足迹的关键路径之一。
# AI能耗 # 微软 # 水资源 # 数据中心 # 效率优化
来源:Heooo AI工具导航