行业资讯

小米玄戒O100芯片发布 聚焦大模型加速

Heooo 08月24日19时34分 26 阅读

「小米正式推出首款大模型专用AI加速芯片玄戒O100,采用6nm工艺与3D晶圆级堆叠方案,内存带宽高达1.22TB/s。该芯片基于近存AI计算架构,运行Xiaomi MiMo 3B模型时推理速度达330 Tokens/s,标志着小米在核心算力芯片自研道路上迈出关键一步。」

在人工智能大模型全面普及的背景下,终端厂商在硬件底座上的较量正持续深入。小米在玄戒芯片技术沟通会上正式推出旗下首款大模型专用AI加速芯片——玄戒O100。这一举措标志着小米在核心算力芯片自研道路上实现了关键突破,也反映出终端厂商正试图通过底层硬件创新来应对大模型时代对算力与能效的严苛要求。

从底层硬件架构与制造工艺来看,玄戒O100采用了先进的6nm工艺制程,并引入3D晶圆级堆叠方案。该设计在有限芯片尺寸内实现了高度集成,为大规模参数的高效吞吐提供了物理基础。得益于这一架构,玄戒O100的内存带宽高达1.22TB/s,这一数据在同类AI加速芯片中具备明显优势,能够有效缓解大模型推理过程中的数据搬运瓶颈。

在架构设计层面,玄戒O100创新性地采用了近存AI计算架构,并搭配专用的玄戒高带宽矩阵总线,能够完美支撑多核并行计算的需求。近存计算将存储单元与计算单元更紧密地结合,大幅降低数据访问延迟,从而提升整体推理效率。配合高带宽矩阵总线,多核之间的数据协同更加高效,使得芯片在处理大规模模型时能够保持稳定的高吞吐表现。

在实际运行表现上,当运行Xiaomi MiMo 3B模型时,玄戒O100的推理速度可达330 Tokens/s。这一成绩展现出极其优异的大模型实时响应与处理能力,意味着终端设备能够更流畅地运行生成式AI应用,为用户带来接近实时的交互体验。对于大模型在端侧场景中的落地,这种性能表现无疑具有重要的推动意义。

玄戒O100的发布,不仅是小米在自研芯片领域的一次重要布局,也揭示了AI加速硬件正从通用计算向专用大模型计算演进的新趋势。随着大模型参数规模持续增长,终端厂商对高带宽、低延迟、高能效核心算力的需求将愈发迫切。玄戒O100所采用的6nm工艺、3D堆叠以及近存计算等技术组合,有望为后续AI芯片的设计提供新的参考方向。

# AI芯片 # 小米 # 玄戒O100 # 大模型加速

来源:Heooo AI工具导航