跳到正文

存算一体芯片 · Compute-in-Memory · 存内计算 · 近存计算 · MaskROM

什么是存算一体芯片?原理、三条技术路线与适用场景

燔石半导体技术团队 · 发布

存算一体芯片(Compute-in-Memory)让乘加运算直接在存储阵列内完成,模型权重不需要离开存储单元。它针对的是大模型推理中最大的开销:把权重从内存搬到计算单元。按权重存放的位置,主流路线分为 MaskROM 掩膜存算一体、SRAM 存内计算和近存计算三种。

它解决的是搬运问题,不是算力问题

大模型推理的每一个 token,都要把模型的全部权重读一遍。以一个 0.8B 参数、INT8 精度的模型为例,生成一个 token 至少要从存储读出约 0.8 GB 数据。传统架构下这些数据要经过总线进入计算单元,算完再把结果写回。计算本身只占很小一部分能耗,绝大部分电和时间花在了「搬」上。

这就是所谓的内存墙。在数据中心可以用 HBM 和更高的功耗预算硬扛,端侧设备没有这个条件:带宽是几十 GB/s 量级,功耗预算是几瓦。只要权重还需要搬运,端侧就跑不动像样的大模型。

存算一体的思路是反过来:既然搬运是瓶颈,就不搬。让权重住在存储阵列里,把乘加电路做进阵列旁边或阵列内部,激活流过去、结果流出来,权重原地不动。

三条路线:权重放在哪里

MaskROM 掩膜存算一体:权重在流片的掩膜环节被物理铸入硅片的通孔阵列。它是只读的,运行时没有任何外部权重搬运,功耗和单次推理的边际成本最低。代价是模型固化,换模型意味着换掩膜。适合模型稳定、出货量明确的设备,例如随身翻译终端和离线语音助手。

SRAM 存内计算(SRAM CIM):乘加发生在 SRAM 阵列内,权重上电时加载,可以更新。它保留了「运算不出存储单元」的优势,同时允许现场换模型,适合中等规模模型和需要迭代的产品。

近存计算(Near-Memory Compute):权重驻留在高带宽外存里,计算单元贴着存储放,用片上流式调度把搬运成本压到最低。它不是严格意义的「存内」,但对参数量大、模型还在快速演进的重载场景最实际。

怎么选:先回答「模型多久变一次」

选路线的第一个问题不是算力,而是模型的更新频率。模型一年内不会变、出货几十万颗,MaskROM 的成本和功耗优势无人能及;模型每季度迭代,近存计算或 SRAM CIM 更稳妥。

第二个问题是参数量。单瓦级功耗预算对应的是 1B 以内的模型;要在端侧跑 30B 级别的模型,需要近存路线配合几十瓦的整机功耗。

燔石半导体第一代芯片正好对应三条路线:逐火 Forge 走 MaskROM,面向 Qwen 3.5 0.8B 的单瓦级终端;镇岳 Trident 走近存计算,最高支持 Qwen 3.5 35B;千目 Argus 走 SRAM 存内计算,面向 120 FPS 的实时视觉推理。上述均为设计目标口径。

常见误解

「存算一体需要先进制程」:不需要。它的收益来自架构,而不是晶体管密度。燔石基于成熟的 SMIC 28nm 供应链,这也是成本与供货可控的原因。

「存算一体只能跑小模型」:MaskROM 路线确实偏向固定的小中型模型,但近存路线可以承载几十 B 参数量。真正的限制是功耗预算,不是架构。

「精度会损失」:存算一体的数字实现(区别于早期的模拟存内计算)在阵列内做的是精确的整数乘加,精度由量化方案决定,与在 GPU 上做 INT8 推理是同一件事。

把问题带到你的项目里

发来目标模型、性能与功耗目标,我们回复适配路线与评估方案。

申请样机