
· 存算一体芯片 · Compute-in-Memory
什么是存算一体芯片?原理、三条技术路线与适用场景
存算一体芯片把乘加运算放进存储阵列,权重不再在内存与计算单元之间搬运。本文解释它解决的问题、MaskROM / SRAM CIM / 近存计算三条路线的区别,以及各自适合的端侧场景。
存算一体、端侧推理芯片选型、推理算力成本、FPGA 原型验证。写给正在为设备选推理方案的工程师与产品团队。

· 存算一体芯片 · Compute-in-Memory
存算一体芯片把乘加运算放进存储阵列,权重不再在内存与计算单元之间搬运。本文解释它解决的问题、MaskROM / SRAM CIM / 近存计算三条路线的区别,以及各自适合的端侧场景。

· 端侧推理芯片 · 边缘AI芯片
为设备选端侧推理芯片时,真正决定成败的不是峰值算力,而是模型是否放得下、功耗是否撑得住、模型能不能更新。本文给出七个必须先回答的问题和一张选型清单。

· 推理算力 · 推理成本
推理算力的账要按三年算:API 按 token 计费、自建 GPU 按卡时摊销、专用芯片一次买断。本文给出三种方式的计算口径、一个可复算的例子,以及回本周期的估算方法。

· MaskROM · 掩膜存算一体
MaskROM 掩膜存算一体在流片的掩膜环节把模型权重物理写入硅片通孔阵列,运行时零权重搬运。本文解释它的工作方式、为什么功耗和边际成本最低、它的限制,以及适合的产品形态。

· 大模型 FPGA · 推理 IP
在流片之前用 FPGA 把大模型推理内核跑起来,能提前验证模型映射、接口与系统链路。本文说明推理 IP 授权的内容、FPGA 评估板在项目中的位置,以及从评估到 ASIC 的典型节奏。

· 内存墙 · 端侧大模型
大模型推理在解码阶段是带宽受限的:每生成一个 token 都要读一遍全部权重。端侧设备的带宽与功耗预算撑不起这种搬运,这就是内存墙。本文用数字说明这堵墙有多高,以及存算一体与近存计算如何绕过它。
发来目标模型、性能与功耗目标,我们回复适配路线与评估方案。