逐火 Forge

从一封邮件到一颗芯片

1. 01

   确认路线

   目标模型、性能与功耗目标、更新频率、接口需求。第一个问题永远是：模型多久变一次。

2. 02

   FPGA 评估

   在评估板上部署推理内核，跑通模型，测量精度与吞吐，形成第一台工程样机。

3. 03

   系统导入

   围绕评估结果做接口、系统软件与现场验证，把样机变成产品原型。

4. 04

   ASIC 交付

   模型冻结后，采用量产 ASIC，或把 IP 集成进客户自己的芯片流片。

另外两颗

镇岳 Trident旗舰重载型芯片 · 15,000 token/s千目 Argus多模态视觉芯片 · 120 FPS

延伸阅读

• 端侧推理芯片怎么选：从模型、功耗到更新方式的七个问题为设备选端侧推理芯片时，真正决定成败的不是峰值算力，而是模型是否放得下、功耗是否撑得住、模型能不能更新。本文给出七个必须先回答的问题和一张选型清单。
• 推理算力成本怎么算：API、自建 GPU 与买断式芯片的三年账推理算力的账要按三年算：API 按 token 计费、自建 GPU 按卡时摊销、专用芯片一次买断。本文给出三种方式的计算口径、一个可复算的例子，以及回本周期的估算方法。
• MaskROM 掩膜存算一体：把权重铸进硅片意味着什么MaskROM 掩膜存算一体在流片的掩膜环节把模型权重物理写入硅片通孔阵列，运行时零权重搬运。本文解释它的工作方式、为什么功耗和边际成本最低、它的限制，以及适合的产品形态。