跳到正文

FS-MoE

稀疏混合专家
推理 IP

为端侧动态激活稀疏大模型设计,在有限带宽下承载大参数量模型。

FS-MoE 稀疏混合专家推理 IP示意图
图 1 · FS-MoE 稀疏混合专家推理 IP

数据流

为端侧动态激活稀疏大模型设计,在有限带宽下承载大参数量模型。

路由router专家 1专家 2专家 3专家 4合并只读被选中的权重
图 2 · FS-MoE 数据流示意

原生支持

端侧承载跨越式大参数量级模型

部署载体

ASIC 流片与 FPGA 原型部署,可结合项目进行接口与系统适配。

授权包含

推理内核 IP、FPGA 评估板、模型映射与接口适配、项目设计导入支持。

IP 支持范围、接口、资源占用、性能目标和授权方式需要结合目标器件与模型进行项目评估。

咨询 FS-MoE 授权

告诉我们目标器件、模型与接口,我们回复 IP 支持范围与评估计划。

咨询 IP 授权