中国产业数据库及互动平台
无问芯穹Mizar智能终端加速推理引擎
无问芯穹
无问芯穹Mizar智能终端加速推理引擎
转发
已收藏
收藏

正式发布!无问芯穹Mizar智能终端加速推理引擎,基于高性能并行解码、算子融合优化以及异构计算等技术,实现了多种应用场景下推理速度的大幅提升,以及功耗和内存占用的显著降低……今天,Mizar智能终端加速推理引擎正式开放企业级合作,突破端侧设备资源瓶颈,提升大模型在智能终端上的推理效率…… #无问芯穹 #端侧智能 #智能终端*

推荐
来自无问芯穹