RK 182X系列端侧算力协处理器，专为端侧大模型部署打造，可广泛应用于智能安防、机器人、智能车载、工业检测等领域。RK1820在运行千问2.5 3B模型时，首帧延时在80毫秒左右/TPS80，而RK1828 在运行7B LLM模型时首帧延时在163毫秒左右/TPS 53，在运行3B VL时首帧延时700毫秒左右/TPS 80。#芯片 #瑞芯微 #端侧 #算力 #处理器 #人工智能 #AI #大模型 #千问
已点赞
点赞
转发
已收藏
收藏
RK 182X系列端侧算力协处理器，专为端侧大模型部署打造，可广泛应用于智能安防、机器人、智能车载、工业检测等领域。RK1820在运行千问2.5 3B模型时，首帧延时在80毫秒左右/TPS80，而RK1828 在运行7B LLM模型时首帧延时在163毫秒左右/TPS 53，在运行3B VL时首帧延时700毫秒左右/TPS 80。#芯片 #瑞芯微 #端侧 #算力 #处理器 #人工智能 #AI #大模型 #千问