Rk3576 npu 速度比 rk3588 慢一半

Chip Platform Rockchip
,
1

固件类型：官方提供的固件
固件文件名称：出厂的固件
固件下载地址：未刷机，出厂固件
Log日志：det.zip

同样代码跑 yolov5 推理， 使用 firefly 的 rk3576 box 与 firefly的 rk3588 开发板对比 ，

3576 的推理速度 为 40ms 一帧 ， 3588 推理速度 <20ms 一帧 ！ 慢一倍， 是 3576 盒子的 NPU 有降频吗？

RK 官方 rknn_model_zoo 里的 3576 性能 某些情况比 rk3588 还要强。

tchip_askquestions
det.zip (101 KB)

2

命令行输入看下版本：ffgo version

3

OS: Ubuntu 22.04.5 LTS
MODEL: Firefly RK3576-FIREFLY-AIBOX Linux
FIREFLY: v3.11-37-g59c5c6fc
DATE: 20240912
KERNEL: Linux version 6.1.75-g1b2c33009112 (lanzj@tchip14) (HEAD: 1b2c33009112/2409131133) (sdk version: rk3576_linux_release_20240827_v1.0.0d.xml) (aarch64-none-linux-gnu-gcc (GNU Toolchain for the A-profile Architecture 10.3-2021.07 (arm-10.29)) 10.3.1 20210621, GNU ld (GNU Toolchain for the A-profile Architecture 10.3-2021.07 (arm-10.29)) 2.36.1.20210621) #3 SMP Fri Sep 13 11:37:11 CST 2024

4

先让cpu跑最高频: echo performance | tee $(find /sys/devices -name *governor)
然后再将你的程序跑在大核再测试：taskset -c 4-7 ./your_task

3576的npu是双核的，每核3T；而3588是三核心，每核2T。

5

是否一并统计了前处理、后处理等耗时，可以参考官方文档用相关接口查看NPU推理耗时和对比各层耗时

6

dengkx 发表于 2025-2-5 17:57
先让cpu跑最高频: echo performance | tee $(find /sys/devices -name *governor)
然后再将你的程序跑在大 …

管用！， 主要是 dmc 和 npu 自动降频导致的