rknn-toolkit-lite2 分析模型过久

Chip Platform Rockchip
1

固件类型：官方提供的固件
固件文件名称：ROC-RK3588S-PC-EXT_Ubuntu20.04-Gnome-r2407_v1.1.1a
固件下载地址：ROC-RK3588S-PC-EXT_Ubuntu20.04-Gnome-r2407_v1.1.1a_230704
Log日志：微信图片_20230919164611.rar

使用 rknn-toolkit-lite2 1.5.2 时候
self.rknn.inference(inputs=[img])分析模型时候使用时间需要100ms 而且CPU会占用百分之15左右

是不是没有使用NPU

tchip_askquestions
微信图片_20230919164611.rar (43.6 KB)

2

image.png
image.png807×127 13.2 KB
image.png
image.png1441×309 13.9 KB

这个是使用时间和CPU占用率

3

cat /sys/kernel/debug/rknpu/load 查看npu利用率

4

image.png
image.png506×111 10.5 KB

一个摄像头使用了百分之2

5

dengkx 发表于 2023-9-20 10:38
cat /sys/kernel/debug/rknpu/load 查看npu利用率

NPU 在只使用了一个摄像头的情况下 占用了百分之2

6

chenll 发表于 2023-9-20 11:26
NPU 在只使用了一个摄像头的情况下 占用了百分之2

这与模型，数据、量化、通道及使用npu接口都有关，需自行排查。