多模型同时推理，npu推理速度问题

Chip Platform Rockchip
1

固件类型：官方提供的固件
固件文件名称：Ubuntu
固件下载地址：Firefly | 让科技更简单，让生活更智能
Log日志：firefly日志.txt

我这边多个模型同时推理，时间成倍增加，
比如：1个模型 假设推理时间是50毫秒，两个模型同时推理测试是100毫秒，这个现象是正常的吗？多模型推理时间上可以优化加快吗
tchip_askquestions
firefly日志.txt (9 Bytes)

2

这个现象是正常的，多个模型不能并行执行，在底层会维护一个fifo排队执行