请问在rknn_yolov5_demo中batch设置和推理时间长短有何关系

　　使用rknpu/rknn/rknn_api/examples/rknn_yolov5_demo/里面的模型，开1个batch的时候，rknn_run一次是48ms，但是开了4个batch的时候，rknn_run一次是258ms，这类模型开bath反倒时间会边长吗？

2022-4-11 09:57:55

你要多测试几次取平均值。具体还是看你用的芯片，每个芯片对batch定义不一定一样，3399pro可能就会因为batch越大，传输图像时间就变长了

2022-4-11 09:58:21

我们用的是 rk1808 的芯片。测试了很多次了，结果偏差不大，都是4batch的时候，比4次推理的时间长，可以用rk官方的yolo v5s模型浮现到。

2022-4-11 09:58:36

1808的话batch设置没有太大意义，一张一张送就可以

2022-4-11 09:58:50

好的，谢谢。

更多回帖