我在 Jetson nano 上将我的自定义 yolov3 模型转换为 onnx，然后将 onnx 转换为 tesnsorrt 模型，预测图像需要 0.2 秒，我在视频上尝试过，它只提供 3 fps 有什么办法可以增加这个。
您可以使用 FP16 推理模式代替 FP32 并将推理速度提高约 2 倍。另一种选择是使用更大的批量大小，我不确定它是否适用于 Jetson Nano，因为它有资源限制。 您可以找到有用的脚本和讨论 here
