使用 SNPE (RVC4) 进行手动转换

RVC4 转换基于 Qualcomm Neural Processing SDK ... SNPE 工具。我们提供了一个预装了所有必需工具的 Docker 镜像。安装 ModelConverter 并运行：

Command Line

1modelconverter shell rvc4

概述

这等同于从 luxonis/modelconverter-rvc4:latest 镜像启动一个新的 Docker 容器，并以交互式终端会话 (-it) 运行它，同时使用 --rm 标志确保在退出会话后自动删除容器：

Command Line

1docker run --rm -it \
2    -v $(pwd)/shared_with_container:/app/shared_with_container/ \
3    luxonis/modelconverter-rvc4:latest

在下一节中，我们将分步解释转换过程。

首先，将模型转换为深度学习容器 (DLC) 格式。支持以下源模型格式：

如果从 ONNX 转换，请运行：

Command Line

1snpe-onnx-to-dlc --input_network <.onnx 模型路径>

如果从 TFLite 转换，请运行：

Command Line

1snpe-tflite-to-dlc --input_network <.tflite 模型路径>

请注意，无需进行任何预模型简化，因为 SNPE 会自动处理。

有关完整的转换选项列表，请参阅 snpe-onnx-to-dlc --help 或 snpe-tflite-to-dlc --help，或访问官方文档。

其次，将转换后的模型量化为 UINT8 精度。如果不需要量化，可以跳过此步骤。

Command Line

1snpe-dlc-quant --input_dlc <.dlc 模型路径>

有关完整的量化选项列表，请参阅 snpe-dlc-quant --help，或访问官方文档。

第三，准备模型以在 DSP/HTP 加速器上运行。

Command Line

1snpe-dlc-graph-prepare --input_dlc <（未）量化的 .dlc 模型路径> --htp_socs sm8550