1.2 KiB
1.2 KiB
RDK X5 YOLOv26n 量化
输入模型为 ../best.onnx,固定输入 images [1,3,640,640],opset 11。流程参考
D-Robotics/rdk_model_zoo 的 rdk_x5 分支中 ultralytics_yolo26 示例:
extract_yolo26_bpu.py移除 TopK、Gather 和最终检测结果组装,只输出三尺度(cls, box)原始特征,输出布局为 NHWC。- 校准数据从
../../dataset均匀抽取 50 张图片,直接 resize 到 640x640,保存 RGB/CHW/float32;data_scale=1/255由量化配置完成。 - 板端输入为 NV12,量化默认 int8,并使用官方 Softmax int8 优化项。
执行 ./quantize_x5.sh 会在 Docker 镜像
openexplorer/ai_toolchain_ubuntu_20_x5_cpu:v1.2.8 中依次运行 hb_mapper checker
和 hb_mapper makertbin,产物为
mapper_output_bpu/best_bpu_bayese_640x640_nv12.bin。部署端需要按三尺度输出完成
sigmoid、LTRB 解码、阈值筛选和 NMS;可直接复用 postprocess_yolo26.py。
板端输入是 NV12,模型输出顺序为 cls_s8, box_s8, cls_s16, box_s16, cls_s32, box_s32,输出张量布局是 NHWC。.bin 的 model_info 应以板端
hrt_model_exec 实际显示的名称和量化参数为准。