4.1.3. PTQ模型转换示例手册

小技巧

1. 我们推荐您在使用本手册之前，先阅读 工具链概览 章节 和 PTQ原理及步骤 部分， 以便对PTQ训练后量化方案（以下简称为 PTQ方案）有一个比较充分地了解。

2. 如果您在进行自定义模型转换时需要了解PTQ浮点定点模型转换方案工具的使用， 请阅读 PTQ工具文档。

3. 在使用手册完成PTQ示例包的模型转换工作之后，请继续阅读 AI_Benchmark手册 和 BPU SDK API手册 章节进行嵌入式开发工作，将模型部署上板。

PTQ示例包帮助开发者快速体验并上手PTQ训练后量化方案。 开发者使用PTQ示例包不仅能够体验将32位浮点（FLOAT32）精度的示例模型转换为可以在地平线X3J3平台上运行的8位定点整数(INT8)精度的bin模型， 还能够了解如何使用PTQ方案提供的工具，并且基于示例脚本设计自定义模型转换业务逻辑脚本。

本手册旨在指导开发者使用地平线X3J3算法工具链的 PTQ模型转换示例包 （以下简称为 PTQ示例包）。 您可以在地平线X3J3天工开物发布物（即：horizon_xj3_open_explorer）中获取PTQ示例包： ddk/samples/ai_toolchain/horizon_model_convert_sample。

下一章内容将为您介绍PTQ示例包的发布物内容。

• 4.1.3.1. 发布物介绍
  • 4.1.3.1.1. 模型量化示例包 horizon_model_convert_sample
  • 4.1.3.1.2. 模型发布物 model_zoo
• 4.1.3.2. 常见算法模型示例
  • 4.1.3.2.1. 位置路径
  • 4.1.3.2.2. 如何准备数据集
    • 4.1.3.2.2.1. 数据集下载地址
    • 4.1.3.2.2.2. 数据集参考结构
      • 4.1.3.2.2.2.1. ImageNet
      • 4.1.3.2.2.2.2. COCO
      • 4.1.3.2.2.2.3. VOC
      • 4.1.3.2.2.2.4. Cityscapes
      • 4.1.3.2.2.2.5. CIFAR-10
  • 4.1.3.2.3. 如何准备模型
    • 4.1.3.2.3.1. fcos_efficientnetb0
    • 4.1.3.2.3.2. fcos_efficientnetb1
    • 4.1.3.2.3.3. fcos_efficientnetb2
    • 4.1.3.2.3.4. MobileNetv1/v2
    • 4.1.3.2.3.5. GoogleNet
    • 4.1.3.2.3.6. ResNet18
    • 4.1.3.2.3.7. mobilenet_onnx
    • 4.1.3.2.3.8. EfficientNet_Lite0/1/2/3/4
    • 4.1.3.2.3.9. YOLOv2_Darknet19
    • 4.1.3.2.3.10. YOLOv3_Darknet53
    • 4.1.3.2.3.11. YOLOv5s
    • 4.1.3.2.3.12. SSD_MobileNetv1
    • 4.1.3.2.3.13. EfficientNetDetd0
    • 4.1.3.2.3.14. CenterNet_Resnet50
    • 4.1.3.2.3.15. Fcos_efficientnetb0
    • 4.1.3.2.3.16. UNet_mobilenet
    • 4.1.3.2.3.17. DeeplabV3plus_efficientnetb0
    • 4.1.3.2.3.18. Fastscnn_efficientnetb0
  • 4.1.3.2.4. 算法模型示例的使用演示
    • 4.1.3.2.4.1. 进入Docker容器
    • 4.1.3.2.4.2. 验证模型是否能够执行
    • 4.1.3.2.4.3. 准备校准用的数据集
    • 4.1.3.2.4.4. build异构模型
    • 4.1.3.2.4.5. 单张图片推理
    • 4.1.3.2.4.6. 精度测试
  • 4.1.3.2.5. 常见问题
    • 4.1.3.2.5.1. 如何对齐开源框架训练得到的ONNX原始浮点模型与使用 hb_mapper makertbin 工具得到的***_original_float_model.onnx的结果？
    • 4.1.3.2.5.2. 复现的精度为什么与文档中提供的指标有细微差异？
    • 4.1.3.2.5.3. 定点模型精度为何与ai_benchmark示例中的bin文件上板精度无法对齐？
• 4.1.3.3. 其他算法模型示例
  • 4.1.3.3.1. 如何使用
  • 4.1.3.3.2. 杂项示例
    • 4.1.3.3.2.1. lenet_gray
      • 4.1.3.3.2.1.1. 目录结构
      • 4.1.3.3.2.1.2. 示例内容
    • 4.1.3.3.2.2. resnet50_feature
      • 4.1.3.3.2.2.1. 目录结构
      • 4.1.3.3.2.2.2. 示例内容
    • 4.1.3.3.2.3. vector-diff
      • 4.1.3.3.2.3.1. 目录结构
      • 4.1.3.3.2.3.2. 输出内容
    • 4.1.3.3.2.4. multi_input_example
      • 4.1.3.3.2.4.1. 目录结构
      • 4.1.3.3.2.4.2. 示例内容
    • 4.1.3.3.2.5. model_verifier
      • 4.1.3.3.2.5.1. 目录结构
      • 4.1.3.3.2.5.2. 示例内容
    • 4.1.3.3.2.6. model_info
      • 4.1.3.3.2.6.1. 目录结构
      • 4.1.3.3.2.6.2. 示例内容
    • 4.1.3.3.2.7. mobilenet_bgr
      • 4.1.3.3.2.7.1. 目录结构
      • 4.1.3.3.2.7.2. 示例内容
    • 4.1.3.3.2.8. mobilenet_yuv444
      • 4.1.3.3.2.8.1. 目录结构
      • 4.1.3.3.2.8.2. 示例内容
  • 4.1.3.3.3. 用户自定义OP示例
    • 4.1.3.3.3.1. 目录结构
    • 4.1.3.3.3.2. 示例介绍