6.2. PTQ转换工具

本章节旨在说明地平线J5算法工具链所提供的PTQ模型转换方案的工具包的介绍及使用方法。

小技巧

建议您在阅读本章内容之前先完成以下准备工作：

1. 阅读 工具链概览 章节中PTQ方案的相关内容和 PTQ转换原理及流程 章节的内容， 以了解对PTQ方案和模型转换步骤。

2. 根据 Docker容器部署 章节的内容完成了Docker环境安装配置和镜像拉取。

本章内容主要介绍地平线PTQ模型转换方案的工具包。该工具包可在开发机或Docker环境下运行。 如果您选择在开发机中运行该工具包，则需要在J5天工开物发布物（即：horizon_j5_open_explorer）的 ddk/package/host 路径下运行 install.sh 脚本进行安装。 安装完成后，运行 hb_mapper --help 命令验证工具安装是否成功。 如果您选择在Docker容器中运行该工具，则无需以上安装步骤，根据 Docker容器部署 章节内容， 进入Docker容器后，然后运行 hb_mapper --help 命令验证工具安装是否成功。

下面几节内容为您介绍各工具使用方法。

• 6.2.1. PTQ转换工具阅读概览
• 6.2.2. hb_mapper工具
  • 6.2.2.1. 模型检查命令（hb_mapper checker）
  • 6.2.2.2. 模型编译命令（hb_mapper makertbin）
  • 6.2.2.3. 模型推理命令（hb_mapper infer）
• 6.2.3. hb_perf工具
  • 6.2.3.1. 使用方法
  • 6.2.3.2. 命令行参数
  • 6.2.3.3. 输出内容说明
• 6.2.4. vec_diff工具
  • 6.2.4.1. 使用方式
  • 6.2.4.2. 命令行参数
  • 6.2.4.3. 输出内容说明
• 6.2.5. hb_model_info工具
  • 6.2.5.1. 使用方法
  • 6.2.5.2. 命令行参数
  • 6.2.5.3. 输出内容说明
• 6.2.6. hb_pack工具
  • 6.2.6.1. 使用方法
  • 6.2.6.2. 命令行参数
  • 6.2.6.3. 输出内容说明
• 6.2.7. hb_verifier工具
  • 6.2.7.1. 使用方式
  • 6.2.7.2. 命令行参数
  • 6.2.7.3. 参考使用场景样例
  • 6.2.7.4. 输出内容说明
• 6.2.8. hb_model_modifier工具
  • 6.2.8.1. 使用方式
  • 6.2.8.2. 命令行参数
  • 6.2.8.3. 输出内容说明
• 6.2.9. hb_custom_op工具
  • 6.2.9.1. 使用方法
  • 6.2.9.2. 命令行参数
  • 6.2.9.3. 输出内容说明
• 6.2.10. hb_eval_preprocess工具
  • 6.2.10.1. 使用方法
  • 6.2.10.2. 命令行参数
  • 6.2.10.3. 输出内容说明
• 6.2.11. HB_ONNXRuntime推理库
  • 6.2.11.1. 使用方法
  • 6.2.11.2. 参数说明
• 6.2.12. 精度debug工具
  • 6.2.12.1. 快速上手
  • 6.2.12.2. 功能说明文档