6.2.1. PTQ转换工具阅读概览¶
工具 |
工具简介 |
|---|---|
hb_mapper工具是地平线提供的将浮点模型映射为量化模型并附带验证功能的工具， 提供模型检查、模型转换以及各阶段卷积层向量输出的功能。 |
|
hb_perf工具是地平线提供的用于分析量化混合模型性能的分析工具。 |
|
vec_diff工具是地平线提供的向量比较工具，通过该工具， 可以比较不同阶段模型的卷积层输出差异，可用于定位精度异常问题。 |
|
hb_model_info工具是地平线提供的用于解析混合模型（*.bin）编译时的依赖及参数信息的工具。 |
|
hb_pack工具是地平线提供的用于将多个混合模型（*.bin）文件打包为一个模型文件的工具。 |
|
hb_verifier工具是地平线提供的用于对指定的定点模型和runtime模型进行结果验证的工具。 |
|
hb_model_modifier工具是地平线提供的用于对runtime模型输入输出端一些特定类型节点进行删除的工具。 |
|
hb_custom_op工具是地平线提供的用于生成包含自定义算子python模板文件的工具， 生成的模板文件中包含自定义算子的计算定义函数。 |
|
hb_eval_preprocess工具是地平线提供的用于对模型精度进行评估时， 在x86环境下对图片数据进行预处理 （包括图片resize、crop、padding等在图片数据送入模型前的特定处理操作）的工具。 |
|
HB_ONNXRuntime是地平线基于公版ONNXRuntime封装的一套x86端的ONNX模型推理库。 |
|
精度debug工具是地平线提供的用于协助您自主定位模型量化过程中产生的精度问题的工具， 该工具能够协助您对校准模型进行节点粒度的量化误差分析，最终帮助您快速定位出现精度异常的节点。 |