6. 训练后量化(PTQ)

地平线为您提供了训练后量化PTQ方案,下面将以以下几个章节内容为您进行其使用方法指导。

PTQ转换原理及流程 章节,为您介绍PTQ模型转换的整体流程及全过程详解。

PTQ转换工具 章节,为您详细介绍算法工具链提供的PTQ工具包中工具的使用方法。

PTQ转换步骤 章节,从模型准备、模型验证、校准数据准备、模型量化&编译、性能分析、精度分析等方面,为您进行使用指导。

PTQ转换示例 章节,为您介绍horizon_model_convert_sample模型转换示例包及其使用方法。提供了使用浮点模型转换工具链快速完成浮点模型转换定点模型的示例,同时包括单张推理和精度验证示例。

自定义算子开发 章节,如您所使用的模型存在地平线工具链不支持的算子,可参考本章节进行自定义算子的开发。

常见问题及故障处理 章节,为您提供PTQ转换过程一些常见问题的解答以及常见异常故障现象通用解决建议。

附录 章节,为您介绍norm_type相关参数、相关计算公式的说明与解析,图片缩放裁剪时使用的各个transformer的概念、参数说明及示例。