6.2.1. 概述

本指南用于介绍地平线算法工具链中训练后量化PTQ方法的使用流程,若您是第一次使用地平线算法工具链的用户,建议您根据本指南章节步骤进行学习;若您已完成入门指南章节内容的学习,下一步可以参考本指南的 快速体验 章节步骤来进行私有模型的模型转换及上板运行; 如果需要了解地平线算法工具链的更多内容,请跳转至 进阶指南 章节。

6.2.2. 环境安装

本章节主要介绍使用地平线算法工具链前必须的环境准备工作。

硬件环境

为了顺利地使用地平线算法工具链,地平线建议您选择的开发机应满足以下要求:

硬件/操作系统

要求

CPU

CPU I3以上或者同级别E3/E5的处理器

内存

16G或以上级别

GPU(可选)

CUDA11、驱动版本Linux:>= 450.80.02*

适配显卡包括但不限于:

1)GeForce RTX 3090

2)GeForce RTX 2080 Ti

3)NVIDIA TITAN V

4)Tesla V100S-PCIE-32GB

系统

CentOS 7、Ubuntu 18.04及以上

开发机部署

注意

在进行模型转换前,请确保已在开发机的Ubuntu或Centos系统中安装完成支持 Python 3.6.x 版本的 Anaconda3 环境。

  • 1.开发机中执行如下命令,获取模型转换资料包:

wget -c ftp://xj3ftp@vrftp.horizon.ai/ai_toolchain/ai_toolchain.tar.gz --ftp-password=xj3ftp@123$%

wget -c ftp://xj3ftp@vrftp.horizon.ai/model_convert_sample/yolov5s_v2.0.tar.gz --ftp-password=xj3ftp@123$%

小技巧

若需更多公版模型转换示例,可执行命令: wget -c ftp://xj3ftp@vrftp.horizon.ai/model_convert_sample/horizon_model_convert_sample.tar.gz --ftp-password=xj3ftp@123$% 获取。

  • 2.创建模型转换环境:

//horizon_bpu 为环境名,可自行设置

conda create -n horizon_bpu python=3.6 -y
  • 3.进入模型转换环境:

// horizon_bpu 为上文创建python环境名,  conda环境命令会根据不同的操作系统有所差异,以下两条命令请选择其中能进入conda模型转换环境的命令来使用

source activate horizon_bpu 或 conda activate horizon_bpu
  • 4.解压模型转换环境和示例模型安装包并进行相关依赖的安装:

tar -xzvf yolov5s_v2.0.tar.gz

tar -xzvf ai_toolchain.tar.gz

pip install ai_toolchain/h* -i https://mirrors.aliyun.com/pypi/simple

pip install pycocotools -i https://mirrors.aliyun.com/pypi/simple

在顺利完成安装后,您可以键入 hb_mapper –help 命令验证是否可以正常得到帮助信息,若打印如下信息,说明环境已安装完成:

hb_mapper --help
Usage: hb_mapper [OPTIONS] COMMAND [ARGS]...

  hb_mapper is an offline model transform tool provided by horizon.

Options:
  --version   Show the version and exit.
  -h, --help  Show this message and exit.

Commands:
  checker    check whether the model meet the requirements.
  infer      inference and dump output feature as float vector.
  makertbin  transform caffe model to quantization model, generate runtime...

小技巧

后续进行模型转换时,请首先使用命令 source activate horizon_bpuconda activate horizon_bpu 进入模型转换环境!

地平线算法工具链环境安装包整体大小 50M 左右,下载安装包和安装依赖包受网络速率影响,整个安装过程耗时大约10分钟左右,请您耐心等候安装完成。