【CANN训练营三步入门独家绝技】AIPP与DVPP的介绍与使用

一、简介

CANN提供了AIPP和DVPP两种处理图像/视频数据的方式，AIPP和DVPP可以分开使用也可以组合使用，两者功能有部分重叠。

二、AIPP

AIPP（Artificial Intelligence Pre-Processing）人工智能预处理，在AI Core上完成数据预处理，主要功能包括改变图像尺寸（抠图、填充等）、色域转换（转换图像格式）、减均值/乘系数（改变图像像素）等。AIPP有静态和动态两种模式。

静态AIPP

**静态AIPP及在模型转换时就配置AIPP参数，后续不再修改。**我们创建一个配置文件来设置静态AIPP的功能。

配置文件aipp.cfg示例：

aipp_op {aipp_mode: static //设置为静态模式input_format：YUV420SP_U8 src_image_size_w: 320src_image_size_h: 240crop: true //抠图操作load_start_pos_w: 10load_start_pos_h: 20crop_size_w: 50crop_size_h: 60padding: true //填充操作left_padding_size: 20right_padding_sizeL: 15top_padding_size: 20bottom_padding_size: 15padding_value: 0csc_switch: true //色域转换matrix_r0c0：298matrix_r0c1：0matrix_r0c2：409matrix_r1c0：298matrix_r1c1：-100matrix_r1c2：-208matrix_r2c0：298matrix_r2c1：516matrix_r2c2：0input_bias_0：16input_bias_1：128input_bias_2：128//归一化配置mean_chn_0：104mean_chn_1：117mean_chn_2：123
}

上述配置文件的配置方法有模板可寻，具体参数设置可参考官方文档：

配置文件模板-AIPP使能-高级功能-ATC模型转换-推理应用开发-6.3.RC1.alpha002-CANN社区版-文档首页-昇腾社区 (hiascend.com)

使用方法：在使用ATC命令时，通过设置–insert_op_conf参数来加载AIPP配置文件

atc \--model=resnet50.onnx \--framework=5 \--output=resnet50 \--input_format=NCHW \--soc_version=Ascend310 \--input_op_conf=aipp.cfg //设置AIPP配置文件

动态AIPP

动态AIPP及开始不设置AIPP参数，而在推理代码中使用ACL接口来动态设置AIPP的参数。

在使用时，我们依旧需要在使用ATC命令时配置AIPP的配置文件。但动态AIPP的配置文件十分简单，如下:

aipp_op
{aipp_mode: dynamic //设置为动态模式max_src_image_size: 752640  # 输入图像最大的size，参数必填
}

我们使用ACL接口来设置AIPP参数，示例代码如下：

aclmdlAIPP *aippDynamicSet = aclmdlCreateAIPP(batchNumber);
ret = aclmdlSetAIPPSrcImageSize(aippDynamicSet, 256, 224);
ret = aclmdlSetAIPPInputFormat(aippDynamicSet, ACL_YUV420SP_U8);
ret = aclmdlSetAIPPCscParams(aippDynamicSet, 1, 256, 443, 0, 256, -86, -178, 256, 0, 350, 0, 0, 0, 0, 128, 128);
ret = aclmdlSetAIPPRbuvSwapSwitch(aippDynamicSet, 0);
ret = aclmdlSetAIPPDtcPixelMean(aippDynamicSet, 0, 0, 0, 0, 0);
ret = aclmdlSetAIPPDtcPixelMin(aippDynamicSet, 0, 0, 0, 0, 0);
ret = aclmdlSetAIPPPixelVarReci(aippDynamicSet, 1.0, 1.0, 1.0, 1.0, 0);
ret = aclmdlSetAIPPCropParams(aippDynamicSet, 1, 2, 2, 224, 224, 0);
ret = aclmdlSetInputAIPP(modelId_, input_, index, aippDynamicSet);
ret = aclmdlDestroyAIPP(aippDynamicSet);

我们可以看到各个函数的函数名与静态配置时的参数基本一致，具体功能与参数可查阅官方文档，这里不做赘述。

总结一下，AIPP的功能主要为抠图填充、色域转换、归一化。

三、DVPP

DVPP（Digital Vision Pre-Processing）是昇腾AI处理器内置的图像处理单元（硬件），通过AscendCL媒体数据处理接口提供强大的媒体处理硬加速能力。

主要提供的功能有视频编解码、JPEG编解码、PNG解码和预处理VPC（Digital Vision Pre-Processing）图片处理（抠图、缩放、格式转换）。

功能如下：

DVPP有V1和V2两个版本，V2接口支持更多的功能。使用方法为ACL接口调用，具体函数与参数请查阅官方文档：

接口调用流程-VPC图片处理典型功能-媒体数据处理V2-图像/视频/音频数据处理-应用开发（C&C++）-推理应用开发-6.3.RC1.alpha002-CANN社区版-文档首页-昇腾社区 (hiascend.com)

四、总结

AIPP和DVPP可以分开独立使用，也可以组合使用，组合使用情况下，一般先使用DVPP对图片或者视频进行解码、抠图、缩放等操作，然后再使用AIPP对DVPP处理后的图片进行格式、色域等转换，使输入符合模型的要求。