【CANN训练营-模型部署入门】【CANN训练营0基础赢满分秘籍】昇腾310的Yolov5 模型部署全流程课堂笔记

本文主要是介绍【CANN训练营-模型部署入门】【CANN训练营0基础赢满分秘籍】昇腾310的Yolov5 模型部署全流程课堂笔记,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

2023 · CANN训练营第一季:310的Yolov5模型部署全流程课堂笔记

课程例程实现目标:使用yolov5模型实现目标检测

YOLOv5的网络结构主要包含3个部分,分别是骨干网络、特征融合网络和头网络

基于python的Yolov5例程中,样例的实现主要分为三个部分
在这里插入图片描述

部署实现步骤:

1.模型导出后转换

模型训练完成后会产生pt文件,而昇腾310可以加载的模型格式为om,转换步骤如下:
在这里插入图片描述

.pt转换为.onnx

torch.onnx.export(

model,#(torch.nn.Module)要导出的模型

im,#模型的输入:非Tensor参数将被硬编码到模型中,tensor参数成为导出模型的输入,并按照输入顺序进行输入

f, #导出的onnx文件名

verbose=False, #log输出模型的描述

opset_version=opset,#onnx算子集标本

training=torch.onnx.TrainingMode.TRAINING if train else torch.onnx.TrainingMode.EVAL,#在训练模式还是推理模式下导出模型

do_constant_folding=not train,#是否进行常量折叠优化

input_names=[‘images’],#输入张量的名称

output_names=[‘output’],#输出张量的名称

dynamic_axes={‘images’: {0: ‘batch’, 2: ‘height’, 3: ‘width’}, # shape(1,3,640,640)

‘output’: {0: ‘batch’, 1: ‘anchors’} # shape(1,25200,85)

} if dynamic else None #指定输入输出张量的哪些维度为动态

)

2.将导出的模型进行后处理

运用YoloPreDetection和YoloV5DetectionOutput算子

算子名称参数类型功能说明
YoloPreDetectionFeature Map输入经过特征融合网络输出的特征图
Bounding Box Anchors输入表示预定义的Bounding Box的锚定点
Bounding Box Predictions输出表示每个Anchor Box的预测边界框
YoloV5DetectionOutput输入
IOU Threshold输入IoU阈值
Score Threshold输入置信度阈值

3.使用ATC工具,将onnx模型转成om模型,如果是C++的应用,可在ATC中需添加AIPP

以下为部分重要参数:

参数名称参数功能常用值
–model原始模型文件路径与文件名。*****.onnx(文件名)
–framework原始框架类型。0:Caffe1:MindSpore3:TensorFlow5:ONNX
–output转换后的离线模型的路径以及文件名。*****(文件名)
–soc_version模型转换时指定芯片版本。Ascend310

Python版本的官方样例中:

预处理部分:

使用opencv/和numpy实现预处理:按照需要转换RGB格式,并进行数据归一化(/255),图像增强等操作

优化后的C++API下的部署,使用ATC工具配置AIPP(可参考昇腾社区的AIPP模板进行配置)

在AI core中进行图像预处理,实际上就是在模型输入上多加一个算子,把预处理放在NPU上进行

代码部分单独做一篇详细笔记

这篇关于【CANN训练营-模型部署入门】【CANN训练营0基础赢满分秘籍】昇腾310的Yolov5 模型部署全流程课堂笔记的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/351188

相关文章

python panda库从基础到高级操作分析

《pythonpanda库从基础到高级操作分析》本文介绍了Pandas库的核心功能,包括处理结构化数据的Series和DataFrame数据结构,数据读取、清洗、分组聚合、合并、时间序列分析及大数据... 目录1. Pandas 概述2. 基本操作:数据读取与查看3. 索引操作:精准定位数据4. Group

使用IDEA部署Docker应用指南分享

《使用IDEA部署Docker应用指南分享》本文介绍了使用IDEA部署Docker应用的四步流程:创建Dockerfile、配置IDEADocker连接、设置运行调试环境、构建运行镜像,并强调需准备本... 目录一、创建 dockerfile 配置文件二、配置 IDEA 的 Docker 连接三、配置 Do

Spring WebClient从入门到精通

《SpringWebClient从入门到精通》本文详解SpringWebClient非阻塞响应式特性及优势,涵盖核心API、实战应用与性能优化,对比RestTemplate,为微服务通信提供高效解决... 目录一、WebClient 概述1.1 为什么选择 WebClient?1.2 WebClient 与

Spring Boot 中的默认异常处理机制及执行流程

《SpringBoot中的默认异常处理机制及执行流程》SpringBoot内置BasicErrorController,自动处理异常并生成HTML/JSON响应,支持自定义错误路径、配置及扩展,如... 目录Spring Boot 异常处理机制详解默认错误页面功能自动异常转换机制错误属性配置选项默认错误处理

Spring Boot从main方法到内嵌Tomcat的全过程(自动化流程)

《SpringBoot从main方法到内嵌Tomcat的全过程(自动化流程)》SpringBoot启动始于main方法,创建SpringApplication实例,初始化上下文,准备环境,刷新容器并... 目录1. 入口:main方法2. SpringApplication初始化2.1 构造阶段3. 运行阶

Spring Boot 与微服务入门实战详细总结

《SpringBoot与微服务入门实战详细总结》本文讲解SpringBoot框架的核心特性如快速构建、自动配置、零XML与微服务架构的定义、演进及优缺点,涵盖开发环境准备和HelloWorld实战... 目录一、Spring Boot 核心概述二、微服务架构详解1. 微服务的定义与演进2. 微服务的优缺点三

从入门到精通详解LangChain加载HTML内容的全攻略

《从入门到精通详解LangChain加载HTML内容的全攻略》这篇文章主要为大家详细介绍了如何用LangChain优雅地处理HTML内容,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录引言:当大语言模型遇见html一、HTML加载器为什么需要专门的HTML加载器核心加载器对比表二

使用Go实现文件复制的完整流程

《使用Go实现文件复制的完整流程》本案例将实现一个实用的文件操作工具:将一个文件的内容完整复制到另一个文件中,这是文件处理中的常见任务,比如配置文件备份、日志迁移、用户上传文件转存等,文中通过代码示例... 目录案例说明涉及China编程知识点示例代码代码解析示例运行练习扩展小结案例说明我们将通过标准库 os

从入门到进阶讲解Python自动化Playwright实战指南

《从入门到进阶讲解Python自动化Playwright实战指南》Playwright是针对Python语言的纯自动化工具,它可以通过单个API自动执行Chromium,Firefox和WebKit... 目录Playwright 简介核心优势安装步骤观点与案例结合Playwright 核心功能从零开始学习

MySQL 主从复制部署及验证(示例详解)

《MySQL主从复制部署及验证(示例详解)》本文介绍MySQL主从复制部署步骤及学校管理数据库创建脚本,包含表结构设计、示例数据插入和查询语句,用于验证主从同步功能,感兴趣的朋友一起看看吧... 目录mysql 主从复制部署指南部署步骤1.环境准备2. 主服务器配置3. 创建复制用户4. 获取主服务器状态5