CANN2022训练营第一季,学习笔记——初级应用开发3

2024-03-19 16:40

本文主要是介绍CANN2022训练营第一季,学习笔记——初级应用开发3,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

 CANN2022训练营第一季,学习笔记(含打卡截图)——初级应用开发3

学习笔记

模型转换工具(ATC工具)
将TensorFlow/Caffe等开源网络的模型通过ATC工具转为昇腾AI处理器支持格式的模型(Model.om file)

流程:开始→环境准备(获取ATC工具、设置环境变量)→模型准备→ATC模型转换(可以根据需要进行配置)→结束

ACL简介(见第二节课内容)

用于加速推理的应用开发框架(不是新手训练用的)。其向上可以供第三方框架、开发第三方lib库调用,向下可以调用GE执行器、运行管理器等

一、开发图片分类运用学习

ACL主要接口调用流程(实验ACL开发应用的基本流程):
ACL初始化→运行管理资源申请→算子调用/模型推理(算子调用:生成算子文件、加载算子文件、执行算子 或者 模型推理:模型加载、模型执行、模型卸载)
→运行管理资源释放→ACL去初始化

 

课程内容

1、ACL运行资源管理

申请运行资源
注意!!要按顺序依次申请(就像逻辑运行一样要有顺序)
顺序为:Device、Context、Stream,然后根据需要调用aclrtGetRunMode接口获取软件栈的运行模型(当同一个应用既支持在Host运行也支持在Device运行时,在编程时就需要根据运行模式来判断后续的接口调用逻辑,这时需要提前获取运行模式)

运行管理资源释放

注意!!释放和申请的顺序相反(类比C++中多个构造函数和多个析构函数的调用顺序)!!
顺序为:Stream、Context、Device

  • Device管理相关接口
    aclrtGetDeviceCount接口:获取可用的Device数量,同步接口(即同步等待接口,须接口完成动作返回后才可继续向下执行。
    aclrtGetRunMode接口:获取当前昇腾软件栈的运行模式,同步接口
    aclrtSetDevice接口:制定用于运算的Device,同时隐式创建默认Context,该默认Context中包含2个Stream,1个默认Stream和1个执行内部同步的Stream。同步接口。
    aclrtResetDevice接口:复位当前运算的Device,释放Device上的资源,包括默认Context、 默认Stream以及默认Context下创建的所有Stream, 同步接口。若默认Context或默认Stream下的任务还未完成,系统会等待任务完成后再释放。
    aclrtGetDevice接口:获取当前正在使用的Device的ID。同步接口。
  • Context管理相关接口
    aclrtCreateContext接口:显式创建一个 Context,该Context中包含2个Stream, 1个默认Stream和1个执行内部同步的Stream,同步接口。
    aclrtDestroyContext接口:销毁一个Context,释放Context的资源,只能销毁通过aclrtCreateContext接口显式创建的Context。同步接口。
    aclrtSetCurrentContext接口:设置线程的Context。同步接口。
    aclrtGetCurrentContext接口:获取线程的Context。同步接口。
  • Stream管理相关接口
    aclrtCreateStream接口:创建一个Stream。同步接口。
    aclrtDestroyStream接口:销毁指定Stream,只能销毁通过aclrtCreateStream接口创建的Stream。同步接口。

未完待续……

2、ACL内存管理&数据传送

3、ACL数据预处理

4、ACL模型加载与执行

5、ACL单算子加载与执行

6、ACL案例讲解

二、编译及运行应用

步骤:①准备模型 ②准备数据 ③编译程序 ④运行程序

三、获取运行日志
重点:日志目录默认为:“CANN软件安装目录/ascend/log”,应用运行之后,可以在该目录下查阅日志
日志中的关键信息:

 

这篇关于CANN2022训练营第一季,学习笔记——初级应用开发3的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/826628

相关文章

Java学习手册之Filter和Listener使用方法

《Java学习手册之Filter和Listener使用方法》:本文主要介绍Java学习手册之Filter和Listener使用方法的相关资料,Filter是一种拦截器,可以在请求到达Servl... 目录一、Filter(过滤器)1. Filter 的工作原理2. Filter 的配置与使用二、Listen

C语言中位操作的实际应用举例

《C语言中位操作的实际应用举例》:本文主要介绍C语言中位操作的实际应用,总结了位操作的使用场景,并指出了需要注意的问题,如可读性、平台依赖性和溢出风险,文中通过代码介绍的非常详细,需要的朋友可以参... 目录1. 嵌入式系统与硬件寄存器操作2. 网络协议解析3. 图像处理与颜色编码4. 高效处理布尔标志集合

Go语言开发实现查询IP信息的MCP服务器

《Go语言开发实现查询IP信息的MCP服务器》随着MCP的快速普及和广泛应用,MCP服务器也层出不穷,本文将详细介绍如何在Go语言中使用go-mcp库来开发一个查询IP信息的MCP... 目录前言mcp-ip-geo 服务器目录结构说明查询 IP 信息功能实现工具实现工具管理查询单个 IP 信息工具的实现服

Java中的Lambda表达式及其应用小结

《Java中的Lambda表达式及其应用小结》Java中的Lambda表达式是一项极具创新性的特性,它使得Java代码更加简洁和高效,尤其是在集合操作和并行处理方面,:本文主要介绍Java中的La... 目录前言1. 什么是Lambda表达式?2. Lambda表达式的基本语法例子1:最简单的Lambda表

Python结合PyWebView库打造跨平台桌面应用

《Python结合PyWebView库打造跨平台桌面应用》随着Web技术的发展,将HTML/CSS/JavaScript与Python结合构建桌面应用成为可能,本文将系统讲解如何使用PyWebView... 目录一、技术原理与优势分析1.1 架构原理1.2 核心优势二、开发环境搭建2.1 安装依赖2.2 验

Java字符串操作技巧之语法、示例与应用场景分析

《Java字符串操作技巧之语法、示例与应用场景分析》在Java算法题和日常开发中,字符串处理是必备的核心技能,本文全面梳理Java中字符串的常用操作语法,结合代码示例、应用场景和避坑指南,可快速掌握字... 目录引言1. 基础操作1.1 创建字符串1.2 获取长度1.3 访问字符2. 字符串处理2.1 子字

使用Python开发一个带EPUB转换功能的Markdown编辑器

《使用Python开发一个带EPUB转换功能的Markdown编辑器》Markdown因其简单易用和强大的格式支持,成为了写作者、开发者及内容创作者的首选格式,本文将通过Python开发一个Markd... 目录应用概览代码结构与核心组件1. 初始化与布局 (__init__)2. 工具栏 (setup_t

SpringShell命令行之交互式Shell应用开发方式

《SpringShell命令行之交互式Shell应用开发方式》本文将深入探讨SpringShell的核心特性、实现方式及应用场景,帮助开发者掌握这一强大工具,具有很好的参考价值,希望对大家有所帮助,如... 目录引言一、Spring Shell概述二、创建命令类三、命令参数处理四、命令分组与帮助系统五、自定

SpringBoot应用中出现的Full GC问题的场景与解决

《SpringBoot应用中出现的FullGC问题的场景与解决》这篇文章主要为大家详细介绍了SpringBoot应用中出现的FullGC问题的场景与解决方法,文中的示例代码讲解详细,感兴趣的小伙伴可... 目录Full GC的原理与触发条件原理触发条件对Spring Boot应用的影响示例代码优化建议结论F

MySQL 分区与分库分表策略应用小结

《MySQL分区与分库分表策略应用小结》在大数据量、复杂查询和高并发的应用场景下,单一数据库往往难以满足性能和扩展性的要求,本文将详细介绍这两种策略的基本概念、实现方法及优缺点,并通过实际案例展示如... 目录mysql 分区与分库分表策略1. 数据库水平拆分的背景2. MySQL 分区策略2.1 分区概念