关于TVM模型的Relay IR的Node遍历

2024-03-12 06:12
文章标签 遍历 模型 node ir relay tvm

本文主要是介绍关于TVM模型的Relay IR的Node遍历，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

TVM Relay Node类型与遍历方法

  • 目的
  • 二、步骤
    • 1.遍历方法
    • 2.关于节点类型
  • 总结

目的

关于TVM模型的Relay IR的Node遍历

二、步骤

1.遍历方法

代码如下（示例）：

import tvm
from tvm import relay
from tvm.contrib.debugger import debug_executor
import numpy as np
import onnx
from tvm.contrib import graph_executor# 定义fvisit函数
def print_node_type(node):print(type(node))def compile_and_run_each_layer(path, input_shape, target):onnx_model = onnx.load(path)mod, params = relay.frontend.from_onnx(onnx_model, shape={'input': input_shape})# 编译模型with tvm.transform.PassContext(opt_level=3):lib = relay.build(mod, target, params=params)# 获取每个操作, node类型包括：tvm.relay.expr.Var，tvm.ir.op.Op，tvm.relay.expr.Constant，tvm.relay.expr.Call，tvm.relay.function.Function等node for node in relay.analysis.post_order_visit(mod['main'], print_node_type)

打印Resnet50的Node类型如下：

<class 'tvm.relay.expr.Var'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.ir.op.Op'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.expr.Constant'>
<class 'tvm.relay.expr.Call'>
<class 'tvm.relay.function.Function'>

2.关于节点类型

在 TVM 框架中，relay 模块定义了用于构建和表示深度学习计算图的类和函数。下面是一些类的概述和它们在 Relay IR （中间表示）中的作用：

  1. tvm.relay.expr.Var: 这个类代表了计算图中的一个变量，通常用来表示输入数据或者模型参数。每一个 Var 实例都有一个唯一的名称和数据类型。例如，创建一个新的变量：
x = relay.var('x', relay.TensorType((1,), 'float32'))
  1. tvm.ir.op.Op: 这是所有 Relay算子的基类，它描述了一个操作的属性和行为。操作（Op）是构建神经网络层的基础，例如卷积、激活函数、池化等。举例来说，获取一个操作符的信息：
add_op_info = relay.op.get("add")
  1. tvm.relay.expr.Constant: 表示计算图中的常数值。一个 Constant 包含一个实际的张量值，通常用于表示模型中的权重和偏差。创建一个常量：
one = relay.const(1, 'float32')
  1. tvm.relay.expr.Call: 代表对一个函数或者操作的调用。在 Relay 中，模型中的每一个层（例如，卷积层、全连接层等）通常由一个 Call 节点表示。例如，创建一个对 add 函数的调用：
y = relay.add(x, one)
  1. tvm.relay.function.Function: 这个类表示一个 Relay 函数，它有参数列表和函数体。一般用于定义模型的前向传播，将输入变量映射到输出。创建一个简单的函数：
 `fn = relay.Function([x], y)`

在 Relay IR 中，这些类和实例是用于构建和表示深度学习模型的不同部分。通过这些构建块，可以表示复杂的计算图，进而进行优化和编译，以在不同的硬件上高效运行。

总结

TVM入门

这篇关于关于TVM模型的Relay IR的Node遍历的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/800368。

相关文章

MySQL存储过程之循环遍历查询的结果集详解

MySQL存储过程之循环遍历查询的结果集详解

《MySQL存储过程之循环遍历查询的结果集详解》：本文主要介绍MySQL存储过程之循环遍历查询的结果集,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言1. 表结构2. 存储过程3. 关于存储过程的SQL补充总结前言近来碰到这样一个问题：在生产上导入的数据发现
阅读更多...
详解如何使用Python从零开始构建文本统计模型

详解如何使用Python从零开始构建文本统计模型

《详解如何使用Python从零开始构建文本统计模型》在自然语言处理领域,词汇表构建是文本预处理的关键环节,本文通过Python代码实践,演示如何从原始文本中提取多尺度特征,并通过动态调整机制构建更精确... 目录一、项目背景与核心思想二、核心代码解析1. 数据加载与预处理2. 多尺度字符统计3. 统计结果可
阅读更多...
SpringBoot整合Sa-Token实现RBAC权限模型的过程解析

SpringBoot整合Sa-Token实现RBAC权限模型的过程解析

《SpringBoot整合Sa-Token实现RBAC权限模型的过程解析》：本文主要介绍SpringBoot整合Sa-Token实现RBAC权限模型的过程解析,本文给大家介绍的非常详细,对大家的学... 目录前言一、基础概念1.1 RBAC模型核心概念1.2 Sa-Token核心功能1.3 环境准备二、表结
阅读更多...
python进行while遍历的常见错误解析

python进行while遍历的常见错误解析

《python进行while遍历的常见错误解析》在Python中选择合适的遍历方式需要综合考虑可读性、性能和具体需求,本文就来和大家讲解一下python中while遍历常见错误以及所有遍历方法的优缺点... 目录一、超出数组范围问题分析错误复现解决方法关键区别二、continue使用问题分析正确写法关键点三
阅读更多...
VSCode中配置node.js的实现示例

VSCode中配置node.js的实现示例

《VSCode中配置node.js的实现示例》本文主要介绍了VSCode中配置node.js的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着... 目录一.node.js下载安装教程二.配置npm三.配置环境变量四.VSCode配置五.心得一.no
阅读更多...
Java遍历HashMap的6种常见方式

Java遍历HashMap的6种常见方式

《Java遍历HashMap的6种常见方式》这篇文章主要给大家介绍了关于Java遍历HashMap的6种常见方式,方法包括使用keySet()、entrySet()、forEach()、迭代器以及分别... 目录1，使用 keySet() 遍历键，再通过键获取值2，使用 entrySet() 遍历键值对3，
阅读更多...
Node.js 数据库 CRUD 项目示例详解(完美解决方案)

Node.js 数据库 CRUD 项目示例详解(完美解决方案)

《Node.js数据库CRUD项目示例详解(完美解决方案)》：本文主要介绍Node.js数据库CRUD项目示例详解(完美解决方案),本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考... 目录项目结构1. 初始化项目2. 配置数据库连接 (config/db.js)3. 创建模型 (models/
阅读更多...
使用Node.js制作图片上传服务的详细教程

使用Node.js制作图片上传服务的详细教程

《使用Node.js制作图片上传服务的详细教程》在现代Web应用开发中,图片上传是一项常见且重要的功能,借助Node.js强大的生态系统,我们可以轻松搭建高效的图片上传服务,本文将深入探讨如何使用No... 目录准备工作搭建 Express 服务器配置 multer 进行图片上传处理图片上传请求完整代码示例
阅读更多...
Spring Security基于数据库的ABAC属性权限模型实战开发教程

Spring Security基于数据库的ABAC属性权限模型实战开发教程

《SpringSecurity基于数据库的ABAC属性权限模型实战开发教程》：本文主要介绍SpringSecurity基于数据库的ABAC属性权限模型实战开发教程,本文给大家介绍的非常详细,对大... 目录1. 前言2. 权限决策依据RBACABAC综合对比3. 数据库表结构说明4. 实战开始5. MyBA
阅读更多...
Java的IO模型、Netty原理解析

Java的IO模型、Netty原理解析

《Java的IO模型、Netty原理解析》Java的I/O是以流的方式进行数据输入输出的,Java的类库涉及很多领域的IO内容：标准的输入输出,文件的操作、网络上的数据传输流、字符串流、对象流等,这篇... 目录1.什么是IO2.同步与异步、阻塞与非阻塞3.三种IO模型BIO（blocking I/O）NI
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2