【onnx-tensorrt】——源码阅读记录

2024-06-13 08:48

本文主要是介绍【onnx-tensorrt】——源码阅读记录,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

个人记录

  • tensorrt自定义插件层
  1. getOutputDimensions的调用接口
    新定义的层需要定义getOutputDimensions方法,那这个是在供哪里调用的呢?接口的参数又是?
nvinfer1::Dims ResizeBilinearPlugin::getOutputDimensions(int index,const nvinfer1::Dims *inputDims,int nbInputs) {assert(nbInputs == 1);nvinfer1::Dims const& input = inputDims[0];assert(is_CHW(input));assert(_ndims == 2);assert(index == 0);nvinfer1::Dims output;output.nbDims = input.nbDims;int s = 0;for( int d=0; d<input.nbDims; ++d ) {output.type[d] = input.type[d];if( input.type[d] == nvinfer1::DimensionType::kSPATIAL ) {output.d[d] = int(input.d[d] * _scale[s++]);} else {output.d[d] = input.d[d];}}return output;
}

其是用TypeSerializingPlugin进行了封装,

auto* wrapped_plugin = new TypeSerializingPlugin(plugin); // 这里进行了封装

然后调用TypeSerializingPlugin的父类 PluginAdapter 的方法

nvinfer1::Dims PluginAdapter::getOutputDimensions(int index,const nvinfer1::Dims *inputDims,int nbInputs)  {return _plugin->getOutputDimensions(index, inputDims, nbInputs);      // 这里调用的 具体的类的输出尺寸}

然后继续追寻PluginAdapter的调用就没有源码了,应该是打到tensorrt的库中了。

同理,距离类的initialize也是在PluginAdapter中调用的

int PluginAdapter::initialize() { return _plugin->initialize(); }         // 这里调用了具体类的 initialize

同理是具体层的enqueue

以上三个接口在tensorrt中封装死了,也看不到调用的接口。

这篇关于【onnx-tensorrt】——源码阅读记录的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1056826

相关文章

Python UV安装、升级、卸载详细步骤记录

《PythonUV安装、升级、卸载详细步骤记录》:本文主要介绍PythonUV安装、升级、卸载的详细步骤,uv是Astral推出的下一代Python包与项目管理器,主打单一可执行文件、极致性能... 目录安装检查升级设置自动补全卸载UV 命令总结 官方文档详见:https://docs.astral.sh/

统一返回JsonResult踩坑的记录

《统一返回JsonResult踩坑的记录》:本文主要介绍统一返回JsonResult踩坑的记录,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录统一返回jsonResult踩坑定义了一个统一返回类在使用时,JsonResult没有get/set方法时响应总结统一返回

Go学习记录之runtime包深入解析

《Go学习记录之runtime包深入解析》Go语言runtime包管理运行时环境,涵盖goroutine调度、内存分配、垃圾回收、类型信息等核心功能,:本文主要介绍Go学习记录之runtime包的... 目录前言:一、runtime包内容学习1、作用:① Goroutine和并发控制:② 垃圾回收:③ 栈和

java对接海康摄像头的完整步骤记录

《java对接海康摄像头的完整步骤记录》在Java中调用海康威视摄像头通常需要使用海康威视提供的SDK,下面这篇文章主要给大家介绍了关于java对接海康摄像头的完整步骤,文中通过代码介绍的非常详细,需... 目录一、开发环境准备二、实现Java调用设备接口(一)加载动态链接库(二)结构体、接口重定义1.类型

apache的commons-pool2原理与使用实践记录

《apache的commons-pool2原理与使用实践记录》ApacheCommonsPool2是一个高效的对象池化框架,通过复用昂贵资源(如数据库连接、线程、网络连接)优化系统性能,这篇文章主... 目录一、核心原理与组件二、使用步骤详解(以数据库连接池为例)三、高级配置与优化四、典型应用场景五、注意事

SpringBoot实现文件记录日志及日志文件自动归档和压缩

《SpringBoot实现文件记录日志及日志文件自动归档和压缩》Logback是Java日志框架,通过Logger收集日志并经Appender输出至控制台、文件等,SpringBoot配置logbac... 目录1、什么是Logback2、SpringBoot实现文件记录日志,日志文件自动归档和压缩2.1、

qtcreater配置opencv遇到的坑及实践记录

《qtcreater配置opencv遇到的坑及实践记录》我配置opencv不管是按照网上的教程还是deepseek发现都有些问题,下面是我的配置方法以及实践成功的心得,感兴趣的朋友跟随小编一起看看吧... 目录电脑环境下载环境变量配置qmake加入外部库测试配置我配置opencv不管是按照网上的教程还是de

8种快速易用的Python Matplotlib数据可视化方法汇总(附源码)

《8种快速易用的PythonMatplotlib数据可视化方法汇总(附源码)》你是否曾经面对一堆复杂的数据,却不知道如何让它们变得直观易懂?别慌,Python的Matplotlib库是你数据可视化的... 目录引言1. 折线图(Line Plot)——趋势分析2. 柱状图(Bar Chart)——对比分析3

使用nohup和--remove-source-files在后台运行rsync并记录日志方式

《使用nohup和--remove-source-files在后台运行rsync并记录日志方式》:本文主要介绍使用nohup和--remove-source-files在后台运行rsync并记录日... 目录一、什么是 --remove-source-files?二、示例命令三、命令详解1. nohup2.

Android实现一键录屏功能(附源码)

《Android实现一键录屏功能(附源码)》在Android5.0及以上版本,系统提供了MediaProjectionAPI,允许应用在用户授权下录制屏幕内容并输出到视频文件,所以本文将基于此实现一个... 目录一、项目介绍二、相关技术与原理三、系统权限与用户授权四、项目架构与流程五、环境配置与依赖六、完整