论文阅读: DeepGCNs: Can GCNs Go as Deep as CNNs?

2024-04-25 07:48

本文主要是介绍论文阅读: DeepGCNs: Can GCNs Go as Deep as CNNs?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

论文名称:图卷积神经网络可以走向更深吗?(究极缝合怪)
出自:ICCV 2019 Oral
作者单位: 阿卜杜拉国王科技大学

引言:
卷积神经网络很好,因为它很深,并且由残差连接保证性能的提高。在现有的Graph Convolution Network 只有三到四层,而本文提出的缝合怪有56层。

前言:在后续的论文中,在深度GCN上的论文并没有多少,现有的缝合怪论文体系中并没有它的太多身影。直至2021年12.28日,两年时间内,引用次数为420+次 。
可以看出来,在GCN的狂潮下,这篇文章还是属于热门文章的。而我们也能够充GCN的代码堆叠中看出来,通过不同形式的模块堆叠是能够起到增加模型学习能力的目的的。

内容:

在这篇文章里,主要叙述了一下残差网络、denseNet的功能和效果,并且将他们的思路引入到GCN中,与原始的GCN不同,这里的集成模块由GCN的backbone和融合模块和MLP预测模块组成。
融合模块类似于SE的结构,而mlp是分类器最后的常用操作,只不过后面逐渐被1*1的卷积代替了。
在GCN的backbone,作者给定了三个;
plainGCN
ResGCN
DenseGCN
可以说三者的区别仅仅是跳过连接的数量不同。所以这样能够最大程度的保留原有数据的特征信息,减少梯度过平滑的情况,也就是梯度消失问题的出现。
直接上图DGCN
different backbone

显然,这种backbone + 特征融合(likely SE_block)+MLP (classify)模式定下来,接下来的工作就是换backbone了。
很明显,三种backbone,plain 和 res的k, f都相等,而dense则将f减半,而res和Dense都使用了空洞卷积,这样的好处就是参数量会变少,所以综合这种设计,我们可以猜想,这网络的计算量是有的,并且按照作者当时的背景,一个大型的私立研究所尚且对于图卷积的参数要控制,我们在设计网络架构的时候也要注意,可以将空洞卷积用于GCN中来减少参数!

现在的想法暂时是这样,实验为王!

这篇关于论文阅读: DeepGCNs: Can GCNs Go as Deep as CNNs?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/934093

相关文章

GO语言短变量声明的实现示例

《GO语言短变量声明的实现示例》在Go语言中,短变量声明是一种简洁的变量声明方式,使用:=运算符,可以自动推断变量类型,下面就来具体介绍一下如何使用,感兴趣的可以了解一下... 目录基本语法功能特点与var的区别适用场景注意事项基本语法variableName := value功能特点1、自动类型推

GO语言中函数命名返回值的使用

《GO语言中函数命名返回值的使用》在Go语言中,函数可以为其返回值指定名称,这被称为命名返回值或命名返回参数,这种特性可以使代码更清晰,特别是在返回多个值时,感兴趣的可以了解一下... 目录基本语法函数命名返回特点代码示例命名特点基本语法func functionName(parameters) (nam

Go之errors.New和fmt.Errorf 的区别小结

《Go之errors.New和fmt.Errorf的区别小结》本文主要介绍了Go之errors.New和fmt.Errorf的区别,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考... 目录error的基本用法1. 获取错误信息2. 在条件判断中使用基本区别1.函数签名2.使用场景详细对

Go语言连接MySQL数据库执行基本的增删改查

《Go语言连接MySQL数据库执行基本的增删改查》在后端开发中,MySQL是最常用的关系型数据库之一,本文主要为大家详细介绍了如何使用Go连接MySQL数据库并执行基本的增删改查吧... 目录Go语言连接mysql数据库准备工作安装 MySQL 驱动代码实现运行结果注意事项Go语言执行基本的增删改查准备工作

Go中select多路复用的实现示例

《Go中select多路复用的实现示例》Go的select用于多通道通信,实现多路复用,支持随机选择、超时控制及非阻塞操作,建议合理使用以避免协程泄漏和死循环,感兴趣的可以了解一下... 目录一、什么是select基本语法:二、select 使用示例示例1:监听多个通道输入三、select的特性四、使用se

Go语言使用Gin处理路由参数和查询参数

《Go语言使用Gin处理路由参数和查询参数》在WebAPI开发中,处理路由参数(PathParameter)和查询参数(QueryParameter)是非常常见的需求,下面我们就来看看Go语言... 目录一、路由参数 vs 查询参数二、Gin 获取路由参数和查询参数三、示例代码四、运行与测试1. 测试编程路

Go语言使用net/http构建一个RESTful API的示例代码

《Go语言使用net/http构建一个RESTfulAPI的示例代码》Go的标准库net/http提供了构建Web服务所需的强大功能,虽然众多第三方框架(如Gin、Echo)已经封装了很多功能,但... 目录引言一、什么是 RESTful API?二、实战目标:用户信息管理 API三、代码实现1. 用户数据

Go语言网络故障诊断与调试技巧

《Go语言网络故障诊断与调试技巧》在分布式系统和微服务架构的浪潮中,网络编程成为系统性能和可靠性的核心支柱,从高并发的API服务到实时通信应用,网络的稳定性直接影响用户体验,本文面向熟悉Go基本语法和... 目录1. 引言2. Go 语言网络编程的优势与特色2.1 简洁高效的标准库2.2 强大的并发模型2.

深入理解go中interface机制

《深入理解go中interface机制》本文主要介绍了深入理解go中interface机制,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学... 目录前言interface使用类型判断总结前言go的interface是一组method的集合,不

Go语言使用sync.Mutex实现资源加锁

《Go语言使用sync.Mutex实现资源加锁》数据共享是一把双刃剑,Go语言为我们提供了sync.Mutex,一种最基础也是最常用的加锁方式,用于保证在任意时刻只有一个goroutine能访问共享... 目录一、什么是 Mutex二、为什么需要加锁三、实战案例:并发安全的计数器1. 未加锁示例(存在竞态)