论文阅读: DeepGCNs: Can GCNs Go as Deep as CNNs?

2024-04-25 07:48

本文主要是介绍论文阅读: DeepGCNs: Can GCNs Go as Deep as CNNs?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

论文名称:图卷积神经网络可以走向更深吗?(究极缝合怪)
出自:ICCV 2019 Oral
作者单位: 阿卜杜拉国王科技大学

引言:
卷积神经网络很好,因为它很深,并且由残差连接保证性能的提高。在现有的Graph Convolution Network 只有三到四层,而本文提出的缝合怪有56层。

前言:在后续的论文中,在深度GCN上的论文并没有多少,现有的缝合怪论文体系中并没有它的太多身影。直至2021年12.28日,两年时间内,引用次数为420+次 。
可以看出来,在GCN的狂潮下,这篇文章还是属于热门文章的。而我们也能够充GCN的代码堆叠中看出来,通过不同形式的模块堆叠是能够起到增加模型学习能力的目的的。

内容:

在这篇文章里,主要叙述了一下残差网络、denseNet的功能和效果,并且将他们的思路引入到GCN中,与原始的GCN不同,这里的集成模块由GCN的backbone和融合模块和MLP预测模块组成。
融合模块类似于SE的结构,而mlp是分类器最后的常用操作,只不过后面逐渐被1*1的卷积代替了。
在GCN的backbone,作者给定了三个;
plainGCN
ResGCN
DenseGCN
可以说三者的区别仅仅是跳过连接的数量不同。所以这样能够最大程度的保留原有数据的特征信息,减少梯度过平滑的情况,也就是梯度消失问题的出现。
直接上图DGCN
different backbone

显然,这种backbone + 特征融合(likely SE_block)+MLP (classify)模式定下来,接下来的工作就是换backbone了。
很明显,三种backbone,plain 和 res的k, f都相等,而dense则将f减半,而res和Dense都使用了空洞卷积,这样的好处就是参数量会变少,所以综合这种设计,我们可以猜想,这网络的计算量是有的,并且按照作者当时的背景,一个大型的私立研究所尚且对于图卷积的参数要控制,我们在设计网络架构的时候也要注意,可以将空洞卷积用于GCN中来减少参数!

现在的想法暂时是这样,实验为王!

这篇关于论文阅读: DeepGCNs: Can GCNs Go as Deep as CNNs?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/934093

相关文章

go动态限制并发数量的实现示例

《go动态限制并发数量的实现示例》本文主要介绍了Go并发控制方法,通过带缓冲通道和第三方库实现并发数量限制,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面... 目录带有缓冲大小的通道使用第三方库其他控制并发的方法因为go从语言层面支持并发,所以面试百分百会问到

Go语言并发之通知退出机制的实现

《Go语言并发之通知退出机制的实现》本文主要介绍了Go语言并发之通知退出机制的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 目录1、通知退出机制1.1 进程/main函数退出1.2 通过channel退出1.3 通过cont

Go语言编译环境设置教程

《Go语言编译环境设置教程》Go语言支持高并发(goroutine)、自动垃圾回收,编译为跨平台二进制文件,云原生兼容且社区活跃,开发便捷,内置测试与vet工具辅助检测错误,依赖模块化管理,提升开发效... 目录Go语言优势下载 Go  配置编译环境配置 GOPROXYIDE 设置(VS Code)一些基本

使用Go实现文件复制的完整流程

《使用Go实现文件复制的完整流程》本案例将实现一个实用的文件操作工具:将一个文件的内容完整复制到另一个文件中,这是文件处理中的常见任务,比如配置文件备份、日志迁移、用户上传文件转存等,文中通过代码示例... 目录案例说明涉及China编程知识点示例代码代码解析示例运行练习扩展小结案例说明我们将通过标准库 os

深入理解Go语言中二维切片的使用

《深入理解Go语言中二维切片的使用》本文深入讲解了Go语言中二维切片的概念与应用,用于表示矩阵、表格等二维数据结构,文中通过示例代码介绍的非常详细,需要的朋友们下面随着小编来一起学习学习吧... 目录引言二维切片的基本概念定义创建二维切片二维切片的操作访问元素修改元素遍历二维切片二维切片的动态调整追加行动态

go中的时间处理过程

《go中的时间处理过程》:本文主要介绍go中的时间处理过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1 获取当前时间2 获取当前时间戳3 获取当前时间的字符串格式4 相互转化4.1 时间戳转时间字符串 (int64 > string)4.2 时间字符串转时间

Go语言中make和new的区别及说明

《Go语言中make和new的区别及说明》:本文主要介绍Go语言中make和new的区别及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1 概述2 new 函数2.1 功能2.2 语法2.3 初始化案例3 make 函数3.1 功能3.2 语法3.3 初始化

Go语言中nil判断的注意事项(最新推荐)

《Go语言中nil判断的注意事项(最新推荐)》本文给大家介绍Go语言中nil判断的注意事项,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录1.接口变量的特殊行为2.nil的合法类型3.nil值的实用行为4.自定义类型与nil5.反射判断nil6.函数返回的

Go语言数据库编程GORM 的基本使用详解

《Go语言数据库编程GORM的基本使用详解》GORM是Go语言流行的ORM框架,封装database/sql,支持自动迁移、关联、事务等,提供CRUD、条件查询、钩子函数、日志等功能,简化数据库操作... 目录一、安装与初始化1. 安装 GORM 及数据库驱动2. 建立数据库连接二、定义模型结构体三、自动迁

Go语言代码格式化的技巧分享

《Go语言代码格式化的技巧分享》在Go语言的开发过程中,代码格式化是一个看似细微却至关重要的环节,良好的代码格式化不仅能提升代码的可读性,还能促进团队协作,减少因代码风格差异引发的问题,Go在代码格式... 目录一、Go 语言代码格式化的重要性二、Go 语言代码格式化工具:gofmt 与 go fmt(一)