图像语义分割 pytorch复现DeepLab v1图像分割网络以及网络详解（骨干网络基于VGG16）

2023-10-25 19:45
文章标签 图像 详解 分割 网络 pytorch 复现 语义 骨干 v1 vgg16 deeplab

本文主要是介绍图像语义分割 pytorch复现DeepLab v1图像分割网络以及网络详解（骨干网络基于VGG16），希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

图像语义分割 pytorch复现DeepLab v1图像分割网络以及网络详解（骨干网络基于VGG16）

  • 背景介绍
  • 2、 网络结构详解
    • 2.1 LarFOV效果分析
  • 2.2 DeepLab v1-LargeFOV 模型架构
  • 2.3 MSc（Multi-Scale，多尺度(预测)）
  • 2.3 以VGG16为特征提取骨干网络代码
  • pytorch实现网络结构项目

背景介绍

论文名称：Semantic Image Segmentation with Deep Convolutional Nets and Fully Connected CRFs

在这里插入图片描述

  • 2014 年发表于 CVPR
  • DeepLab v1 是一种用于语义分割的卷积神经网络模型，其核心思想是结合了全局上下文信息，以更好地理解图像中的语义内容。

论文中指出了当前图像语义分割的存在问题：

  • 下采样会导致图像的分辨率降低
    在 DCNN 中，通常通过池化层来进行信号下采样，这是为了减少特征图的尺寸和参数数量。然而，池化操作会导致特征图的空间分辨率降低，从而损失了一部分细节信息。在图像标注任务中，像素级的细节信息对于准确的标注非常重要，因此信号下采样可能会影响标注的质量。
    在这里插入图片描述
  • 空间不敏感
    DCNNs 在高级视觉任务中表现出色的一个原因是它们具有一定程度的平移、旋转、缩放等空间不变性。然而，对于像素级标注任务（如语义分割或像素级分类），我们希望网络能够对每个像素点进行精细的标注，这就需要网络具有较高的空间敏感性。然而，DCNNs 的不变性特性可能导致在特征提取过程中丢失一些空间信息，使得网络对于像素级标注任务不够敏感。

论文中解决以上两个问题的方案：
在这里插入图片描述

  • 1、采用空洞卷积
  • 2、采用fully-connected CRF（Condition Random Fie）(全连接条件随机场)
    CRF在语义分割领域是常用的方法，但是在DeepLab V3之后便不再使用

网络优势：

  • 速度更快，论文中说因为采用了膨胀卷积的原因，但fully-connect CRF很耗时
  • 准确率更高，相比之前最好的网络，提升了7.2个点
  • 结构简单，主要采用DCNN和CRFs级联构成在这里插入图片描述
    DeepLab：本文提出的语义分割模型
    MSc：Multi-Scale，多尺度
    CRF：全连接条件随机场，用于对图像进行后处理以改善分割或标注的结果。它通常用于在图像分割任务中对神经网络的输出进行精炼和优化
    LargeFOV：空洞卷积

2、 网络结构详解

DeepLab v1 的 Backbone 使用的是 VGG16作为主要的卷积神经网络架构（2014年最牛逼的分类网络为VGG）。在 DeepLab v1 中，VGG16 的部分或全部全连接层被去除，而只保留卷积层，并通过空洞卷积（Atrous Convolution）来增大感受野，从而实现对图像的全局上下文信息的捕获

VGG16 的结构包含 16 层卷积层和全连接层，其中包括 13 个卷积层和 3 个全连接层。该模型在 ImageNet 数据集上进行了训练，并在图像分类任务上取得了很好的性能。

2.1 LarFOV效果分析

在这里插入图片描述
将卷积核减小，比如从原来的 kernel_size = (7, 7) 变为 kernel_size = (4, 4) 或 kernel_size = (3, 3)
在这里插入图片描述

注意❗️

  • 这里替换全连接层的卷积层并非普通卷积层，而是一个膨胀卷积，它有一个膨胀系数 r，可以扩大感受野。
  • 图中的 input stride 其实是膨胀系数 r。

在这里插入图片描述

2.2 DeepLab v1-LargeFOV 模型架构

VGG系列网络结构：
在这里插入图片描述
DeepLab-LargeFOV 模型架构：
在这里插入图片描述

经过上采样得到 224 × 224 × num class的特征图并非模型最终输出结果，还要经过一个 Softmax 层后才是模型最终的输出结果。

Softmax 层的作用是将每个像素的类别预测转换为对应类别的概率。它会对每个像素的 num_classes 个类别预测进行归一化，使得每个预测值都落在 0 到 1 之间，并且所有类别的预测概率之和为 1。这样，对于每个像素点，我们可以得到每个类别的概率，从而确定该像素属于哪个类别的概率最大。最终的输出结果通常是经过 Softmax 处理后的特征图，其中每个像素点都包含了 num_classes 个类别的概率信息。

LargeFOV 本质上就是使用了膨胀卷积。

  • 通过分析发现虽然 Backbone 是 VGG-16 但使用 Maxpool 略有不同，VGG 论文中是 kernel=2，stride=2，但在 DeepLab v1 中是 kernel=3，stride=2，padding=1。接着就是最后两个 Maxpool 层的 stride 全部设置成了 1（这样下采样的倍率就从原来的 32 变成了 8）。最后三个 3 × 3 的卷积层采用了膨胀卷积，膨胀系数 r = 2。
  • 然后关于将全连接层卷积化过程中，对于第一个全连接层（FC1）在 FCN 网络中是直接转换成卷积核大小为 7 × 7，卷积核个数为 4096 的卷积层（普通卷积），但在 DeepLab v1 中作者说是对参数进行了下采样最终得到的是卷积核大小 3 × 3 ，卷积核个数为 1024 的卷积层（膨胀卷积）（这样不仅可以减少参数还可以减少计算量，详情可以看下论文中的 Table2），对于第二个全连接层（FC2）卷积核个数也由 4096 4096 采样成 1024（普通卷积）。
  • 将 FC1 卷积化后，还设置了膨胀系数（膨胀卷积），论文 3.1 中说的是 r = 4 但在 Experimental Evaluation 中 Large of View 章节里设置的是 r = 12 对应 LargeFOV。对于 FC2 卷积化后就是卷积核 1 × 1 ，卷积核个数为 1024 的普通卷积层。接着再通过一个卷积核 1 × 1 ，卷积核个数为 num_classes（包含背景）的普通卷积层。最后通过 8 倍上采样还原回原图大小。

注意❗️采用的是双线性插值（Bilinear Interpolation）的策略来实现上采样，双线性插值会考虑其周围 4 个最近的像素点，根据距离权重进行插值计算。这样可以有效地将特征图还原到原始输入图像的大小，使得网络的输出和输入在空间尺寸上保持一致

2.3 MSc（Multi-Scale，多尺度(预测)）

即融合多个特征层的输出
DeepLab-LargeFOV-MSc 模型架构
在这里插入图片描述

2.3 以VGG16为特征提取骨干网络代码

DeepLab-LargeFOV

#!/usr/bin/python
# -*- encoding: utf-8 -*-import torchvision
import torch
import torch.nn as nn
import torch.nn.functional as F斜体样式
class DeepLabLargeFOV(nn.Module):def __init__(self, in_dim, out_dim, *args, **kwargs):super(DeepLabLargeFOV, self).__init__(*args, **kwargs)# vgg16 = torchvision.models.vgg16()layers = []layers.append(nn.Conv2d(in_dim, 64, kernel_size = 3, stride = 1, padding = 1))layers.append(nn.ReLU(inplace = True))layers.append(nn.Conv2d(64, 64, kernel_size = 3, stride = 1, padding = 1))layers.append(nn.ReLU(inplace = True))layers.append(nn.MaxPool2d(3, stride = 2, padding = 1))layers.append(nn.Conv2d(64, 128, kernel_size = 3, stride = 1, padding = 1))layers.append(nn.ReLU(inplace = True))layers.append(nn.Conv2d(128, 128, kernel_size = 3, stride = 1, padding = 1))layers.append(nn.ReLU(inplace = True))layers.append(nn.MaxPool2d(3, stride = 2, padding = 1))layers.append(nn.Conv2d(128, 256, kernel_size = 3, stride = 1, padding = 1))layers.append(nn.ReLU(inplace = True))layers.append(nn.Conv2d(256, 256, kernel_size = 3, stride = 1, padding = 1))layers.append(nn.ReLU(inplace = True))layers.append(nn.Conv2d(256, 256, kernel_size = 3, stride = 1, padding = 1))layers.append(nn.ReLU(inplace = True))layers.append(nn.MaxPool2d(3, stride = 2, padding = 1))layers.append(nn.Conv2d(256, 512, kernel_size = 3, stride = 1, padding = 1))layers.append(nn.ReLU(inplace = True))layers.append(nn.Conv2d(512, 512, kernel_size = 3, stride = 1, padding = 1))layers.append(nn.ReLU(inplace = True))layers.append(nn.Conv2d(512, 512, kernel_size = 3, stride = 1, padding = 1))layers.append(nn.ReLU(inplace = True))layers.append(nn.MaxPool2d(3, stride = 1, padding = 1))# 以下采用膨胀卷积layers.append(nn.Conv2d(512,512,kernel_size = 3,stride = 1,padding = 2,dilation = 2))layers.append(nn.ReLU(inplace = True))layers.append(nn.Conv2d(512,512,kernel_size = 3,stride = 1,padding = 2,dilation = 2))layers.append(nn.ReLU(inplace = True))layers.append(nn.Conv2d(512,512,kernel_size = 3,stride = 1,padding = 2,dilation = 2))layers.append(nn.ReLU(inplace = True))layers.append(nn.MaxPool2d(3, stride = 1, padding = 1))self.features = nn.Sequential(*layers)classifier = []classifier.append(nn.AvgPool2d(3, stride = 1, padding = 1))classifier.append(nn.Conv2d(512,1024,kernel_size = 3,stride = 1,padding = 12,dilation = 12))classifier.append(nn.ReLU(inplace=True))classifier.append(nn.Conv2d(1024, 1024, kernel_size=1, stride=1, padding=0))classifier.append(nn.ReLU(inplace=True))classifier.append(nn.Dropout(p=0.5))classifier.append(nn.Conv2d(1024, out_dim, kernel_size=1))self.classifier = nn.Sequential(*classifier)self.init_weights()def forward(self, x):N, C, H, W = x.size()x = self.features(x)x = self.classifier(x)x = F.interpolate(x, (H, W), mode='bilinear', align_corners=True)return xdef init_weights(self):vgg = torchvision.models.vgg16(pretrained=True)state_vgg = vgg.features.state_dict()self.features.load_state_dict(state_vgg)for ly in self.classifier.children():if isinstance(ly, nn.Conv2d):nn.init.kaiming_normal_(ly.weight, a=1)nn.init.constant_(ly.bias, 0)if __name__ == "__main__":net = DeepLabLargeFOV(3, 10)in_ten = torch.randn(1, 3, 224, 224)out = net(in_ten)print(out.size())in_ten = torch.randn(1, 3, 64, 64)mod = nn.Conv2d(3,512,kernel_size = 3,stride = 1,padding = 2,dilation = 2)out = mod(in_ten)print(out.shape)import osimport torchfrom torchsummary import summaryos.environ["CUDA_VISIBLE_DEVICES"] = "1"device = torch.device("cuda" if torch.cuda.is_available() else "cpu")net=DeepLabLargeFOV(3,21).to(device)print(summary(net,(3,224,224)))print(torch.cuda.current_device())

pytorch实现网络结构项目

项目源代码下载地址
目录结构：
在这里插入图片描述
1、下载数据集，并将数据集存储在以下目录
在这里插入图片描述
2、执行代码：

python train.py --cfg config/pascal_voc_2012_multi_scale.py

这篇关于图像语义分割 pytorch复现DeepLab v1图像分割网络以及网络详解（骨干网络基于VGG16）的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/284805。

相关文章

MySQL数据库双机热备的配置方法详解

MySQL数据库双机热备的配置方法详解

《MySQL数据库双机热备的配置方法详解》在企业级应用中,数据库的高可用性和数据的安全性是至关重要的,MySQL作为最流行的开源关系型数据库管理系统之一,提供了多种方式来实现高可用性,其中双机热备（M... 目录1. 环境准备1.1 安装mysql1.2 配置MySQL1.2.1 主服务器配置1.2.2 从
阅读更多...
Linux kill正在执行的后台任务 kill进程组使用详解

Linux kill正在执行的后台任务 kill进程组使用详解

《Linuxkill正在执行的后台任务kill进程组使用详解》文章介绍了两个脚本的功能和区别,以及执行这些脚本时遇到的进程管理问题,通过查看进程树、使用`kill`命令和`lsof`命令,分析了子... 目录零. 用到的命令一. 待执行的脚本二. 执行含子进程的脚本，并kill2.1 进程查看2.2 遇到的
阅读更多...
MyBatis常用XML语法详解

MyBatis常用XML语法详解

《MyBatis常用XML语法详解》文章介绍了MyBatis常用XML语法,包括结果映射、查询语句、插入语句、更新语句、删除语句、动态SQL标签以及ehcache.xml文件的使用,感兴趣的朋友跟随小... 目录1、定义结果映射2、查询语句3、插入语句4、更新语句5、删除语句6、动态 SQL 标签7、ehc
阅读更多...
详解SpringBoot+Ehcache使用示例

详解SpringBoot+Ehcache使用示例

《详解SpringBoot+Ehcache使用示例》本文介绍了SpringBoot中配置Ehcache、自定义get/set方式,并实际使用缓存的过程,文中通过示例代码介绍的非常详细,对大家的学习或者... 目录摘要概念内存与磁盘持久化存储：配置灵活性：编码示例引入依赖：配置ehcache.XML文件：配置
阅读更多...
从基础到高级详解Go语言中错误处理的实践指南

从基础到高级详解Go语言中错误处理的实践指南

《从基础到高级详解Go语言中错误处理的实践指南》Go语言采用了一种独特而明确的错误处理哲学,与其他主流编程语言形成鲜明对比,本文将为大家详细介绍Go语言中错误处理详细方法,希望对大家有所帮助... 目录1 Go 错误处理哲学与核心机制1.1 错误接口设计1.2 错误与异常的区别2 错误创建与检查2.1 基础
阅读更多...
k8s按需创建PV和使用PVC详解

k8s按需创建PV和使用PVC详解

《k8s按需创建PV和使用PVC详解》Kubernetes中,PV和PVC用于管理持久存储,StorageClass实现动态PV分配,PVC声明存储需求并绑定PV,通过kubectl验证状态,注意回收... 目录1.按需创建 PV（使用 StorageClass）创建 StorageClass2.创建 PV
阅读更多...
Python版本信息获取方法详解与实战

Python版本信息获取方法详解与实战

《Python版本信息获取方法详解与实战》在Python开发中,获取Python版本号是调试、兼容性检查和版本控制的重要基础操作,本文详细介绍了如何使用sys和platform模块获取Python的主... 目录1. python版本号获取基础2. 使用sys模块获取版本信息2.1 sys模块概述2.1.1
阅读更多...
一文详解Python如何开发游戏

一文详解Python如何开发游戏

《一文详解Python如何开发游戏》Python是一种非常流行的编程语言,也可以用来开发游戏模组,：本文主要介绍Python如何开发游戏的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参考下... 目录一、python简介二、Python 开发 2D 游戏的优劣势优势缺点三、Python 开发 3D
阅读更多...
Redis 基本数据类型和使用详解

Redis 基本数据类型和使用详解

《Redis基本数据类型和使用详解》String是Redis最基本的数据类型,一个键对应一个值,它的功能十分强大,可以存储字符串、整数、浮点数等多种数据格式,本文给大家介绍Redis基本数据类型和... 目录一、Redis 入门介绍二、Redis 的五大基本数据类型2.1 String 类型2.2 Hash
阅读更多...
Java中的.close()举例详解

Java中的.close()举例详解

《Java中的.close()举例详解》.close()方法只适用于通过window.open()打开的弹出窗口,对于浏览器的主窗口,如果没有得到用户允许是不能关闭的,：本文主要介绍Java中的.... 目录当你遇到以下三种情况时，一定要记得使用 .close()：用法作用举例如何判断代码中的 input
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2