C++卷积神经网络实例:tiny_cnn代码详解(9)——partial_connected_layer层结构类分析(下)

本文主要是介绍C++卷积神经网络实例:tiny_cnn代码详解(9)——partial_connected_layer层结构类分析(下),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

  在上一篇博文中我们着重分析了partial_connected_layer类的成员变量的结构,在这篇博文中我们将继续对partial_connected_layer类中的其他成员函数做一下简要介绍。

  一、构造函数

  由于partial_connected_layer类是继承自基类layer,因此在构造函数中同样分为两部分,即调用基类构造函数以及初始化自身成员变量:

partial_connected_layer(layer_size_t in_dim, layer_size_t out_dim, size_t weight_dim, size_t bias_dim, float_t scale_factor = 1.0): layer<Activation> (in_dim, out_dim, weight_dim, bias_dim), weight2io_(weight_dim), out2wi_(out_dim), in2wo_(in_dim), bias2out_(bias_dim), out2bias_(out_dim), scale_factor_(scale_factor) {}

  这里对于自身的成员变量的赋值采用直接复制的方式,weight2io_代表网络中映射矩阵中映射核的总个数,为(卷积核尺寸的平方*通道数*卷积核个数);out2wi_代表卷积层网络输出特征的维数,为(in_width - window_size + 1) * (in_height - window_size + 1) * out_channels;in2wo_代表卷积层输入输入的维数,为数据矩阵的行数*列数*通道数;bias2out_代表卷积层中加性偏置的总个数;out2bias_代表输出特征的维数。

  这里对partial_connected_layer的基类layer做了一个宏定义,方便后面使用:

  二、层属性计算参数

  由于卷积层和下采样层的参数众多,为了方便用户了解各个层的参数数量以及连接规模,这里提供三个参数个数计算函数,用以返回卷积层的下采样层中的对应参数个数。首先,返回当前层的待学习参数个数(包括卷积核权值和偏置):

  返回当前层与前一层的连接个数:

  返回当前层的特征输出维数:

   三、前向传播函数forward_propagation

  由于partial_connected_layer类是卷积层和下采样层的公共基类,而卷积层和下采样层同样都需要前向传播和反向传播功能,因此作者选择在partial_connected_layer类中定义前向传播算法和反向传播算法,而不是在两个子类中分别进行定义,至于这样做的原因,在后面的博文中会进行详细说明。

  这里封装的前向传播算法和前文介绍的全连接层中的前向传播算法类似,主要分为三大部分:前向传播的卷积过程、输出卷积结构、递归。

  首选在卷积过程中,需要进行卷积、对应系数扩展(这里系数默认为1,因此这一步基本可以忽略)、加偏置值,而且这些操作都是以Lamda表达式的方式来实现的:

  接下来需要将卷积结果传递给输出数组,这里主要需要先经过激活函数来做一步处理:

  最后通过递归的方式来完成算法的传播(前向传播和反向传播都是通过递归来完成的):

  至于反向传播函数back_propagation,由于其函数结构相对复杂,我们将对反向传播函数的解读放在后续介绍BP算法的博文中,这个系类博客的前三分之一的篇幅都是先分析tiny_cnn的前向传播过程,因此这里针对back_propagation()函数暂时先挖下一个大坑,等待后续的博文来填,望大家谅解。

  OK,这篇博客就先介绍到这里,至此我们已经对partial_connected_layer类的大部分成员变量和功能函数(除了反向传播算法)都介绍完毕,在下一篇博文中我们将继续对更底层的基类:layer、layer_base进行简要分析,然后就开始研究卷积网络的前向传播实现方法,大家敬请期待吧。

  三、注意事项

  1、函数调用格式以及构造流程的问题

  这里需要强调一点的是tiny_cnn在构造整个网络结构的过程中,是采用一种类似于“流”的形式来完成的构造:

  这种流操作方式定义在network类中,有关这种流构造技巧的更多详细信息我会在介绍network类的过程中来专门进行详细的介绍(又是一个坑),目前已知的就是这种流操作方式在表面上是一次性完成整个网络结构的构造,这也给我们在程序调试中查看中间层的网络初始化参数带来了麻烦,看看后续怎么解决吧。



如果觉得这篇文章对您有所启发,欢迎关注我的公众号,我会尽可能积极和大家交流,谢谢。


这篇关于C++卷积神经网络实例:tiny_cnn代码详解(9)——partial_connected_layer层结构类分析(下)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1115502

相关文章

Windows下C++使用SQLitede的操作过程

《Windows下C++使用SQLitede的操作过程》本文介绍了Windows下C++使用SQLite的安装配置、CppSQLite库封装优势、核心功能(如数据库连接、事务管理)、跨平台支持及性能优... 目录Windows下C++使用SQLite1、安装2、代码示例CppSQLite:C++轻松操作SQ

一文深入详解Python的secrets模块

《一文深入详解Python的secrets模块》在构建涉及用户身份认证、权限管理、加密通信等系统时,开发者最不能忽视的一个问题就是“安全性”,Python在3.6版本中引入了专门面向安全用途的secr... 目录引言一、背景与动机:为什么需要 secrets 模块?二、secrets 模块的核心功能1. 基

一文详解MySQL如何设置自动备份任务

《一文详解MySQL如何设置自动备份任务》设置自动备份任务可以确保你的数据库定期备份,防止数据丢失,下面我们就来详细介绍一下如何使用Bash脚本和Cron任务在Linux系统上设置MySQL数据库的自... 目录1. 编写备份脚本1.1 创建并编辑备份脚本1.2 给予脚本执行权限2. 设置 Cron 任务2

一文详解如何在idea中快速搭建一个Spring Boot项目

《一文详解如何在idea中快速搭建一个SpringBoot项目》IntelliJIDEA作为Java开发者的‌首选IDE‌,深度集成SpringBoot支持,可一键生成项目骨架、智能配置依赖,这篇文... 目录前言1、创建项目名称2、勾选需要的依赖3、在setting中检查maven4、编写数据源5、开启热

C++中RAII资源获取即初始化

《C++中RAII资源获取即初始化》RAII通过构造/析构自动管理资源生命周期,确保安全释放,本文就来介绍一下C++中的RAII技术及其应用,具有一定的参考价值,感兴趣的可以了解一下... 目录一、核心原理与机制二、标准库中的RAII实现三、自定义RAII类设计原则四、常见应用场景1. 内存管理2. 文件操

C++中零拷贝的多种实现方式

《C++中零拷贝的多种实现方式》本文主要介绍了C++中零拷贝的实现示例,旨在在减少数据在内存中的不必要复制,从而提高程序性能、降低内存使用并减少CPU消耗,零拷贝技术通过多种方式实现,下面就来了解一下... 目录一、C++中零拷贝技术的核心概念二、std::string_view 简介三、std::stri

Python常用命令提示符使用方法详解

《Python常用命令提示符使用方法详解》在学习python的过程中,我们需要用到命令提示符(CMD)进行环境的配置,:本文主要介绍Python常用命令提示符使用方法的相关资料,文中通过代码介绍的... 目录一、python环境基础命令【Windows】1、检查Python是否安装2、 查看Python的安

C++高效内存池实现减少动态分配开销的解决方案

《C++高效内存池实现减少动态分配开销的解决方案》C++动态内存分配存在系统调用开销、碎片化和锁竞争等性能问题,内存池通过预分配、分块管理和缓存复用解决这些问题,下面就来了解一下... 目录一、C++内存分配的性能挑战二、内存池技术的核心原理三、主流内存池实现:TCMalloc与Jemalloc1. TCM

HTML5 搜索框Search Box详解

《HTML5搜索框SearchBox详解》HTML5的搜索框是一个强大的工具,能够有效提升用户体验,通过结合自动补全功能和适当的样式,可以创建出既美观又实用的搜索界面,这篇文章给大家介绍HTML5... html5 搜索框(Search Box)详解搜索框是一个用于输入查询内容的控件,通常用于网站或应用程

Python实例题之pygame开发打飞机游戏实例代码

《Python实例题之pygame开发打飞机游戏实例代码》对于python的学习者,能够写出一个飞机大战的程序代码,是不是感觉到非常的开心,:本文主要介绍Python实例题之pygame开发打飞机... 目录题目pygame-aircraft-game使用 Pygame 开发的打飞机游戏脚本代码解释初始化部