C++卷积神经网络实例:tiny_cnn代码详解(9)——partial_connected_layer层结构类分析(下)

本文主要是介绍C++卷积神经网络实例:tiny_cnn代码详解(9)——partial_connected_layer层结构类分析(下),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

  在上一篇博文中我们着重分析了partial_connected_layer类的成员变量的结构,在这篇博文中我们将继续对partial_connected_layer类中的其他成员函数做一下简要介绍。

  一、构造函数

  由于partial_connected_layer类是继承自基类layer,因此在构造函数中同样分为两部分,即调用基类构造函数以及初始化自身成员变量:

partial_connected_layer(layer_size_t in_dim, layer_size_t out_dim, size_t weight_dim, size_t bias_dim, float_t scale_factor = 1.0): layer<Activation> (in_dim, out_dim, weight_dim, bias_dim), weight2io_(weight_dim), out2wi_(out_dim), in2wo_(in_dim), bias2out_(bias_dim), out2bias_(out_dim), scale_factor_(scale_factor) {}

  这里对于自身的成员变量的赋值采用直接复制的方式,weight2io_代表网络中映射矩阵中映射核的总个数,为(卷积核尺寸的平方*通道数*卷积核个数);out2wi_代表卷积层网络输出特征的维数,为(in_width - window_size + 1) * (in_height - window_size + 1) * out_channels;in2wo_代表卷积层输入输入的维数,为数据矩阵的行数*列数*通道数;bias2out_代表卷积层中加性偏置的总个数;out2bias_代表输出特征的维数。

  这里对partial_connected_layer的基类layer做了一个宏定义,方便后面使用:

  二、层属性计算参数

  由于卷积层和下采样层的参数众多,为了方便用户了解各个层的参数数量以及连接规模,这里提供三个参数个数计算函数,用以返回卷积层的下采样层中的对应参数个数。首先,返回当前层的待学习参数个数(包括卷积核权值和偏置):

  返回当前层与前一层的连接个数:

  返回当前层的特征输出维数:

   三、前向传播函数forward_propagation

  由于partial_connected_layer类是卷积层和下采样层的公共基类,而卷积层和下采样层同样都需要前向传播和反向传播功能,因此作者选择在partial_connected_layer类中定义前向传播算法和反向传播算法,而不是在两个子类中分别进行定义,至于这样做的原因,在后面的博文中会进行详细说明。

  这里封装的前向传播算法和前文介绍的全连接层中的前向传播算法类似,主要分为三大部分:前向传播的卷积过程、输出卷积结构、递归。

  首选在卷积过程中,需要进行卷积、对应系数扩展(这里系数默认为1,因此这一步基本可以忽略)、加偏置值,而且这些操作都是以Lamda表达式的方式来实现的:

  接下来需要将卷积结果传递给输出数组,这里主要需要先经过激活函数来做一步处理:

  最后通过递归的方式来完成算法的传播(前向传播和反向传播都是通过递归来完成的):

  至于反向传播函数back_propagation,由于其函数结构相对复杂,我们将对反向传播函数的解读放在后续介绍BP算法的博文中,这个系类博客的前三分之一的篇幅都是先分析tiny_cnn的前向传播过程,因此这里针对back_propagation()函数暂时先挖下一个大坑,等待后续的博文来填,望大家谅解。

  OK,这篇博客就先介绍到这里,至此我们已经对partial_connected_layer类的大部分成员变量和功能函数(除了反向传播算法)都介绍完毕,在下一篇博文中我们将继续对更底层的基类:layer、layer_base进行简要分析,然后就开始研究卷积网络的前向传播实现方法,大家敬请期待吧。

  三、注意事项

  1、函数调用格式以及构造流程的问题

  这里需要强调一点的是tiny_cnn在构造整个网络结构的过程中,是采用一种类似于“流”的形式来完成的构造:

  这种流操作方式定义在network类中,有关这种流构造技巧的更多详细信息我会在介绍network类的过程中来专门进行详细的介绍(又是一个坑),目前已知的就是这种流操作方式在表面上是一次性完成整个网络结构的构造,这也给我们在程序调试中查看中间层的网络初始化参数带来了麻烦,看看后续怎么解决吧。



如果觉得这篇文章对您有所启发,欢迎关注我的公众号,我会尽可能积极和大家交流,谢谢。


这篇关于C++卷积神经网络实例:tiny_cnn代码详解(9)——partial_connected_layer层结构类分析(下)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1115502

相关文章

Python标准库之数据压缩和存档的应用详解

《Python标准库之数据压缩和存档的应用详解》在数据处理与存储领域,压缩和存档是提升效率的关键技术,Python标准库提供了一套完整的工具链,下面小编就来和大家简单介绍一下吧... 目录一、核心模块架构与设计哲学二、关键模块深度解析1.tarfile:专业级归档工具2.zipfile:跨平台归档首选3.

MySQL 内存使用率常用分析语句

《MySQL内存使用率常用分析语句》用户整理了MySQL内存占用过高的分析方法,涵盖操作系统层确认及数据库层bufferpool、内存模块差值、线程状态、performance_schema性能数据... 目录一、 OS层二、 DB层1. 全局情况2. 内存占js用详情最近连续遇到mysql内存占用过高导致

idea的终端(Terminal)cmd的命令换成linux的命令详解

《idea的终端(Terminal)cmd的命令换成linux的命令详解》本文介绍IDEA配置Git的步骤:安装Git、修改终端设置并重启IDEA,强调顺序,作为个人经验分享,希望提供参考并支持脚本之... 目录一编程、设置前二、前置条件三、android设置四、设置后总结一、php设置前二、前置条件

python中列表应用和扩展性实用详解

《python中列表应用和扩展性实用详解》文章介绍了Python列表的核心特性:有序数据集合,用[]定义,元素类型可不同,支持迭代、循环、切片,可执行增删改查、排序、推导式及嵌套操作,是常用的数据处理... 目录1、列表定义2、格式3、列表是可迭代对象4、列表的常见操作总结1、列表定义是处理一组有序项目的

python使用try函数详解

《python使用try函数详解》Pythontry语句用于异常处理,支持捕获特定/多种异常、else/final子句确保资源释放,结合with语句自动清理,可自定义异常及嵌套结构,灵活应对错误场景... 目录try 函数的基本语法捕获特定异常捕获多个异常使用 else 子句使用 finally 子句捕获所

C++11范围for初始化列表auto decltype详解

《C++11范围for初始化列表autodecltype详解》C++11引入auto类型推导、decltype类型推断、统一列表初始化、范围for循环及智能指针,提升代码简洁性、类型安全与资源管理效... 目录C++11新特性1. 自动类型推导auto1.1 基本语法2. decltype3. 列表初始化3

深度解析Nginx日志分析与499状态码问题解决

《深度解析Nginx日志分析与499状态码问题解决》在Web服务器运维和性能优化过程中,Nginx日志是排查问题的重要依据,本文将围绕Nginx日志分析、499状态码的成因、排查方法及解决方案展开讨论... 目录前言1. Nginx日志基础1.1 Nginx日志存放位置1.2 Nginx日志格式2. 499

C++11右值引用与Lambda表达式的使用

《C++11右值引用与Lambda表达式的使用》C++11引入右值引用,实现移动语义提升性能,支持资源转移与完美转发;同时引入Lambda表达式,简化匿名函数定义,通过捕获列表和参数列表灵活处理变量... 目录C++11新特性右值引用和移动语义左值 / 右值常见的左值和右值移动语义移动构造函数移动复制运算符

SQL Server 中的 WITH (NOLOCK) 示例详解

《SQLServer中的WITH(NOLOCK)示例详解》SQLServer中的WITH(NOLOCK)是一种表提示,等同于READUNCOMMITTED隔离级别,允许查询在不获取共享锁的情... 目录SQL Server 中的 WITH (NOLOCK) 详解一、WITH (NOLOCK) 的本质二、工作

springboot自定义注解RateLimiter限流注解技术文档详解

《springboot自定义注解RateLimiter限流注解技术文档详解》文章介绍了限流技术的概念、作用及实现方式,通过SpringAOP拦截方法、缓存存储计数器,结合注解、枚举、异常类等核心组件,... 目录什么是限流系统架构核心组件详解1. 限流注解 (@RateLimiter)2. 限流类型枚举 (