搭建一个简单的网络结构(Pytorch实现二分类)

2024-03-24 03:12

本文主要是介绍搭建一个简单的网络结构(Pytorch实现二分类),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

搭建一个简单的网络结构(Pytorch实现二分类)

搭建一个神经网络并进行训练的话,大致需要分为三步:

  • 第一步是数据的处理,将数据整理成输入网络结构中合适的格式
  • 第二步是网络的搭建,包括每层网络的结构和前向传播
  • 第三步是网络的训练,包括损失计算,优化器选择,梯度清零,反向传播,梯度优化等

这里我们以简单的二分类来进行一个简单的网络搭建:

一、数据处理

首先来生成含200个样本的数据

#生成200个点的数据集,返回的结果是一个包含两个元素的元组 (X, y),X是点,y是x的分类
X, y =  sklearn.datasets.make_moons(200, noise = 0.2)

绘制出样本的散点图如下图所示:

save_path = "/data/wangweicheng/ModelLearning/SimpleNetWork"
plt.scatter(X[:,0],X[:,1],s=40,c=y,cmap=plt.cm.Spectral)
plt.savefig(f'{save_path}/dataset.png')   #保存生成的图片

在这里插入图片描述

**可以看到我们生成了两类数据,分别用 0 和 1 来表示。**我们接下来将要在这个样本数据上构造一个分类器,采用的是一个很简单的全连接网络,网络结构如下:

在这里插入图片描述

这个网**络包含一个输入层,一个中间层,一个输出层。**中间层包含 3 个神经元,使用的激活函数是 tanh。当然,中间层的神经元越多,分类效果一般越好,但这个 3 层的网络对于我们的样本数据已经足够用了。我们来算一下参数数量:上图中一共有 6 6 = 12 条线,就是 12 个权重,加上 3 2 = 5 个 bias,一共 17 个参数需要训练。

最后我们将样本数据从 numpy 转成 tensor:,后面我们就可以进行网络的搭建了

# 将 NumPy 数组转换为 PyTorch 张量,并指定张量的数据类型
X = torch.from_numpy(X).type(torch.FloatTensor)
y = torch.from_numpy(y).type(torch.LongTensor)

二、网络搭建

# 搭建网络
class BinaryClassifier(nn.Module):#初始化,参数分别是初始化信息,特征数,隐藏单元数,输出单元数def __init__(self,n_feature,n_hidden,n_output):super(BinaryClassifier, self).__init__()#输入层到隐藏层的全连接self.hidden = torch.nn.Linear(n_feature, n_hidden)#隐藏层到输出层的全连接self.output = torch.nn.Linear(n_hidden, n_output)#前向传播,把各个模块连接起来,就形成了一个网络结构def forward(self, x):x = self.hidden(x)  x = torch.tanh(x)   #激活函数x = self.output(x)return xdef predict(self,x):#训练好之后,重新将x输入到网络中,进行测试#softmax得到0到1的一个值pred = F.softmax(self.forward(x),dim=1)ans = []#对不同点分别进行判断,如果第一个位置的数值大于第二个位置,就返回0,反之返回1for t in pred:if t[0]>t[1]:ans.append(0)else:ans.append(1)return torch.tensor(ans)

三、网络训练

选择损失函数CrossEntropyLoss,以及梯度优化器 Adam:

#初始化模型
model = BinaryClassifier(2, 3, 2)
#定义损失函数,用于衡量模型预测结果与真实标签之间的差异。
loss_criterion = nn.CrossEntropyLoss()
#定义优化器,优化器(optimizer)用于更新模型的参数,以最小化损失函数并提高模型的性能
# model.parameters() 表示要优化的模型参数,lr=0.01 表示学习率(learning rate)为 0.01,即每次参数更新的步长。
optimizer = torch.optim.Adam(model.parameters(), lr = 0.01)

进行迭代,获取当前loss,清除上一次的梯度,进行梯度下降和反向传播,更新参数:

#训练的次数
epochs = 10000
#存储loss
losses = []for i in range(epochs):#得到预测值y_pred = model.forward(X)#计算当前的损失loss = loss_criterion(y_pred, y)#添加当前的损失到losses中losses.append(loss.item())#清除之前的梯度optimizer.zero_grad()#反向传播更新参数loss.backward()#梯度优化optimizer.step()if(i % 500 == 0):print('loss: {:.4f}'.format(loss.item()))

查看 训练准确率:

print(accuracy_score(model.predict(X),y))

结果可视化:

def predict(x):x = torch.from_numpy(x).type(torch.FloatTensor)ans = model.predict(x)return ans.numpy()# 画出边框
def plot_decision_boundary(pred_func,X,y):# 找到x,y的最大和最小值,并填充一些边框x_min, x_max = X[:, 0].min() - .5, X[:, 0].max() + .5y_min, y_max = X[:, 1].min() - .5, X[:, 1].max() + .5h = 0.01# 生成一个网格xx,yy=np.meshgrid(np.arange(x_min, x_max, h), np.arange(y_min, y_max, h))# 将两个展平后的一维数组 xx.ravel() 和 yy.ravel() 按列连接起来,生成一个二维数组,然后对这个点进行预测Z = pred_func(np.c_[xx.ravel(), yy.ravel()])# 将预测结果 Z 重塑为与点网格 xx 相同的形状Z = Z.reshape(xx.shape)# 画出图像,绘制等高线图的代码plt.contourf(xx, yy, Z, cmap=plt.cm.YlGnBu)plt.scatter(X[:, 0], X[:, 1], c=y, cmap=plt.cm.binary)plt.savefig(f'{save_path}/dataout.png')plot_decision_boundary(lambda x : predict(x) ,X.numpy(), y.numpy())

输出结果:

在这里插入图片描述

结果还是不错的!

完整代码:GitHub

#引入必要的包
#数据处理的包
import matplotlib.pyplot as plt
from sklearn.cluster import SpectralClustering
import sklearn.datasets
import numpy as np
#搭建网络的包
import torch
import torch.nn as nn
import torch.nn.functional as F
#统计分数
from sklearn.metrics import accuracy_score#生成200个点的数据集,返回的结果是一个包含两个元素的元组 (X, y),X是点,y是x的分类
X, y =  sklearn.datasets.make_moons(200, noise = 0.2)save_path = "/data/wangweicheng/ModelLearning/SimpleNetWork"
plt.scatter(X[:,0],X[:,1],s=40,c=y,cmap=plt.cm.Spectral)
plt.savefig(f'{save_path}/dataset.png')     #保存生成的图片# 将 NumPy 数组转换为 PyTorch 张量,并指定张量的数据类型
X = torch.from_numpy(X).type(torch.FloatTensor)
y = torch.from_numpy(y).type(torch.LongTensor)# 搭建网络
class BinaryClassifier(nn.Module):#初始化,参数分别是初始化信息,特征数,隐藏单元数,输出单元数def __init__(self,n_feature,n_hidden,n_output):super(BinaryClassifier, self).__init__()#输入层到隐藏层的全连接self.hidden = torch.nn.Linear(n_feature, n_hidden)#隐藏层到输出层的全连接self.output = torch.nn.Linear(n_hidden, n_output)#前向传播,把各个模块连接起来,就形成了一个网络结构def forward(self, x):x = self.hidden(x)  x = torch.tanh(x)   #激活函数x = self.output(x)return xdef predict(self,x):#训练好之后,重新将x输入到网络中,进行测试#softmax得到0到1的一个值pred = F.softmax(self.forward(x),dim=1)ans = []#对不同点分别进行判断,如果第一个位置的数值大于第二个位置,就返回0,反之返回1for t in pred:if t[0]>t[1]:ans.append(0)else:ans.append(1)return torch.tensor(ans)#初始化模型
model = BinaryClassifier(2, 5, 2)
#定义损失函数,用于衡量模型预测结果与真实标签之间的差异。
loss_criterion = nn.CrossEntropyLoss()
#定义优化器,优化器(optimizer)用于更新模型的参数,以最小化损失函数并提高模型的性能
# model.parameters() 表示要优化的模型参数,lr=0.01 表示学习率(learning rate)为 0.01,即每次参数更新的步长。
optimizer = torch.optim.Adam(model.parameters(), lr = 0.01)#训练的次数
epochs = 10000
#存储loss
losses = []for i in range(epochs):#得到预测值y_pred = model.forward(X)#计算当前的损失loss = loss_criterion(y_pred, y)#添加当前的损失到losses中losses.append(loss.item())#清除之前的梯度optimizer.zero_grad()#反向传播更新参数loss.backward()#梯度优化optimizer.step()if(i % 500 == 0):print('loss: {:.4f}'.format(loss.item()))#进行预测
print(accuracy_score(model.predict(X),y))def predict(x):x = torch.from_numpy(x).type(torch.FloatTensor)ans = model.predict(x)return ans.numpy()# 画出边框
def plot_decision_boundary(pred_func,X,y):# 找到x,y的最大和最小值,并填充一些边框x_min, x_max = X[:, 0].min() - .5, X[:, 0].max() + .5y_min, y_max = X[:, 1].min() - .5, X[:, 1].max() + .5h = 0.01# 生成一个网格xx,yy=np.meshgrid(np.arange(x_min, x_max, h), np.arange(y_min, y_max, h))# 将两个展平后的一维数组 xx.ravel() 和 yy.ravel() 按列连接起来,生成一个二维数组,然后对这个点进行预测Z = pred_func(np.c_[xx.ravel(), yy.ravel()])# 将预测结果 Z 重塑为与点网格 xx 相同的形状Z = Z.reshape(xx.shape)# 画出图像,绘制等高线图的代码plt.contourf(xx, yy, Z, cmap=plt.cm.YlOrBr)plt.scatter(X[:, 0], X[:, 1], c=y, cmap=plt.cm.binary)plt.savefig(f'{save_path}/dataout.png')plot_decision_boundary(lambda x : predict(x) ,X.numpy(), y.numpy())

这篇关于搭建一个简单的网络结构(Pytorch实现二分类)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/840300

相关文章

c++ 类成员变量默认初始值的实现

《c++类成员变量默认初始值的实现》本文主要介绍了c++类成员变量默认初始值,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 目录C++类成员变量初始化c++类的变量的初始化在C++中,如果使用类成员变量时未给定其初始值,那么它将被

Qt使用QSqlDatabase连接MySQL实现增删改查功能

《Qt使用QSqlDatabase连接MySQL实现增删改查功能》这篇文章主要为大家详细介绍了Qt如何使用QSqlDatabase连接MySQL实现增删改查功能,文中的示例代码讲解详细,感兴趣的小伙伴... 目录一、创建数据表二、连接mysql数据库三、封装成一个完整的轻量级 ORM 风格类3.1 表结构

基于Python实现一个图片拆分工具

《基于Python实现一个图片拆分工具》这篇文章主要为大家详细介绍了如何基于Python实现一个图片拆分工具,可以根据需要的行数和列数进行拆分,感兴趣的小伙伴可以跟随小编一起学习一下... 简单介绍先自己选择输入的图片,默认是输出到项目文件夹中,可以自己选择其他的文件夹,选择需要拆分的行数和列数,可以通过

Python中将嵌套列表扁平化的多种实现方法

《Python中将嵌套列表扁平化的多种实现方法》在Python编程中,我们常常会遇到需要将嵌套列表(即列表中包含列表)转换为一个一维的扁平列表的需求,本文将给大家介绍了多种实现这一目标的方法,需要的朋... 目录python中将嵌套列表扁平化的方法技术背景实现步骤1. 使用嵌套列表推导式2. 使用itert

Python使用pip工具实现包自动更新的多种方法

《Python使用pip工具实现包自动更新的多种方法》本文深入探讨了使用Python的pip工具实现包自动更新的各种方法和技术,我们将从基础概念开始,逐步介绍手动更新方法、自动化脚本编写、结合CI/C... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核

在Linux中改变echo输出颜色的实现方法

《在Linux中改变echo输出颜色的实现方法》在Linux系统的命令行环境下,为了使输出信息更加清晰、突出,便于用户快速识别和区分不同类型的信息,常常需要改变echo命令的输出颜色,所以本文给大家介... 目python录在linux中改变echo输出颜色的方法技术背景实现步骤使用ANSI转义码使用tpu

Python使用python-can实现合并BLF文件

《Python使用python-can实现合并BLF文件》python-can库是Python生态中专注于CAN总线通信与数据处理的强大工具,本文将使用python-can为BLF文件合并提供高效灵活... 目录一、python-can 库:CAN 数据处理的利器二、BLF 文件合并核心代码解析1. 基础合

Python使用OpenCV实现获取视频时长的小工具

《Python使用OpenCV实现获取视频时长的小工具》在处理视频数据时,获取视频的时长是一项常见且基础的需求,本文将详细介绍如何使用Python和OpenCV获取视频时长,并对每一行代码进行深入解析... 目录一、代码实现二、代码解析1. 导入 OpenCV 库2. 定义获取视频时长的函数3. 打开视频文

golang版本升级如何实现

《golang版本升级如何实现》:本文主要介绍golang版本升级如何实现问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录golanwww.chinasem.cng版本升级linux上golang版本升级删除golang旧版本安装golang最新版本总结gola

SpringBoot中SM2公钥加密、私钥解密的实现示例详解

《SpringBoot中SM2公钥加密、私钥解密的实现示例详解》本文介绍了如何在SpringBoot项目中实现SM2公钥加密和私钥解密的功能,通过使用Hutool库和BouncyCastle依赖,简化... 目录一、前言1、加密信息(示例)2、加密结果(示例)二、实现代码1、yml文件配置2、创建SM2工具