使用Spikingjelly框架对神经形态数据集预处理涉及的降采样问题

本文主要是介绍使用Spikingjelly框架对神经形态数据集预处理涉及的降采样问题,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

神经形态数据集处理 — spikingjelly alpha 文档

Spikingjelly框架提供常用神经形态数据集处理的方法。

文档中以DVS128Gesture为例,给出代码如下:

train_set = DVS128Gesture(root_dir, train=True, data_type='frame', frames_number=20, split_by='number')

使用这段代码可以轻松地获取frame数据集并得到划分好的训练集。但对于其他数据集,想要按照上述代码获取划分好的数据集是行不通的,这是因为其他神经形态数据集的自定义函数没有提供 ' train ' 这个参数,以DVS-CIFAR10为例,见下方代码:

class CIFAR10DVS(sjds.NeuromorphicDatasetFolder):def __init__(self,root: str,data_type: str = 'event',frames_number: int = None,split_by: str = None,duration: int = None,custom_integrate_function: Callable = None,custom_integrated_frames_dir_name: str = None,transform: Optional[Callable] = None,target_transform: Optional[Callable] = None,) -> None:"""

以N-Caltech101数据集为例,解决上述问题,可以通过下方代码实现:

TS=5 #时间步长
root_dir = 'E:/data/N_Caltech/source'
event_set = NCaltech101(root=root_dir, data_type='frame', frames_number=TS, split_by='number')
sjds.split_to_train_test_set(train_ratio = 0.9, origin_dataset = event_set, num_classes = 101, random_split = False)

首先获取frame数据,再对获取的frame数据集进行训练集、测试集的划分。划分数据集的函数可以在sjds中找到,里面详细介绍了函数的用法及参数的含义。

针对神经形态数据集的处理,到此结束。

由于神经形态数据集内存占用过大,一般对数据集进行降采样,即缩小图片的原始尺寸,以减少内存的占用。torchvision提供了transforms的二十个方法,其中Resize方法可以对数据进行降维,可以用下面的代码表示:

# 定义 transform
transform = transforms.Compose([transforms.ToPILImage(),  # 将 numpy 数组转换为 PIL 图像transforms.Resize(size=(42, 42)), # 降采样到指定尺寸# transforms.ToTensor(), # 将 PIL 图像或 NumPy ndarray 转换为 FloatTensor,并缩放像素的强度值到 [0., 1.]
])
# 解压 + 降采样
root_dir = 'E:data/N_Caltech/source'
event_set = NCaltech101(root=root_dir, data_type='frame', frames_number=TS, split_by='number', transform=transform)

直接使用上述代码会报错,原因是神经形态数据的维度为四维[T C H W],而ToPILImage()方法仅支持二维或者三维的数据。

对此,只能退一步考虑,对每一帧数据for循环操作,达到降维的目的(降维的核心在于改变H W 的大小)。得到代码如下:

# 解压
root_dir = 'E:/data/N_Caltech/source'
event_set = NCaltech101(root=root_dir, data_type='frame', frames_number=TS, split_by='number')
# 降采样 由于维度为 4 不能直接使用resize 需要对每一帧数据单独降采样
ds_set = []
for i in range(len(event_set)):# x形状为[T, C, H, W]  ,y为标签值。x, y = event_set[i]xx = []T = len(x[:, 0, 0, 0])C = len(x[0, :, 0, 0])for j in range(T):for k in range(C):xx.append(cv2.resize(x[j, k, :, :], (42, 42)))xx = np.array(xx).reshape(T, C, 42, 42)ds_set.append((xx, y))
def splitdataset():return sjds.split_to_train_test_set(train_ratio = 0.9, origin_dataset = ds_set, num_classes = 101, random_split = False)

最终得到ds_set传递给split方法,可以得到降维后划分出的训练集与测试集。

这篇关于使用Spikingjelly框架对神经形态数据集预处理涉及的降采样问题的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/892832

相关文章

使用Redis快速实现共享Session登录的详细步骤

《使用Redis快速实现共享Session登录的详细步骤》在Web开发中,Session通常用于存储用户的会话信息,允许用户在多个页面之间保持登录状态,Redis是一个开源的高性能键值数据库,广泛用于... 目录前言实现原理:步骤:使用Redis实现共享Session登录1. 引入Redis依赖2. 配置R

使用Python的requests库调用API接口的详细步骤

《使用Python的requests库调用API接口的详细步骤》使用Python的requests库调用API接口是开发中最常用的方式之一,它简化了HTTP请求的处理流程,以下是详细步骤和实战示例,涵... 目录一、准备工作:安装 requests 库二、基本调用流程(以 RESTful API 为例)1.

使用Python开发一个Ditto剪贴板数据导出工具

《使用Python开发一个Ditto剪贴板数据导出工具》在日常工作中,我们经常需要处理大量的剪贴板数据,下面将介绍如何使用Python的wxPython库开发一个图形化工具,实现从Ditto数据库中读... 目录前言运行结果项目需求分析技术选型核心功能实现1. Ditto数据库结构分析2. 数据库自动定位3

Python yield与yield from的简单使用方式

《Pythonyield与yieldfrom的简单使用方式》生成器通过yield定义,可在处理I/O时暂停执行并返回部分结果,待其他任务完成后继续,yieldfrom用于将一个生成器的值传递给另一... 目录python yield与yield from的使用代码结构总结Python yield与yield

Go语言使用select监听多个channel的示例详解

《Go语言使用select监听多个channel的示例详解》本文将聚焦Go并发中的一个强力工具,select,这篇文章将通过实际案例学习如何优雅地监听多个Channel,实现多任务处理、超时控制和非阻... 目录一、前言:为什么要使用select二、实战目标三、案例代码:监听两个任务结果和超时四、运行示例五

python使用Akshare与Streamlit实现股票估值分析教程(图文代码)

《python使用Akshare与Streamlit实现股票估值分析教程(图文代码)》入职测试中的一道题,要求:从Akshare下载某一个股票近十年的财务报表包括,资产负债表,利润表,现金流量表,保存... 目录一、前言二、核心知识点梳理1、Akshare数据获取2、Pandas数据处理3、Matplotl

pandas数据的合并concat()和merge()方式

《pandas数据的合并concat()和merge()方式》Pandas中concat沿轴合并数据框(行或列),merge基于键连接(内/外/左/右),concat用于纵向或横向拼接,merge用于... 目录concat() 轴向连接合并(1) join='outer',axis=0(2)join='o

批量导入txt数据到的redis过程

《批量导入txt数据到的redis过程》用户通过将Redis命令逐行写入txt文件,利用管道模式运行客户端,成功执行批量删除以Product*匹配的Key操作,提高了数据清理效率... 目录批量导入txt数据到Redisjs把redis命令按一条 一行写到txt中管道命令运行redis客户端成功了批量删除k

Java使用Thumbnailator库实现图片处理与压缩功能

《Java使用Thumbnailator库实现图片处理与压缩功能》Thumbnailator是高性能Java图像处理库,支持缩放、旋转、水印添加、裁剪及格式转换,提供易用API和性能优化,适合Web应... 目录1. 图片处理库Thumbnailator介绍2. 基本和指定大小图片缩放功能2.1 图片缩放的

Python使用Tenacity一行代码实现自动重试详解

《Python使用Tenacity一行代码实现自动重试详解》tenacity是一个专为Python设计的通用重试库,它的核心理念就是用简单、清晰的方式,为任何可能失败的操作添加重试能力,下面我们就来看... 目录一切始于一个简单的 API 调用Tenacity 入门:一行代码实现优雅重试精细控制:让重试按我