python实现将图片数据以LMDB方式存储

2023-10-29 09:44

本文主要是介绍python实现将图片数据以LMDB方式存储,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

以LMDB(Lightning Memory-Mapped Database)方式存储的优点

  1. 高效性:LMDB是一种内存映射数据库,可以在内存和磁盘之间实现高效的数据访问。它利用操作系统的虚拟内存机制,将数据文件映射到内存中,从而避免了频繁的磁盘IO操作,提高了数据的读取和写入效率

  2. 低内存占用:LMDB使用了页面缓存和写时复制(Copy-on-Write)的技术,可以在内存中保持数据的快速访问同时占用较少的内存空间。这对于处理大规模数据集或内存有限的环境非常有用

  3. 并发支持:LMDB支持多线程或多进程的并发读取和写入操作,可以在高并发的数据访问场景下保持数据的一致性和可靠性

  4. 数据压缩:LMDB支持数据的压缩,可以减小数据文件的大小,节省存储空间

  5. 跨平台兼容:LMDB是一个跨平台的数据库,可以在不同的操作系统上使用,并提供了多种编程语言的接口,如C、Python等

代码示例

将目标分类的数据存储成“.lmdb”文件,

import pickle, lmdb
from tqdm import tqdmimg_paths = []
images, labels = [], []
for img_path in img_paths:images.append(img_path)labels.append(1)  ## 假设数据的label为1combined = list(zip(images, labels))
random.shuffle(combined)
images, labels = zip(*combined)
images = list(images)
labels = list(labels)def create_lmdb(images, labels, lmdb_path):assert len(images) == len(labels), "All lists must have the same length"db = lmdb.open(lmdb_path, map_size=int(1e12))with db.begin(write=True) as txn:bar = tqdm(images)for i, img_path in enumerate(bar):with open(img_path, 'rb') as f:img_data = f.read()meta_data = {'label': labels[i], 'size': len(img_data)}data = pickle.dumps((meta_data, img_data))txn.put(str(i).encode('utf-8'), data)txn.put('length'.encode('utf-8'), str(len(img_paths)).encode('utf-8'))print(f"Created LMDB dataset at {lmdb_path} with {len(img_paths)} images")create_lmdb(images=images, labels=labels, lmdb_path="xxx.lmdb")

这篇关于python实现将图片数据以LMDB方式存储的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/299822

相关文章

MybatisPlus中几种条件构造器运用方式

《MybatisPlus中几种条件构造器运用方式》QueryWrapper是Mybatis-Plus提供的一个用于构建SQL查询条件的工具类,提供了各种方法如eq、ne、gt、ge、lt、le、lik... 目录版本介绍QueryWrapperLambdaQueryWrapperUpdateWrapperL

MyBatis-Plus逻辑删除实现过程

《MyBatis-Plus逻辑删除实现过程》本文介绍了MyBatis-Plus如何实现逻辑删除功能,包括自动填充字段、配置与实现步骤、常见应用场景,并展示了如何使用remove方法进行逻辑删除,逻辑删... 目录1. 逻辑删除的必要性编程1.1 逻辑删除的定义1.2 逻辑删php除的优点1.3 适用场景2.

Python数据验证神器Pydantic库的使用和实践中的避坑指南

《Python数据验证神器Pydantic库的使用和实践中的避坑指南》Pydantic是一个用于数据验证和设置的库,可以显著简化API接口开发,文章通过一个实际案例,展示了Pydantic如何在生产环... 目录1️⃣ 崩溃时刻:当你的API接口又双叒崩了!2️⃣ 神兵天降:3行代码解决验证难题3️⃣ 深度

C#借助Spire.XLS for .NET实现在Excel中添加文档属性

《C#借助Spire.XLSfor.NET实现在Excel中添加文档属性》在日常的数据处理和项目管理中,Excel文档扮演着举足轻重的角色,本文将深入探讨如何在C#中借助强大的第三方库Spire.... 目录为什么需要程序化添加Excel文档属性使用Spire.XLS for .NET库实现文档属性管理Sp

Python+FFmpeg实现视频自动化处理的完整指南

《Python+FFmpeg实现视频自动化处理的完整指南》本文总结了一套在Python中使用subprocess.run调用FFmpeg进行视频自动化处理的解决方案,涵盖了跨平台硬件加速、中间素材处理... 目录一、 跨平台硬件加速:统一接口设计1. 核心映射逻辑2. python 实现代码二、 中间素材处

idea设置快捷键风格方式

《idea设置快捷键风格方式》在IntelliJIDEA中设置快捷键风格,打开IDEA,进入设置页面,选择Keymap,从Keymaps下拉列表中选择或复制想要的快捷键风格,点击Apply和OK即可使... 目录idea设www.chinasem.cn置快捷键风格按照以下步骤进行总结idea设置快捷键pyth

Linux镜像文件制作方式

《Linux镜像文件制作方式》本文介绍了Linux镜像文件制作的过程,包括确定磁盘空间布局、制作空白镜像文件、分区与格式化、复制引导分区和其他分区... 目录1.确定磁盘空间布局2.制作空白镜像文件3.分区与格式化1) 分区2) 格式化4.复制引导分区5.复制其它分区1) 挂载2) 复制bootfs分区3)

python中的flask_sqlalchemy的使用及示例详解

《python中的flask_sqlalchemy的使用及示例详解》文章主要介绍了在使用SQLAlchemy创建模型实例时,通过元类动态创建实例的方式,并说明了如何在实例化时执行__init__方法,... 目录@orm.reconstructorSQLAlchemy的回滚关联其他模型数据库基本操作将数据添

Java数组动态扩容的实现示例

《Java数组动态扩容的实现示例》本文主要介绍了Java数组动态扩容的实现示例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 目录1 问题2 方法3 结语1 问题实现动态的给数组添加元素效果,实现对数组扩容,原始数组使用静态分配

Python实现快速扫描目标主机的开放端口和服务

《Python实现快速扫描目标主机的开放端口和服务》这篇文章主要为大家详细介绍了如何使用Python编写一个功能强大的端口扫描器脚本,实现快速扫描目标主机的开放端口和服务,感兴趣的小伙伴可以了解下... 目录功能介绍场景应用1. 网络安全审计2. 系统管理维护3. 网络故障排查4. 合规性检查报错处理1.