②本地图片转TFRecord及opencv安装

2024-08-30 14:18

本文主要是介绍②本地图片转TFRecord及opencv安装,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

之前我们对图片数据的读取是通过tensorflow的mnist类直接下载和加载mnist数据集。但是更多的时候,我们想通过本地的图片进行训练。

import input_data
mnist = input_data.read_data_sets('MNIST_data', one_hot=True)

但是如果每次对图片的读取都从磁盘上进行的话,将严重影响程序的效率。
因此想先将本地图片转化成通用、高效的数据读取方法,也就是tensorflow官方推荐的标准格式:tfrecord。
tfrecord数据文件是一种将图像数据和标签统一存储的二进制文件,能更好的利用内存,在tensorflow中快速的复制,移动,读取,存储等。
def _int64_feature(value):return tf.train.Feature(int64_list=tf.train.Int64List(value=[value]))def _bytes_feature(value):return tf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))dirPath = "F:/byxStudy/img/mnist0-9/"
sess = tf.InteractiveSession()
init = tf.global_variables_initializer()
sess.run(init)
#保存tfrecords
tfrecord_filename = 'F:\\byxStudy\\img\\mnist0_9_train.tfrecords'
fileSubDirList = os.listdir(dirPath)
with tf.python_io.TFRecordWriter(tfrecord_filename) as writer:# 遍历子文件夹for fileSubDir in fileSubDirList:fileSubDirSubDir = os.listdir(dirPath + fileSubDir + "/")for filePath in fileSubDirSubDir:image_value = tf.read_file(dirPath + fileSubDir + "/" + filePath)img = tf.image.decode_jpeg(image_value, 1)img = tf.image.resize_images(img, (28, 28), method=0)pic2 = img.eval(session=sess)image_raw = pic2.tostring()example = tf.train.Example(features=tf.train.Features(feature={'height': _int64_feature(pic2.shape[0]),'width': _int64_feature(pic2.shape[1]),'depth': _int64_feature(pic2.shape[2]),'label': _int64_feature(int(fileSubDir)),'image_raw': _bytes_feature(image_raw)}))writer.write(example.SerializeToString())

但是实际跑起来后发现程序运行的很慢。
通过调查得知,tensorflow运行的时候不要创建任何新的计算节点。
这样每一次迭代都会在graph里增加新的节点,导致memory leak,程序越来越慢,最后强行退出。

因此我想通过opencv对图像进行简单的预处理。opencv的安装过程很艰辛,我尝试了各种网上的办法,最终才得以实现,以下是我的尝试:
①通过pycharm直接安装cv2及opencv-python
②通过opencv官网 https://www.opencv.org/releases.html 下载安装opencv
并将..\opencv\build\python\2.7\x64\cv2.pyd文件复制粘贴到python安装目录..Lib\site-packages下
③pip install opencv_python-3.4.0.12-cp36-none-win_amd64.whl
④安装VC++运行时环境,Visual C++ 2015 redistribution
⑤下载python-3.6.3-embed-amd64,并将python3.dll拷贝到python.exe目录下
⑥配置python环境变量
安装 opencv-contrib-python。
通过pip完成了安装!pip install opencv-contrib-python
import cv2
import os
import tensorflow as tfdef _int64_feature(value):return tf.train.Feature(int64_list=tf.train.Int64List(value=[value]))def _bytes_feature(value):return tf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))dir_path = "F:/byxStudy/img/mnist0-9/"
tfrecord_filename = 'F:\\byxStudy\\img\\mnist0_9_train.tfrecords'
dir_list = os.listdir(dir_path)
with tf.python_io.TFRecordWriter(tfrecord_filename) as writer:# 遍历子文件夹for sub_dir in dir_list:sub_dir_list = os.listdir(dir_path + sub_dir + "/")for filePath in sub_dir_list:# 单通道的方式读取图片# 中文目录无法加载图片img = cv2.imread(dir_path + sub_dir + '/' + filePath, 0)img = cv2.resize(img, (28, 28), interpolation=cv2.INTER_CUBIC)image_raw = img.tostring()example = tf.train.Example(features=tf.train.Features(feature={'height': _int64_feature(img.shape[0]),'width': _int64_feature(img.shape[1]),'depth': _int64_feature(1),'label': _int64_feature(int(sub_dir)),'image_raw': _bytes_feature(image_raw)}))writer.write(example.SerializeToString())

这篇关于②本地图片转TFRecord及opencv安装的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1121061

相关文章

Java实现将HTML文件与字符串转换为图片

《Java实现将HTML文件与字符串转换为图片》在Java开发中,我们经常会遇到将HTML内容转换为图片的需求,本文小编就来和大家详细讲讲如何使用FreeSpire.DocforJava库来实现这一功... 目录前言核心实现:html 转图片完整代码场景 1:转换本地 HTML 文件为图片场景 2:转换 H

Java实现在Word文档中添加文本水印和图片水印的操作指南

《Java实现在Word文档中添加文本水印和图片水印的操作指南》在当今数字时代,文档的自动化处理与安全防护变得尤为重要,无论是为了保护版权、推广品牌,还是为了在文档中加入特定的标识,为Word文档添加... 目录引言Spire.Doc for Java:高效Word文档处理的利器代码实战:使用Java为Wo

RabbitMQ 延时队列插件安装与使用示例详解(基于 Delayed Message Plugin)

《RabbitMQ延时队列插件安装与使用示例详解(基于DelayedMessagePlugin)》本文详解RabbitMQ通过安装rabbitmq_delayed_message_exchan... 目录 一、什么是 RabbitMQ 延时队列? 二、安装前准备✅ RabbitMQ 环境要求 三、安装延时队

基于C#实现PDF转图片的详细教程

《基于C#实现PDF转图片的详细教程》在数字化办公场景中,PDF文件的可视化处理需求日益增长,本文将围绕Spire.PDFfor.NET这一工具,详解如何通过C#将PDF转换为JPG、PNG等主流图片... 目录引言一、组件部署二、快速入门:PDF 转图片的核心 C# 代码三、分辨率设置 - 清晰度的决定因

Python从Word文档中提取图片并生成PPT的操作代码

《Python从Word文档中提取图片并生成PPT的操作代码》在日常办公场景中,我们经常需要从Word文档中提取图片,并将这些图片整理到PowerPoint幻灯片中,手动完成这一任务既耗时又容易出错,... 目录引言背景与需求解决方案概述代码解析代码核心逻辑说明总结引言在日常办公场景中,我们经常需要从 W

linux系统上安装JDK8全过程

《linux系统上安装JDK8全过程》文章介绍安装JDK的必要性及Linux下JDK8的安装步骤,包括卸载旧版本、下载解压、配置环境变量等,强调开发需JDK,运行可选JRE,现JDK已集成JRE... 目录为什么要安装jdk?1.查看linux系统是否有自带的jdk:2.下载jdk压缩包2.解压3.配置环境

使用Spring Cache本地缓存示例代码

《使用SpringCache本地缓存示例代码》缓存是提高应用程序性能的重要手段,通过将频繁访问的数据存储在内存中,可以减少数据库访问次数,从而加速数据读取,:本文主要介绍使用SpringCac... 目录一、Spring Cache简介核心特点:二、基础配置1. 添加依赖2. 启用缓存3. 缓存配置方案方案

使用Java读取本地文件并转换为MultipartFile对象的方法

《使用Java读取本地文件并转换为MultipartFile对象的方法》在许多JavaWeb应用中,我们经常会遇到将本地文件上传至服务器或其他系统的需求,在这种场景下,MultipartFile对象非... 目录1. 基本需求2. 自定义 MultipartFile 类3. 实现代码4. 代码解析5. 自定

使用Python实现无损放大图片功能

《使用Python实现无损放大图片功能》本文介绍了如何使用Python的Pillow库进行无损图片放大,区分了JPEG和PNG格式在放大过程中的特点,并给出了示例代码,JPEG格式可能受压缩影响,需先... 目录一、什么是无损放大?二、实现方法步骤1:读取图片步骤2:无损放大图片步骤3:保存图片三、示php

Java实现本地缓存的四种方法实现与对比

《Java实现本地缓存的四种方法实现与对比》本地缓存的优点就是速度非常快,没有网络消耗,本地缓存比如caffine,guavacache这些都是比较常用的,下面我们来看看这四种缓存的具体实现吧... 目录1、HashMap2、Guava Cache3、Caffeine4、Encache本地缓存比如 caff