②本地图片转TFRecord及opencv安装

2024-08-30 14:18

本文主要是介绍②本地图片转TFRecord及opencv安装,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

之前我们对图片数据的读取是通过tensorflow的mnist类直接下载和加载mnist数据集。但是更多的时候,我们想通过本地的图片进行训练。

import input_data
mnist = input_data.read_data_sets('MNIST_data', one_hot=True)

但是如果每次对图片的读取都从磁盘上进行的话,将严重影响程序的效率。
因此想先将本地图片转化成通用、高效的数据读取方法,也就是tensorflow官方推荐的标准格式:tfrecord。
tfrecord数据文件是一种将图像数据和标签统一存储的二进制文件,能更好的利用内存,在tensorflow中快速的复制,移动,读取,存储等。
def _int64_feature(value):return tf.train.Feature(int64_list=tf.train.Int64List(value=[value]))def _bytes_feature(value):return tf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))dirPath = "F:/byxStudy/img/mnist0-9/"
sess = tf.InteractiveSession()
init = tf.global_variables_initializer()
sess.run(init)
#保存tfrecords
tfrecord_filename = 'F:\\byxStudy\\img\\mnist0_9_train.tfrecords'
fileSubDirList = os.listdir(dirPath)
with tf.python_io.TFRecordWriter(tfrecord_filename) as writer:# 遍历子文件夹for fileSubDir in fileSubDirList:fileSubDirSubDir = os.listdir(dirPath + fileSubDir + "/")for filePath in fileSubDirSubDir:image_value = tf.read_file(dirPath + fileSubDir + "/" + filePath)img = tf.image.decode_jpeg(image_value, 1)img = tf.image.resize_images(img, (28, 28), method=0)pic2 = img.eval(session=sess)image_raw = pic2.tostring()example = tf.train.Example(features=tf.train.Features(feature={'height': _int64_feature(pic2.shape[0]),'width': _int64_feature(pic2.shape[1]),'depth': _int64_feature(pic2.shape[2]),'label': _int64_feature(int(fileSubDir)),'image_raw': _bytes_feature(image_raw)}))writer.write(example.SerializeToString())

但是实际跑起来后发现程序运行的很慢。
通过调查得知,tensorflow运行的时候不要创建任何新的计算节点。
这样每一次迭代都会在graph里增加新的节点,导致memory leak,程序越来越慢,最后强行退出。

因此我想通过opencv对图像进行简单的预处理。opencv的安装过程很艰辛,我尝试了各种网上的办法,最终才得以实现,以下是我的尝试:
①通过pycharm直接安装cv2及opencv-python
②通过opencv官网 https://www.opencv.org/releases.html 下载安装opencv
并将..\opencv\build\python\2.7\x64\cv2.pyd文件复制粘贴到python安装目录..Lib\site-packages下
③pip install opencv_python-3.4.0.12-cp36-none-win_amd64.whl
④安装VC++运行时环境,Visual C++ 2015 redistribution
⑤下载python-3.6.3-embed-amd64,并将python3.dll拷贝到python.exe目录下
⑥配置python环境变量
安装 opencv-contrib-python。
通过pip完成了安装!pip install opencv-contrib-python
import cv2
import os
import tensorflow as tfdef _int64_feature(value):return tf.train.Feature(int64_list=tf.train.Int64List(value=[value]))def _bytes_feature(value):return tf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))dir_path = "F:/byxStudy/img/mnist0-9/"
tfrecord_filename = 'F:\\byxStudy\\img\\mnist0_9_train.tfrecords'
dir_list = os.listdir(dir_path)
with tf.python_io.TFRecordWriter(tfrecord_filename) as writer:# 遍历子文件夹for sub_dir in dir_list:sub_dir_list = os.listdir(dir_path + sub_dir + "/")for filePath in sub_dir_list:# 单通道的方式读取图片# 中文目录无法加载图片img = cv2.imread(dir_path + sub_dir + '/' + filePath, 0)img = cv2.resize(img, (28, 28), interpolation=cv2.INTER_CUBIC)image_raw = img.tostring()example = tf.train.Example(features=tf.train.Features(feature={'height': _int64_feature(img.shape[0]),'width': _int64_feature(img.shape[1]),'depth': _int64_feature(1),'label': _int64_feature(int(sub_dir)),'image_raw': _bytes_feature(image_raw)}))writer.write(example.SerializeToString())

这篇关于②本地图片转TFRecord及opencv安装的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1121061

相关文章

Python中win32包的安装及常见用途介绍

《Python中win32包的安装及常见用途介绍》在Windows环境下,PythonWin32模块通常随Python安装包一起安装,:本文主要介绍Python中win32包的安装及常见用途的相关... 目录前言主要组件安装方法常见用途1. 操作Windows注册表2. 操作Windows服务3. 窗口操作

一文详解Git中分支本地和远程删除的方法

《一文详解Git中分支本地和远程删除的方法》在使用Git进行版本控制的过程中,我们会创建多个分支来进行不同功能的开发,这就容易涉及到如何正确地删除本地分支和远程分支,下面我们就来看看相关的实现方法吧... 目录技术背景实现步骤删除本地分支删除远程www.chinasem.cn分支同步删除信息到其他机器示例步骤

利用Python脚本实现批量将图片转换为WebP格式

《利用Python脚本实现批量将图片转换为WebP格式》Python语言的简洁语法和库支持使其成为图像处理的理想选择,本文将介绍如何利用Python实现批量将图片转换为WebP格式的脚本,WebP作为... 目录简介1. python在图像处理中的应用2. WebP格式的原理和优势2.1 WebP格式与传统

前端如何通过nginx访问本地端口

《前端如何通过nginx访问本地端口》:本文主要介绍前端如何通过nginx访问本地端口的问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、nginx安装1、下载(1)下载地址(2)系统选择(3)版本选择2、安装部署(1)解压(2)配置文件修改(3)启动(4)

Python如何将OpenCV摄像头视频流通过浏览器播放

《Python如何将OpenCV摄像头视频流通过浏览器播放》:本文主要介绍Python如何将OpenCV摄像头视频流通过浏览器播放的问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完... 目录方法1:使用Flask + MJPEG流实现代码使用方法优点缺点方法2:使用WebSocket传输视

基于 HTML5 Canvas 实现图片旋转与下载功能(完整代码展示)

《基于HTML5Canvas实现图片旋转与下载功能(完整代码展示)》本文将深入剖析一段基于HTML5Canvas的代码,该代码实现了图片的旋转(90度和180度)以及旋转后图片的下载... 目录一、引言二、html 结构分析三、css 样式分析四、JavaScript 功能实现一、引言在 Web 开发中,

Python如何去除图片干扰代码示例

《Python如何去除图片干扰代码示例》图片降噪是一个广泛应用于图像处理的技术,可以提高图像质量和相关应用的效果,:本文主要介绍Python如何去除图片干扰的相关资料,文中通过代码介绍的非常详细,... 目录一、噪声去除1. 高斯噪声(像素值正态分布扰动)2. 椒盐噪声(随机黑白像素点)3. 复杂噪声(如伪

Python中图片与PDF识别文本(OCR)的全面指南

《Python中图片与PDF识别文本(OCR)的全面指南》在数据爆炸时代,80%的企业数据以非结构化形式存在,其中PDF和图像是最主要的载体,本文将深入探索Python中OCR技术如何将这些数字纸张转... 目录一、OCR技术核心原理二、python图像识别四大工具库1. Pytesseract - 经典O

gitlab安装及邮箱配置和常用使用方式

《gitlab安装及邮箱配置和常用使用方式》:本文主要介绍gitlab安装及邮箱配置和常用使用方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1.安装GitLab2.配置GitLab邮件服务3.GitLab的账号注册邮箱验证及其分组4.gitlab分支和标签的

MySQL MCP 服务器安装配置最佳实践

《MySQLMCP服务器安装配置最佳实践》本文介绍MySQLMCP服务器的安装配置方法,本文结合实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下... 目录mysql MCP 服务器安装配置指南简介功能特点安装方法数据库配置使用MCP Inspector进行调试开发指