python 将 csv(中文) 导入mysql 数据库的简单代码

2024-05-07 16:08

本文主要是介绍python 将 csv(中文) 导入mysql 数据库的简单代码,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

昨天老师让我在服务器上尝试安装一下 PHP写的简单脚本:把csv导入 MySQL 数据库,链接如下:

http://hawkee.com/snippet/8320/

 使用php写的,源码我就不贴上来了,写的比较简单,先是读取了csv的第一行,根据这个创建了表格,然后再利用sql自带的语句 “load data infile....”将剩下的数据读入到这个表格中。但是刚好服务器的后台command line 执行的php没有安装好,放在browser上的话处理数据又不太适合,于是我就自己写了一个简单的Python的脚本。

首先csv读入mysql 可以使用sql语句直接读入 代码如下:

[sql] view plain copy
  1. LOAD DATA INFILE 'csv_file'  
  2. IGNORE INTO TABLE table_name  
  3. CHARACTER SET UTF8  
  4. FIELDS TERMINATED BY ';'  
  5. OPTIONALLY ENCLOSED BY '"'  
  6. LINES TERMINATED BY '\n'  


但是这样读入的前提是必须创建一个table之后才能导入到指定的table,下面就是用python先提取了首行(前提是首行就是table的fields),然后再利用上面的sql语句把剩下的导入:
[python] view plain copy
  1. #coding=utf-8  
  2. import csv  
  3. import sys  
  4. import codecs  
  5. import MySQLdb  
  6. reload(sys)  
  7. sys.setdefaultencoding('utf-8')  
  8.   
  9. csv_filename=sys.argv[1]  
  10. database=sys.argv[2]  
  11. table_name=sys.argv[3]  
  12.   
  13. file=codecs.open(csv_filename,'r','utf-8')  
  14. reader=file.readline()  
  15. b=reader.split(',')  
  16. colum=''  
  17. for a in b:  
  18.     colum=colum+a+' varchar(255),'  
  19. colum=colum[:-1]  
  20. create='create table if not exists '+table_name+' '+'('+colum+')'+' DEFAULT CHARSET=utf8'  
  21. data='LOAD DATA LOCAL INFILE \''+csv_filename+'\' INTO TABLE '+table_name +' character set utf8 FIELDS TERMINATED BY \',\' ENCLOSED BY \'\"\' LINES TERMINATED BY \''+r'\r\n'+'\' IGNORE 1 LINES;'  
  22. e=unicode(data,'utf8')  
  23.   
  24.   
  25. conn=MySQLdb.connect(  
  26.     host='localhost',  
  27.     port=3306,  
  28.     user='root',  
  29.     passwd='',  
  30.     db=database)  
  31. conn.set_character_set('utf8')  
  32. cursor=conn.cursor()  
  33. cursor.execute('SET NAMES utf8;')  
  34. cursor.execute('SET character_set_connection=utf8;')  
  35. cursor.execute(create)  
  36. cursor.execute(e)  
  37. cursor.rowcount  
  38.   
  39. conn.commit()  
  40. cursor.close()  
  41. print('OK')  


用法在命令行中: python csv_to_sql.py  csv_file  database_name table_name
第一个参数csv文件(可以不和python脚本放在一个位置,路径写对就可以,不过放在一起更方便)
第二个参数选择存放的数据库名
第三个需要存入的表格名字。(不需要再去单独建立表格)
直接在命令行运行,没有报error错误就可以(会报warnning没关系)

这里有一点要注意的是,从代码就可以看出,创建的table的字段都是定义好的了,都是varchar(255),如果需要修改的话,可以到数据库根据自己的需要修改相应的field的属性。

另外一点就是csv中文的问题了,我要导入就是至少几十M的中文数据,所以一开始也遇到了点麻烦(不过python对中文的支持也不是很好)。这里要先明白一个问题就是csv的文件是什么编码的,我的 csv是utf8编码的,如果不是utf8最好先转成utf8的编码格式。上面的代码是在Linux服务器下测试成功的,如果是windows的话,有问题也因该是编码的问题。

还有就是创建数据库的时候也一定要记得统一用utf8的格式

1、建立数据库连接后   

[python] view plain copy
  1. conn.set_character_set('utf8')  

2、建立数据库游标后:

[python] view plain copy
  1. cursor.execute('SET NAMES utf8;')  

SET NAMES 'utf8';  
它相当于下面的三句指令: 
SET character_set_client = utf8; 
SET character_set_results = utf8; 
SET character_set_connection = utf8;
 
3、创建表格的时候在表格后面加上:

[python] view plain copy
  1. DEFAULT CHARSET=utf8  

这样就没有问题,其实就是要保证在整个数据流动过程中的编码要一致就可以了

ps:python有 CSV模块可以而支持读写csv文件,不过由于我只是提取一行建立表格所以就这里就没有用,不过我也尝试了一下,csv模块,如果要读取csv内容的话可以用这个模块,但是这个模块只支持utf8格式的,其它的格式的需要转码一下,这个看官方文档就可以了。

这篇关于python 将 csv(中文) 导入mysql 数据库的简单代码的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/967824

相关文章

Python函数作用域示例详解

《Python函数作用域示例详解》本文介绍了Python中的LEGB作用域规则,详细解析了变量查找的四个层级,通过具体代码示例,展示了各层级的变量访问规则和特性,对python函数作用域相关知识感兴趣... 目录一、LEGB 规则二、作用域实例2.1 局部作用域(Local)2.2 闭包作用域(Enclos

Python实现对阿里云OSS对象存储的操作详解

《Python实现对阿里云OSS对象存储的操作详解》这篇文章主要为大家详细介绍了Python实现对阿里云OSS对象存储的操作相关知识,包括连接,上传,下载,列举等功能,感兴趣的小伙伴可以了解下... 目录一、直接使用代码二、详细使用1. 环境准备2. 初始化配置3. bucket配置创建4. 文件上传到os

MySQL查询JSON数组字段包含特定字符串的方法

《MySQL查询JSON数组字段包含特定字符串的方法》在MySQL数据库中,当某个字段存储的是JSON数组,需要查询数组中包含特定字符串的记录时传统的LIKE语句无法直接使用,下面小编就为大家介绍两种... 目录问题背景解决方案对比1. 精确匹配方案(推荐)2. 模糊匹配方案参数化查询示例使用场景建议性能优

使用Python实现可恢复式多线程下载器

《使用Python实现可恢复式多线程下载器》在数字时代,大文件下载已成为日常操作,本文将手把手教你用Python打造专业级下载器,实现断点续传,多线程加速,速度限制等功能,感兴趣的小伙伴可以了解下... 目录一、智能续传:从崩溃边缘抢救进度二、多线程加速:榨干网络带宽三、速度控制:做网络的好邻居四、终端交互

Python中注释使用方法举例详解

《Python中注释使用方法举例详解》在Python编程语言中注释是必不可少的一部分,它有助于提高代码的可读性和维护性,:本文主要介绍Python中注释使用方法的相关资料,需要的朋友可以参考下... 目录一、前言二、什么是注释?示例:三、单行注释语法:以 China编程# 开头,后面的内容为注释内容示例:示例:四

Python中win32包的安装及常见用途介绍

《Python中win32包的安装及常见用途介绍》在Windows环境下,PythonWin32模块通常随Python安装包一起安装,:本文主要介绍Python中win32包的安装及常见用途的相关... 目录前言主要组件安装方法常见用途1. 操作Windows注册表2. 操作Windows服务3. 窗口操作

mysql表操作与查询功能详解

《mysql表操作与查询功能详解》本文系统讲解MySQL表操作与查询,涵盖创建、修改、复制表语法,基本查询结构及WHERE、GROUPBY等子句,本文结合实例代码给大家介绍的非常详细,感兴趣的朋友跟随... 目录01.表的操作1.1表操作概览1.2创建表1.3修改表1.4复制表02.基本查询操作2.1 SE

MySQL中的锁机制详解之全局锁,表级锁,行级锁

《MySQL中的锁机制详解之全局锁,表级锁,行级锁》MySQL锁机制通过全局、表级、行级锁控制并发,保障数据一致性与隔离性,全局锁适用于全库备份,表级锁适合读多写少场景,行级锁(InnoDB)实现高并... 目录一、锁机制基础:从并发问题到锁分类1.1 并发访问的三大问题1.2 锁的核心作用1.3 锁粒度分

MySQL数据库中ENUM的用法是什么详解

《MySQL数据库中ENUM的用法是什么详解》ENUM是一个字符串对象,用于指定一组预定义的值,并可在创建表时使用,下面:本文主要介绍MySQL数据库中ENUM的用法是什么的相关资料,文中通过代码... 目录mysql 中 ENUM 的用法一、ENUM 的定义与语法二、ENUM 的特点三、ENUM 的用法1

Python中re模块结合正则表达式的实际应用案例

《Python中re模块结合正则表达式的实际应用案例》Python中的re模块是用于处理正则表达式的强大工具,正则表达式是一种用来匹配字符串的模式,它可以在文本中搜索和匹配特定的字符串模式,这篇文章主... 目录前言re模块常用函数一、查看文本中是否包含 A 或 B 字符串二、替换多个关键词为统一格式三、提