【Mysql数据库系列】Mysql将CSV格式文件内数据导入数据库,奇思妙想,出奇制胜

本文主要是介绍【Mysql数据库系列】Mysql将CSV格式文件内数据导入数据库,奇思妙想,出奇制胜,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

热门系列:


目录

1、前言

2、正题

2.1 使用命令将CSV文件导入数据库

2.2 遇到的问题

2.2.1 问题一:乱码

2.2.2 问题二:导入时因数据特殊值原因报错

2.3 换个姿势导入数据库

3、总结


1、前言

前段时间,因需求需要,从外部得到一份CSV格式的股票信息文件,需要导入到内部数据库。在定义好格式和数据表之后,便开整了。

一开始心想,通过数据库可视化界面(我用的是dbeaver,挺好用,推荐大家试试),一键梭哈,完事~~~!但是,转念一想,上线时候咋整,还不是得命令操作!所以,还是老实用命令处理吧!


2、正题

2.1 使用命令将CSV文件导入数据库

这里你说明一点,数据库表和导入文件的字段,需要对应上,否则导入数据可能会错乱!!!

以下是导入命令:

LOAD DATA INFILE 'D:\Java\\WorkFile\\prodFile\\source.csv' INTO TABLE table_name
CHARACTER SET utf8 
fields terminated by "," enclosed by ""
LINES TERMINATED BY '\r\n'
IGNORE 1 LINES
(column1,column2,column3,column4,column5);

命令注释:

  • table_name:是被导入的数据库表名
  • column:字段名
  • CHARACTER SET utf8: 是设置导入的数据字符按utf8格式(否则可能出现乱码)
  • FIELDS TERMINATED BY ',':指定字段分隔符
  • OPTIONALLY ENCLOSED BY '"':认为双引号中的是一个独立的字段。Excel 转 CSV 时,有特殊字符(逗号、顿号等)的字段,会自动用双引号引起来
  • LINES TERMINATED BY '\n':指定行分隔符,注意,在 Windows 平台上创建的文件,分隔符是 '\r\n'

顺带说下连接数据库的命令吧,如下:

我是win10环境,先进入自己本地mysql的安装路径下,进入bin目录,在地址栏输入cmd,打开命令终端,如下:

然后输入一下命令:

mysql -h ip地址 -u mysql账号名 -p 

然后输入密码,即可登录连接上自己的数据库了~~~~!如此选择指定数据库后,就可以输入上述命令进行导入了~~

不出意外的话,就可以顺利导入啦。。。

 

2.2 遇到的问题

2.2.1 问题一:乱码

但是,天将降大任于斯人也,必先劳其筋骨,饿其体肤。。。。。所以,我导入失败了~~~ 乱码了,我丢!!!!

尝试了很多办法,不得其解。后来没办法,我想换一种方式解决~

就是用自己本地的数据库,使用dbeaver界面导入功能先把数据导入,然后再导出sql脚本。。后续上线或是其他环境的数据库,直接使用sql脚本,就应该没问题了。。。

2.2.2 问题二:导入时因数据特殊值原因报错

现在使用dbeaver导入功能导入:

然鹅,,,另一个问题出现了。。TMD导入时,因为不明数据,导致导入报错。并且通过CSV文件,我筛查了很久·,去掉了所有标点符号,奇异字符。也是不行~~~

看了dbeaver的报错日志:但是显示的列是按十六进制显示的,并且显示不全。。。就很蛋疼~~~~

头皮发麻_头皮发麻表情

 

2.3 换个姿势导入数据库

没办法,终极大招 ~~~,上才艺!

后来痛定思痛,我们的目标是将数据导入进去,什么方式,不重要!所以,我们不能局限在传统的导入方式上,换个姿势,我们是否可以把CSV内的数据,手动格式化成SQL脚本呢。这样不就可以导入了吗?

于是,抠出CSV内的数据,放在文本中,使用CTRL+H,然后使用替换大法哈哈,这样sql脚本就成啦~~

剩下导入的过程,我就不再赘述啦。。。大功告成!!!


3、总结

我觉得开发过程中,想法很重要!!!别人都说程序员,思想容易固化,所以:

1、解决问题的过程中,多想几种解决方式,不要执着于一种方式

2、思考问题的时候,尽量全局性去想,不要顾头不顾尾

最后,有感兴趣的朋友,欢迎在下方留言讨论,点赞关注哈~~~~~

这篇关于【Mysql数据库系列】Mysql将CSV格式文件内数据导入数据库,奇思妙想,出奇制胜的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/272673

相关文章

详解MySQL中DISTINCT去重的核心注意事项

《详解MySQL中DISTINCT去重的核心注意事项》为了实现查询不重复的数据,MySQL提供了DISTINCT关键字,它的主要作用就是对数据表中一个或多个字段重复的数据进行过滤,只返回其中的一条数据... 目录DISTINCT 六大注意事项1. 作用范围:所有 SELECT 字段2. NULL 值的特殊处

PostgreSQL数据库密码被遗忘时的操作步骤

《PostgreSQL数据库密码被遗忘时的操作步骤》密码遗忘是常见的用户问题,因此提供一种安全的遗忘密码找回机制是十分必要的,:本文主要介绍PostgreSQL数据库密码被遗忘时的操作步骤的相关资... 目录前言一、背景知识二、Windows环境下的解决步骤1. 找到PostgreSQL安装目录2. 修改p

MySQL 用户创建与授权最佳实践

《MySQL用户创建与授权最佳实践》在MySQL中,用户管理和权限控制是数据库安全的重要组成部分,下面详细介绍如何在MySQL中创建用户并授予适当的权限,感兴趣的朋友跟随小编一起看看吧... 目录mysql 用户创建与授权详解一、MySQL用户管理基础1. 用户账户组成2. 查看现有用户二、创建用户1. 基

MySQL 打开binlog日志的方法及注意事项

《MySQL打开binlog日志的方法及注意事项》本文给大家介绍MySQL打开binlog日志的方法及注意事项,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要... 目录一、默认状态二、如何检查 binlog 状态三、如何开启 binlog3.1 临时开启(重启后失效)

SQL BETWEEN 语句的基本用法详解

《SQLBETWEEN语句的基本用法详解》SQLBETWEEN语句是一个用于在SQL查询中指定查询条件的重要工具,它允许用户指定一个范围,用于筛选符合特定条件的记录,本文将详细介绍BETWEEN语... 目录概述BETWEEN 语句的基本用法BETWEEN 语句的示例示例 1:查询年龄在 20 到 30 岁

MySQL DQL从入门到精通

《MySQLDQL从入门到精通》通过DQL,我们可以从数据库中检索出所需的数据,进行各种复杂的数据分析和处理,本文将深入探讨MySQLDQL的各个方面,帮助你全面掌握这一重要技能,感兴趣的朋友跟随小... 目录一、DQL 基础:SELECT 语句入门二、数据过滤:WHERE 子句的使用三、结果排序:ORDE

MySQL MCP 服务器安装配置最佳实践

《MySQLMCP服务器安装配置最佳实践》本文介绍MySQLMCP服务器的安装配置方法,本文结合实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下... 目录mysql MCP 服务器安装配置指南简介功能特点安装方法数据库配置使用MCP Inspector进行调试开发指

mysql中insert into的基本用法和一些示例

《mysql中insertinto的基本用法和一些示例》INSERTINTO用于向MySQL表插入新行,支持单行/多行及部分列插入,下面给大家介绍mysql中insertinto的基本用法和一些示例... 目录基本语法插入单行数据插入多行数据插入部分列的数据插入默认值注意事项在mysql中,INSERT I

一文详解MySQL如何设置自动备份任务

《一文详解MySQL如何设置自动备份任务》设置自动备份任务可以确保你的数据库定期备份,防止数据丢失,下面我们就来详细介绍一下如何使用Bash脚本和Cron任务在Linux系统上设置MySQL数据库的自... 目录1. 编写备份脚本1.1 创建并编辑备份脚本1.2 给予脚本执行权限2. 设置 Cron 任务2

SQL Server修改数据库名及物理数据文件名操作步骤

《SQLServer修改数据库名及物理数据文件名操作步骤》在SQLServer中重命名数据库是一个常见的操作,但需要确保用户具有足够的权限来执行此操作,:本文主要介绍SQLServer修改数据... 目录一、背景介绍二、操作步骤2.1 设置为单用户模式(断开连接)2.2 修改数据库名称2.3 查找逻辑文件名