使用Python处理CSV和Excel文件的操作方法

2025-01-18 04:50
文章标签 python excel 使用 处理 csv 操作方法

本文主要是介绍使用Python处理CSV和Excel文件的操作方法，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

《使用Python处理CSV和Excel文件的操作方法》在数据分析、自动化和日常开发中,CSV和Excel文件是非常常见的数据存储格式,ython提供了强大的工具来读取、编辑和保存这两种文件,满足从基...

1. CSV 文件概述和处理方法

1.1 CSV 文件格式的基本介绍

CSV（Comma-Separated Values，逗号分隔值）文件是一种简单的文本文件格式，用于存储表格数据，其中每一行代表一条记录，行中的每个字段通过逗号分隔。CSV 文件通常用于数据交换和存储。它的优点是简单、轻量、易于读取和写入，缺点是无法存储复杂的格式和公式。

例如，一个典型的 CSV 文件内容如下：

Name,Age,Gender
Alice,25,Female
Bob,30,Male
Charlie,35,Male

1.2 使用 Python 内置 csv 模块处理 CSV 文件

Python 提供了内置的 csv 模块，用于读取和写入 CSV 文件。它提供了简单的接口，可以直接与文件进行交互。

读取 CSV 文件

import csv
 
# 打开 CSV 文件
with open('example.csv', mode='r') as file:
    reader = csv.reader(file)
    for row in reader:
        print(row)

 写入 CSV 文件

import csv
 
# 数据准备
data = [['Name', 'Age', 'Gender'], ['Alice', android25, 'Female'], ['Bob', 30, 'Male']]
 
# 写入 CSV 文件
with open('output.csv', mode='w', newline='') as file:
    writer = csv.writer(fileandroid)
    writer.writerows(data)

使用 DictReader 和 DictWriter

对于键值对的操作，可以使用 DictReader 和 DictWriter，它们允许以字典的形式读取和写入数据。

import csv
 
# 读取 CSV 文件为字典
with open('example.csv', mode='r') as file:
    reader = csv.DictReader(file)
    for row in reader:
        print(row)
 
# 写入 CSV 文件为字典
data = [{'Name': 'Alice', 'Age': 25, 'Gender': 'Female'}, {'Name': 'Bob', 'Age': 30, 'Gender': 'Male'}]
with open('output.csv', mode='w', newline='') as file:
    fieldnames = ['Name', 'Age', 'Gender']
    writer = csv.DictWriter(file, fieldnames=fieldnames)
    writer.writeheader()
    writer.writerows(data)

1.3 使用 pandas 处理 CSV 文件

pandas 是一个强大的数据分析库，提供了更高javascript级和方便的 CSV 文件处理功能。它使用 read_csv 和 to_csv 方法，可以直接将 CSV 文件读取为 DataFrame 数据结构，并支持复杂的数据操作。

读取 CSV 文件

import pandas as pd
 
# 读取 CSV 文件为 DataFrame
df = pd.read_csv('example.csv')
print(df)

写入 CSV 文件

import pandas as pd
 
# 数据准备
data = {'Name': ['Alice', 'Bob'], 'Age': [25, 30], 'Gender': ['Female', 'Male']}
df = pd.DataFrame(data)
 
# 写入 CSV 文件
df.to_csv('output.csv', index=False)

数据过滤和操作

# 过滤年龄大于 30 的行
filtered_df = df[df['Age'] > 30]
print(filtered_df)
 
# 添加新列
df['Country'] = ['USA', 'UK']
print(df)

2. Excel 文件概述和处理方法

2.1 Excel 文件格式的基本介绍

Excel 文件是一种用于电子表格的文件格式，支持表格数据、公式、图表和其他格式化内容。Excel 文件有两种常见的格式：

  • .xls：Excel 97-2003 的文件格式，基于二进制格式。
  • .xlsx：Excel 2007 及以后的版本使用的 XML 基础格式，支持更多功能。

2.2 使用 openpyxl 处理 Excel 文件

openpyxl 是 Python 用于读取和写入 Excel .xlsx 文件的第三方库。

读取 Excel 文件

from openpyxl impojavascriptrt load_workbook
 
# 加载 Excel 文件
wb = load_workbook('example.xlsx')
sheet = wb.active
 
# 读取单元格数据
for row in sheet.iter_rows(values_only=True):
    print(row)

写入 Excel 文件

from openpyxl import Workbook
 
# 创建一个新的 Excel 文件
wb = Workbook()
sheet = wb.active
 
# 写入数据
sheet['A1'] = 'Name'
sheet['A2'] = 'Alice'
sheet['B1'] = 'Age'
sheet['B2'] = 25
 
# 保存 Excel 文件
wb.save('output.xlsx')

设置单元格样式

from openpyxl.styles import Font, Color, Alignment
 
# 设置字体和对齐
sheet['A1'].font = Font(bold=True, color="FF0000")
sheet['A1'].alignment = Alignment(horizontal="center")
 
wb.save('styled_output.xlsx')

2.3 使用 xlrd 和 xlwt 处理 Excel 文件

xlrd 用于读取 .xls 文件，而 xlwt 用于写入 .xls 文件。

读取 Excel 文件（xlrd）

import xlrd
 
# 打开 Excel 文件
workbook = xlrd.open_workbook('example.xls')
sheet = workbook.sheet_by_index(0)
 
# 读取数据
for row in range(sheet.nrows):
    print(sheet.row_values(row))

写入 Excel 文件（xlwt）

import xlwt
 
# 创建 Excel 文件
workbook = xlwt.Workbook()
sheet = workbook.add_sheet('Sheet1')
 
# 写入数据
sheet.write(0, 0, 'Name')
sheet.write(0, 1, 'Age')
sheet.write(1, 0, 'Alice')
sheet.write(1, 1, 25)
 
# 保存 Excel 文件
workbook.save('output.xls')

2.4 使用 pandas 处理 Excel 文件

pandas 同样提供了强大的 Excel 文件处理功能，通过 read_excel 和 to_excel 方法，可以方便地读取和写入 Excel 文件。

读取 Excel 文件

import pandas as pd
 
# 读取 Excel 文件为 DataFrame
df = pd.read_excel('example.xlsx')
print(df)

写入 Excel 文件

import pandas as pd
 
# 数据准备
data = {'Name': ['Alice', 'Bob'], 'Age': [25, 30], 'Gender': ['Female', 'Male']}
df = pd.DataFrame(data)
 
# 写入 Excel 文件
df.to_excel('output.xlsx', index=False)

3. CSV 与 Excel 文件的比较与选择

3.1 CSV 与 Excel 的异同

  • CSV 文件：简单的文本文件，易于存储和传输，但无法保存复杂的格式、公式和图表。适用于存储纯数据。
  • Excel 文件：支持丰富的格式、公式、图表等功能。适用于需要复杂格式和计算的场景。

3.2 选择合适的文件格式

  • 数据量较小且不需要复杂格式：选择 CSV 格式。
  • 需要支持公式、图表或复杂格式：选择 Excel 格式。

3.3 优化大数据量文件的读取与写入

  • 使用 pandas 的 chunksize 参数分批读取大文件。
  • 使用 openpyxl 时，避免一次性加载整个工作簿，分批加载和保存数据。

4. 性能优化和进阶技巧

4.1 使用 pandas 优化大文件的读取与处理

对于大数据量的文件，pandas 提供了 chunksize 参数，允许按块读取 CSV 或 Excel 文件，从而避免一次性将所有数据加载到内存中。

import pandas as pd
 
chunk_size = 10000
chunks = pd.read_csv('large_file.csv', chunksize=chunk_size)
for chunk in chunks:
    # 处理每一块数据
    print(chunk.head())

4.2 异常数据的清洗与处理

处理 CSV 或 Excel 文件时，常常会遇到缺失值、重复数据等问题。使用 pandas 可以方便地进行数据清洗：

# 去除缺失值
df.dropna(inplace=True)
 
# 填充缺失值
df.fillna(0, inplace=True)
 
# 去除重复数据
df.drop_duplicates(inplace=True)

4.3 批量处理 CSV 和 Excel 文件

对于多个文件的处理，可以使用 os 模块遍历文件夹，批量读取和写入文件。

import os
import pandas as pd
 
for file in os.listdir('csv_files'):
    if file.endswith('.csv'):
        df = pd.read_csv(f'csv_files/{file}')
        # 处理文件
        df.to_csv(f'processed_{file}', index=False)

5. 常见问题与错误处理

5.1 处理文件编码问题

在处理 CSV 文件时，可能会遇到编码问题。可以使用 encoding 参数指定文件的编码格式。

df = pd.read_csv('file.csv', encoding='utf-8')

5.2 数据缺失值的处理

缺失值处理是数据分析中的常见问题，可以通过 pandas 提供的 dropna、fillna 方法进行处理。

5.3 Excel 文件读写中的常见错误

在使用 openpyxl 或 pandas 处理 Excel 文件时，常见的错误包括文件格式不兼容android、文件损坏等。需要确保文件路径正确，并使用适当的库来处理文件格式。

到此这篇关于使用Python处理CSV和Excel文件的操作方法的文章就介绍到这了,更多相关Python处理CSV和Excel内容请搜索China编程(www.chinasem.cn)以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程China编程(www.chinasem.cn)！

这篇关于使用Python处理CSV和Excel文件的操作方法的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/1153111。

相关文章

SpringBoot分段处理List集合多线程批量插入数据方式

SpringBoot分段处理List集合多线程批量插入数据方式

《SpringBoot分段处理List集合多线程批量插入数据方式》文章介绍如何处理大数据量List批量插入数据库的优化方案：通过拆分List并分配独立线程处理,结合Spring线程池与异步方法提升效率... 目录项目场景解决方案1.实体类2.Mapper3.spring容器注入线程池bejsan对象4.创建
阅读更多...
PHP轻松处理千万行数据的方法详解

PHP轻松处理千万行数据的方法详解

《PHP轻松处理千万行数据的方法详解》说到处理大数据集,PHP通常不是第一个想到的语言,但如果你曾经需要处理数百万行数据而不让服务器崩溃或内存耗尽,你就会知道PHP用对了工具有多强大,下面小编就... 目录问题的本质php 中的数据流处理：为什么必不可少生成器：内存高效的迭代方式流量控制：避免系统过载一次性
阅读更多...
Python的Darts库实现时间序列预测

Python的Darts库实现时间序列预测

《Python的Darts库实现时间序列预测》Darts一个集统计、机器学习与深度学习模型于一体的Python时间序列预测库,本文主要介绍了Python的Darts库实现时间序列预测,感兴趣的可以了解... 目录目录一、什么是 Darts？二、安装与基本配置安装 Darts导入基础模块三、时间序列数据结构与
阅读更多...
Python正则表达式匹配和替换的操作指南

Python正则表达式匹配和替换的操作指南

《Python正则表达式匹配和替换的操作指南》正则表达式是处理文本的强大工具,Python通过re模块提供了完整的正则表达式功能,本文将通过代码示例详细介绍Python中的正则匹配和替换操作,需要的朋... 目录基础语法导入re模块基本元字符常用匹配方法1. re.match() - 从字符串开头匹配2.
阅读更多...
Python使用FastAPI实现大文件分片上传与断点续传功能

Python使用FastAPI实现大文件分片上传与断点续传功能

《Python使用FastAPI实现大文件分片上传与断点续传功能》大文件直传常遇到超时、网络抖动失败、失败后只能重传的问题,分片上传+断点续传可以把大文件拆成若干小块逐个上传,并在中断后从已完成分片继... 目录一、接口设计二、服务端实现（FastAPI）2.1 运行环境2.2 目录结构建议2.3 serv
阅读更多...
通过Docker容器部署Python环境的全流程

通过Docker容器部署Python环境的全流程

《通过Docker容器部署Python环境的全流程》在现代化开发流程中,Docker因其轻量化、环境隔离和跨平台一致性的特性,已成为部署Python应用的标准工具,本文将详细演示如何通过Docker容... 目录引言一、docker与python的协同优势二、核心步骤详解三、进阶配置技巧四、生产环境最佳实践
阅读更多...
Python一次性将指定版本所有包上传PyPI镜像解决方案

Python一次性将指定版本所有包上传PyPI镜像解决方案

《Python一次性将指定版本所有包上传PyPI镜像解决方案》本文主要介绍了一个安全、完整、可离线部署的解决方案,用于一次性准备指定Python版本的所有包,然后导出到内网环境,感兴趣的小伙伴可以跟随... 目录为什么需要这个方案完整解决方案1. 项目目录结构2. 创建智能下载脚本3. 创建包清单生成脚本4
阅读更多...
Spring Security简介、使用与最佳实践

Spring Security简介、使用与最佳实践

《SpringSecurity简介、使用与最佳实践》SpringSecurity是一个能够为基于Spring的企业应用系统提供声明式的安全访问控制解决方案的安全框架,本文给大家介绍SpringSec... 目录一、如何理解 Spring Security？—— 核心思想二、如何在 Java 项目中使用？——
阅读更多...
springboot中使用okhttp3的小结

springboot中使用okhttp3的小结

《springboot中使用okhttp3的小结》OkHttp3是一个JavaHTTP客户端,可以处理各种请求类型,比如GET、POST、PUT等,并且支持高效的HTTP连接池、请求和响应缓存、以及异... 在 Spring Boot 项目中使用 OkHttp3 进行 HTTP 请求是一个高效且流行的方式。
阅读更多...
Python实现Excel批量样式修改器(附完整代码)

Python实现Excel批量样式修改器(附完整代码)

《Python实现Excel批量样式修改器(附完整代码)》这篇文章主要为大家详细介绍了如何使用Python实现一个Excel批量样式修改器,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一... 目录前言功能特性核心功能界面特性系统要求安装说明使用指南基本操作流程高级功能技术实现核心技术栈关键函
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2