Python中Excel文件的批量合并和拆分

2024-09-01 07:44

本文主要是介绍Python中Excel文件的批量合并和拆分,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Python中Excel文件的批量合并和拆分

在Python中处理Excel文件的批量合并和拆分任务,通常涉及使用pandasopenpyxlpathlib等库。以下是详细的说明,包括如何安装这些库,主要功能,API的具体用法,以及高级用法和示例。

1. 库概述

1.1 pandas

  • 主要功能:数据处理和分析,支持读取、合并、拆分Excel文件。
  • 适用场景:数据分析、批量处理、文件合并和拆分。

1.2 openpyxl

  • 主要功能:处理.xlsx文件,支持读取、修改、格式化和写入。
  • 适用场景:对Excel文件进行高级操作,如格式化和复杂的写入操作。

1.3 pathlib

  • 主要功能:操作文件系统路径,提供更高级的路径操作功能。
  • 适用场景:处理文件路径、批量文件操作。

2. 库的安装

安装pandasopenpyxl

pip install pandas openpyxl

pathlib是Python标准库的一部分,不需要额外安装。

3. pathlib库详解

pathlib提供了面向对象的文件和路径操作功能。以下是主要类及其使用方法。

3.1 Path

Path类是pathlib的核心类,表示文件系统中的路径。

3.1.1 构造函数
from pathlib import Path# 创建路径对象
p = Path('data')
3.1.2 常用方法
  • resolve():返回路径的绝对路径。

    abs_path = p.resolve()
    print(abs_path)
    
  • exists():检查路径是否存在。

    exists = p.exists()
    print(exists)
    
  • is_file():检查路径是否为文件。

    is_file = p.is_file()
    print(is_file)
    
  • is_dir():检查路径是否为目录。

    is_dir = p.is_dir()
    print(is_dir)
    
  • mkdir(parents=False, exist_ok=False):创建目录。

    p.mkdir(parents=True, exist_ok=True)  # 创建目录及其父目录
    
  • rmdir():删除目录(目录必须为空)。

    p.rmdir()  # 删除目录
    
  • glob(pattern):按模式匹配路径。

    for file in p.glob('*.xlsx'):print(file)
    
  • match(pattern):检查路径是否符合模式。

    if p.match('*.xlsx'):print("This is an Excel file")
    
  • iterdir():列出目录中的所有文件和子目录。

    for item in p.iterdir():print(item)
    
  • joinpath(*args):拼接路径。

    new_path = p.joinpath('subdir', 'file.xlsx')
    print(new_path)
    

3.2 PurePath

PurePath类提供了路径操作功能,但不涉及实际的文件系统操作。它是一个抽象类,不能直接用于文件操作。PurePath用于在不访问文件系统的情况下处理路径字符串。

3.2.1 主要子类
  • PurePath:基本的纯路径操作类。
  • PurePosixPath:POSIX系统(如Linux和macOS)的路径操作类。
  • PureWindowsPath:Windows系统的路径操作类。
3.2.2 示例
from pathlib import PurePath# 创建PurePath对象
p = PurePath('data', 'file.xlsx')print(p.parts)   # ('data', 'file.xlsx')
print(p.name)    # 'file.xlsx'
print(p.suffix)  # '.xlsx'

3.3 PathPurePath的区别和联系

  • Path:用于实际的文件系统操作,支持文件和目录的创建、删除、移动、查找等操作。Path类在POSIX和Windows系统中有不同的实现,分别是PosixPathWindowsPath

  • PurePath:仅用于路径的字符串操作,不涉及实际的文件系统操作。它提供了一些基本的路径操作功能,如拼接路径、分离路径组件等。PurePath的子类PurePosixPathPureWindowsPath分别用于POSIX和Windows系统的路径字符串操作。

示例对比

from pathlib import Path, PurePath# Path示例
p1 = Path('data', 'file.xlsx')
print(p1.resolve())   # 获取绝对路径
print(p1.exists())    # 检查路径是否存在# PurePath示例
p2 = PurePath('data', 'file.xlsx')
print(p2.parts)       # ('data', 'file.xlsx')
print(p2.name)        # 'file.xlsx'

4. 批量合并Excel文件

4.1 使用pandas批量合并Excel文件

示例

假设有多个Excel文件:file1.xlsxfile2.xlsxfile3.xlsx,每个文件都包含相同结构的数据,我们要将它们合并为一个文件。

import pandas as pd
from pathlib import Path# 获取所有Excel文件的路径
file_paths = Path('data').glob('*.xlsx')# 读取并合并所有Excel文件
data_frames = [pd.read_excel(file, engine='openpyxl') for file in file_paths]
combined_df = pd.concat(data_frames, ignore_index=True)# 保存合并后的DataFrame到一个新的Excel文件
combined_df.to_excel('combined.xlsx', index=False)

4.2 使用openpyxl进行合并

示例

如果需要对合并过程中的格式进行控制,可以使用openpyxl

from openpyxl import Workbook
from openpyxl.utils.dataframe import dataframe_to_rows
from pathlib import Path
import pandas as pd# 创建一个新的工作簿
wb = Workbook()
ws = wb.active
ws.title = "Combined Data"# 获取所有Excel文件的路径
file_paths = Path('data').glob('*.xlsx')# 读取并合并所有Excel文件
for file in file_paths:df = pd.read_excel(file, engine='openpyxl')# 将DataFrame中的数据添加到工作表中for row in dataframe_to_rows(df, index=False, header=True):ws.append(row)# 保存合并后的工作簿
wb.save('combined_openpyxl.xlsx')

5. 批量拆分Excel文件

5.1 使用pandas批量拆分Excel文件

示例

将一个大Excel文件large_file.xlsx拆分为每个包含200行数据的小文件。

import pandas as pd# 读取大Excel文件
df = pd.read_excel('large_file.xlsx', engine='openpyxl')# 拆分数据
chunk_size = 200
num_chunks = (len(df) + chunk_size - 1) // chunk_sizefor i in range(num_chunks):start_row = i * chunk_sizeend_row = min((i + 1) * chunk_size, len(df))chunk_df = df.iloc[start_row:end_row]# 保存拆分后的DataFrame到新的Excel文件chunk_df.to_excel(f'chunk_{i + 1}.xlsx', index=False)

5.2 使用openpyxl进行拆分

示例

对拆分后的文件进行格式化,如设置标题行的字体为加粗,并保存每个拆分后的文件。

from openpyxl import Workbook
from openpyxl.utils.dataframe import dataframe_to_rows
from openpyxl.styles import Font
import pandas as pd# 读取大Excel文件
df = pd.read_excel('large_file.xlsx', engine='openpyxl')# 拆分数据
chunk_size = 200
num_chunks = (len(df) + chunk_size - 1) // chunk_sizefor i in range(num_chunks):start_row = i * chunk_sizeend_row = min((i + 1) * chunk_size, len(df))chunk_df = df.iloc[start_row:end_row]# 创建一个新的工作簿wb = Workbook()ws = wb.activews.title = "Data"# 添加数据到工作表for row in dataframe_to_rows(chunk_df, index=False, header=True):ws.append(row)# 设置标题行的字体为加粗for cell in ws[1]:cell.font= Font(bold=True)# 保存拆分后的工作簿wb.save(f'chunk_{i + 1}_openpyxl.xlsx')

6. 数据清理和统计计算

6.1 数据清理

在写入Excel文件前进行数据清理,确保数据质量。

示例
import pandas as pd# 读取数据
df = pd.read_excel('data.xlsx', engine='openpyxl')# 过滤掉不符合条件的数据
df = df[df['Column'] > 0]# 保存清理后的DataFrame
df.to_excel('cleaned_data.xlsx', index=False)

6.2 统计计算

在处理数据时,有时需要进行统计计算,如求和、平均值等。

示例
import pandas as pd# 读取数据
df = pd.read_excel('data.xlsx', engine='openpyxl')# 计算列的总和
total_sum = df['Column'].sum()
print(f"Total Sum: {total_sum}")# 计算列的平均值
average_value = df['Column'].mean()
print(f"Average Value: {average_value}")# 计算列的最大值和最小值
max_value = df['Column'].max()
min_value = df['Column'].min()
print(f"Max Value: {max_value}")
print(f"Min Value: {min_value}")

这些示例展示了如何使用pathlibpandasopenpyxl来处理Excel文件的批量合并和拆分任务,提供了清晰的步骤和代码示例。希望这些信息对你有帮助!

这篇关于Python中Excel文件的批量合并和拆分的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1126343

相关文章

使用Python和OpenCV库实现实时颜色识别系统

《使用Python和OpenCV库实现实时颜色识别系统》:本文主要介绍使用Python和OpenCV库实现的实时颜色识别系统,这个系统能够通过摄像头捕捉视频流,并在视频中指定区域内识别主要颜色(红... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间详解

一文深入详解Python的secrets模块

《一文深入详解Python的secrets模块》在构建涉及用户身份认证、权限管理、加密通信等系统时,开发者最不能忽视的一个问题就是“安全性”,Python在3.6版本中引入了专门面向安全用途的secr... 目录引言一、背景与动机:为什么需要 secrets 模块?二、secrets 模块的核心功能1. 基

python常见环境管理工具超全解析

《python常见环境管理工具超全解析》在Python开发中,管理多个项目及其依赖项通常是一个挑战,下面:本文主要介绍python常见环境管理工具的相关资料,文中通过代码介绍的非常详细,需要的朋友... 目录1. conda2. pip3. uvuv 工具自动创建和管理环境的特点4. setup.py5.

Python常用命令提示符使用方法详解

《Python常用命令提示符使用方法详解》在学习python的过程中,我们需要用到命令提示符(CMD)进行环境的配置,:本文主要介绍Python常用命令提示符使用方法的相关资料,文中通过代码介绍的... 目录一、python环境基础命令【Windows】1、检查Python是否安装2、 查看Python的安

Python UV安装、升级、卸载详细步骤记录

《PythonUV安装、升级、卸载详细步骤记录》:本文主要介绍PythonUV安装、升级、卸载的详细步骤,uv是Astral推出的下一代Python包与项目管理器,主打单一可执行文件、极致性能... 目录安装检查升级设置自动补全卸载UV 命令总结 官方文档详见:https://docs.astral.sh/

Python并行处理实战之如何使用ProcessPoolExecutor加速计算

《Python并行处理实战之如何使用ProcessPoolExecutor加速计算》Python提供了多种并行处理的方式,其中concurrent.futures模块的ProcessPoolExecu... 目录简介完整代码示例代码解释1. 导入必要的模块2. 定义处理函数3. 主函数4. 生成数字列表5.

Python中help()和dir()函数的使用

《Python中help()和dir()函数的使用》我们经常需要查看某个对象(如模块、类、函数等)的属性和方法,Python提供了两个内置函数help()和dir(),它们可以帮助我们快速了解代... 目录1. 引言2. help() 函数2.1 作用2.2 使用方法2.3 示例(1) 查看内置函数的帮助(

Python虚拟环境与Conda使用指南分享

《Python虚拟环境与Conda使用指南分享》:本文主要介绍Python虚拟环境与Conda使用指南,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、python 虚拟环境概述1.1 什么是虚拟环境1.2 为什么需要虚拟环境二、Python 内置的虚拟环境工具

Python实例题之pygame开发打飞机游戏实例代码

《Python实例题之pygame开发打飞机游戏实例代码》对于python的学习者,能够写出一个飞机大战的程序代码,是不是感觉到非常的开心,:本文主要介绍Python实例题之pygame开发打飞机... 目录题目pygame-aircraft-game使用 Pygame 开发的打飞机游戏脚本代码解释初始化部

Python pip下载包及所有依赖到指定文件夹的步骤说明

《Pythonpip下载包及所有依赖到指定文件夹的步骤说明》为了方便开发和部署,我们常常需要将Python项目所依赖的第三方包导出到本地文件夹中,:本文主要介绍Pythonpip下载包及所有依... 目录步骤说明命令格式示例参数说明离线安装方法注意事项总结要使用pip下载包及其所有依赖到指定文件夹,请按照以