图书管理 python excel_Python处理Excel数据的坑,一文让你不用重复犯错

2023-10-19 19:10

本文主要是介绍图书管理 python excel_Python处理Excel数据的坑,一文让你不用重复犯错,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

968595f9-ff1b-4e7b-ad64-67ace6d9c3ae

前言

本号之前已经分享过关于如何使用 Python 中的数据处理分析包 pandas 处理 Excel 的数据,本文继续分享一个小案例,此案例源于上周末帮朋友做的一个需求,并且是以 vba 编写解决,后来我用 Python 再解决一次,通过本文作简单分享。

数据与需求

此案例的数据如下:

9a5e9edd6fd141d5b7b064ac61a75491

每个开单人员的销售记录

描述为:销售员"张三"(开单部门),把xxx货品(货品编码、货品名字)售出了5件(数量),此笔订单总价为2000元(价税合计)

上述的括号部分就是表中的列标题

数据行中,有许多无效的行,只要 开单部门 列有名字,就是有效的行

此案例的数据对所有敏感数据进行随机生成替换

需求结果如下图:

889bafc38f9c43d19f24734d2ea25120

按 销售员、货品编码,汇总 货品数量和价税合计

每个销售员单独生成一个表输出

最后再输出一个所有货品的汇总表

vba 的方案简短分析

本文的核心不是 vba ,因此这里只做简单的讲解,如果你是 vba 用户,可以获取源码查看。

vba 的解决方案尽可能采用了面向对象的方式进行,下图为主要结构:

0c2bdc37056846f69ab717d468e44e55

m_main 模块包含整个主流程逻辑,入口方法 main

类模块 D_ArrayVar 与 D_GVar ,是为了做到 数据源的列位置变化,也不需要修改程序

D_Person 与 D_Sku ,分别表示销售员与货品,里面有关键的累计逻辑

模块 Msys_Function 与类模块 C_GetFile ,是很久以前写的帮助类

如果你是 vba 的高级用户,可能会觉得直接使用 字典+数组 的方式即可完成,但注意,直接 字典+数组 方式会导致代码难以维护

eba6b388-064f-409f-a27d-876174193dfd

Python 的方案

上面说的 vba 方案,我大概花费了接近1小时的时间(vba 中编写类模块太繁琐了),期间有一个需求变动,得益于面向对象的优点,在几分钟内完成应对,并且无需要大范围做测试。

但是,这样的需求如果在 Python 中,我们的处理效率可以提高多少呢?我使用 Python 的 pandas 包处理,在5分钟内搞定,并且代码有非常好的阅读性与扩展性。

这次我们直接使用 pandas 读写 excel 数据,而无需使用 xlwings 库

首先定义需要的列与每列的统计方式:

8ec2d6ed7be448f5b6bb1f9120969b90

其中核心是 g_agg_funcs 字典,他定义了每个输出列的统计方法。凡是文本类型的内容,统一用 first ,就是去组内的第一笔

接着定义加载 excel 数据到 DataFrame:

6037e98ef79a40b5919dff590204edb2

由于数据源的标题在第3行,因此在调用 read_excel 时,参数 header 设置为 None,表示不需要用 excel 中的数据行作为 DataFrame 的标题

header=df.iloc[header_idx,:] ,把指定行的内容读取出来

df.columns=header ,赋值作为 df 的标题

df.dropna(subset=[g_pName]) ,把名字列中是空的行去掉

然后即可生成结果,如下:

d4f63d9a52b74804bdbc79d8524158f9

df.groupby(cols).agg(g_agg_funcs) ,按销售员与货品分组并统计结果,pandas 中就是这么简单

但是,我们需要每个销售员单独一个 sheet 输出结果。如下图:

18970d2835664f7e8a83e80b4c0623f7

with pd.ExcelWriter('result.xlsx') as exl: ,由于本案例需要对一个 excel 文件进行批量输出,因此不能直接使用 DataFrame.to_excel 。这里先创建一个 ExcelWriter对象

res.index.get_level_values(0) ,从分组结果中获得销售人员列,但这里的输出是带重复值的,因此我们需要使用 set 去重复

res.loc[idx,:] ,通过一个销售人员,即可获得这个销售员的货品汇总结果(是一个 DataFrame),这时就可以调用 to_excel 输出结果

to_excel 中的参数 startrow ,表示结果输出在第2行

到这里,你可能会问,还有一个按照货品的汇总结果啊,这是非常简单,因为汇总方式是一样的,只是汇总字段有变化而已。如下:

5416e46045dd450e95675d61ba045df3

这里特意重复写一次 ExcelWriter ,我们这次是往已经存在的 excel 文件追加数据,因此其参数 mode='a' ,是 append 的意思。而要使用追加模式,需要使用 openpyxl 引擎,因此需要设置 engine='openpyxl'

279835ca-e8e2-446a-ac87-2700ae0ca13d

新增需求

在完成代码的情况下,如果需要在汇总结果中新增一列对单价列求平均,在 Python 的方案中,只需要在定义 g_agg_funcs 中添加单价列的统计方式,如下:

97e2009ee29e418aa608afc58dfb18e9

如果是在 vba 方案中,目前的修改还是比较容易的(在 sku 类模块的 add 方法中添加逻辑),但是与 Python 的方案比较就显得低效得多。

总结

pandas 使用总结如下:

理解好 pandas 中的索引(特别是多层索引)可以大大提升你的数据处理能力

pandas 中如果需要多次输出同一个 excel 文件,可以使用 ExcelWriter,注意追加模式需要设置参数 engine='openpyxl'

这篇关于图书管理 python excel_Python处理Excel数据的坑,一文让你不用重复犯错的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:https://blog.csdn.net/weixin_39739170/article/details/110147034
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/241796

相关文章

Python实现pdf电子发票信息提取到excel表格

《Python实现pdf电子发票信息提取到excel表格》这篇文章主要为大家详细介绍了如何使用Python实现pdf电子发票信息提取并保存到excel表格,文中的示例代码讲解详细,感兴趣的小伙伴可以跟... 目录应用场景详细代码步骤总结优化应用场景电子发票信息提取系统主要应用于以下场景:企业财务部门:需

基于Python实现智能天气提醒助手

《基于Python实现智能天气提醒助手》这篇文章主要来和大家分享一个实用的Python天气提醒助手开发方案,这个工具可以方便地集成到青龙面板或其他调度框架中使用,有需要的小伙伴可以参考一下... 目录项目概述核心功能技术实现1. 天气API集成2. AI建议生成3. 消息推送环境配置使用方法完整代码项目特点

使用Python获取JS加载的数据的多种实现方法

《使用Python获取JS加载的数据的多种实现方法》在当今的互联网时代,网页数据的动态加载已经成为一种常见的技术手段,许多现代网站通过JavaScript(JS)动态加载内容,这使得传统的静态网页爬取... 目录引言一、动态 网页与js加载数据的原理二、python爬取JS加载数据的方法(一)分析网络请求1

Python中合并列表(list)的六种方法小结

《Python中合并列表(list)的六种方法小结》本文主要介绍了Python中合并列表(list)的六种方法小结,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋... 目录一、直接用 + 合并列表二、用 extend() js方法三、用 zip() 函数交叉合并四、用

如何基于Python开发一个微信自动化工具

《如何基于Python开发一个微信自动化工具》在当今数字化办公场景中,自动化工具已成为提升工作效率的利器,本文将深入剖析一个基于Python的微信自动化工具开发全过程,有需要的小伙伴可以了解下... 目录概述功能全景1. 核心功能模块2. 特色功能效果展示1. 主界面概览2. 定时任务配置3. 操作日志演示

python多线程并发测试过程

《python多线程并发测试过程》:本文主要介绍python多线程并发测试过程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、并发与并行?二、同步与异步的概念?三、线程与进程的区别?需求1:多线程执行不同任务需求2:多线程执行相同任务总结一、并发与并行?1、

Python处理大量Excel文件的十个技巧分享

《Python处理大量Excel文件的十个技巧分享》每天被大量Excel文件折磨的你看过来!这是一份Python程序员整理的实用技巧,不说废话,直接上干货,文章通过代码示例讲解的非常详细,需要的朋友可... 目录一、批量读取多个Excel文件二、选择性读取工作表和列三、自动调整格式和样式四、智能数据清洗五、

python操作redis基础

《python操作redis基础》Redis(RemoteDictionaryServer)是一个开源的、基于内存的键值对(Key-Value)存储系统,它通常用作数据库、缓存和消息代理,这篇文章... 目录1. Redis 简介2. 前提条件3. 安装 python Redis 客户端库4. 连接到 Re

Python+PyQt5实现MySQL数据库备份神器

《Python+PyQt5实现MySQL数据库备份神器》在数据库管理工作中,定期备份是确保数据安全的重要措施,本文将介绍如何使用Python+PyQt5开发一个高颜值,多功能的MySQL数据库备份工具... 目录概述功能特性核心功能矩阵特色功能界面展示主界面设计动态效果演示使用教程环境准备操作流程代码深度解

如何Python使用设置word的页边距

《如何Python使用设置word的页边距》在编写或处理Word文档的过程中,页边距是一个不可忽视的排版要素,本文将介绍如何使用Python设置Word文档中各个节的页边距,需要的可以参考下... 目录操作步骤代码示例页边距单位说明应用场景与高级用China编程途小结在编写或处理Word文档的过程中,页边距是一个