pandas 实战：分析三国志人物

简介

背景

Pandas 是 Python 的一个工具库，用于数据分析。由 AQR Capital Management 于 2008 年 4 月开发，2009 年开源，最初被作为金融数据分析工具而开发出来。Pandas 名称来源于 panel data（面板数据）和 Python data analysis（Python 数据分析）。适用于金融、统计等数据分析领域。

特点：两大数据结构

Series 和 DataFrame
（1）Series：一维数据（列+索引）

pandas.Series(['东汉', '马腾', '?', 212], index=['国家', '姓名', '出生年份', '逝世年份'])

（2）DataFrame：二维数据（表格：多个列+行/列索引）

pandas.DataFrame([['东汉', 300],['魏国', 800],['蜀国', 400],['吴国', 600],['西晋', 1000]
], columns=['国家', '国力'])

安装

如果你使用的是数据科学的 Python 发行版：Anaconda，可以使用 conda 安装

conda install pandas

如果是普通的 Python 环境，可以使用 pip 安装

pip install pandas

实战

我们先看看数据长啥样，数据存在 sanguo.csv 文档中

$ head sanguo.csv

（1）导入模块

import pandas as pd

（2）读取 csv 数据

# 当前目录下的 sanguo.csv 文件，na_values 指定哪些值为空
df = pd.read_csv('./sanguo.csv', na_values=['na', '-', 'N/A', '?'])

1）查看数据

# 查看前 5 条
df.head(5)
# NaN 为空值

# 查看后 5 条
df.tail(5)

2）查看数据概况

df.dtypes
# 查看数据类型

df.info()
# 有 25 行，5 列
# 各列的名称（kindom、name、birth、die、character）、非空数目、数据类型

df.describe()
# 查看数值型列统计值：总数、平均值、标准差、最小值、25%/50%/75% 分位数、最大值

3）数据操作
设置列名

df.columns = ['国家', '姓名', '出生年份', '逝世年份', '角色']
df.head()

添加新列

# 计算年龄
df['年龄'] = df['逝世年份'] - df['出生年份']
df.head(10)

计算列平均值、中位数、众数、最/小值

列筛选

# 筛选年轮小于 50 的数据
df[df['年龄'] < 50]

# 筛选曹姓的数据
df[df['姓名'].str.startswith('曹')]

分组

df.groupby('国家')['姓名'].count()
# 类似于 SQL: SELECT 国家, COUNT(姓名) FROM x GROUP BY 国家

apply 函数

df['状态'] = df['年龄'].apply(lambda x: '长寿' if isinstance(x, (int, float)) and x > 50 else '一般')
df.head()

取数据：loc、iloc

df.loc[4]	取第 5 行数据（索引从 0 开始）
df.loc[4:5]	取第 5~6 行数据
df.loc[4, '姓名'] 或 df.iloc[4, 1]	取第 5 行姓名列 或第 5 行第 2 列
df.loc[4, ['姓名', '年龄']] 或 df.iloc[4, [1, 5]]	取第 5 行姓名、年龄列 或第 5 行第 2 列、第 6 列
df.loc[4:5, ['姓名', '年龄']] 或 df.iloc[[4, 5], [1, 5]] 或 df.iloc[4:6, [1, 5]]	取第 5~6 行姓名、年龄列 或取第 5~6 行第 2 列、第 6 列
df.iloc[4:9, 1:4]	取 5~10 列第 2~5 列

追加、合并数据
concat

# 创建列
newpeople = pd.Series(['东汉', '马腾', '?', 212, '?'], index=['国家', '姓名', '出生年份', '逝世年份', '年龄'])# 将 Series 转为 DataFrame，并对 DataFrame 转置（列转行）
newpeople = newpeople.to_frame().T# 追加行（axis=0），重置索引（ignore_index=True）
df2 = pd.concat([df, newpeople], axis=0, ignore_index=True)
df2.tail()

merge

# 创建表格
kindom_power = pd.DataFrame([['东汉', 300],['魏国', 800],['蜀国', 400],['吴国', 600],['西晋', 1000]
], columns=['国家', '国力'])# 按国家列进行两个表格（左 df，右 kindom_power）合并
df3 = pd.merge(left=df, right=kindom_power, on='国家')
df3.head(10)

4）导出数据

# 写入 sanguo_result.csv 中，不输出索引值
df.to_csv('sanguo_result.csv', index=False)

参考

• https://pandas.pydata.org/
• https://www.runoob.com/pandas/pandas-tutorial.html
• https://github.com/xchenhao/code-notes/blob/master/data/sanguo.csv sanguo.csv 数据