喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

2023-10-31 10:40

本文主要是介绍喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

前言

投一把青叶,感叹岁月如梦犹在,注一汪清泉,寻味浮生千姿百态。

说一下为啥我突然想到写Python来鉴茶这种小案例吧!因为今天领导把我喊到办公室,一起喝了两杯茶,但是我又不是那种喜欢喝茶的,对茶也没有研究过!所以今天特意来出一个教程,也是能教大家学Python也能防止没有这方面的知识点,至少一些喝茶最常见的礼仪得自己清楚,不至于在以后出丑嘛!

image.png

Start

阅读本文及源码,可以和小编一起学到 xpath 表达式爬取数据,多进程爬取,pandas 基本操作,pyecharts 可视化,stylecloud 词云,文本余弦相似度相似度,KMeans,关键词提取算法:TextRank,TF-IDF,LDA 主题模型。

源码获取在文末

小编找到一个和茶有关网站:

https://chaping.chayu.com/?bid=1

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

​​

数据获取

从首页进入茶评,可以看到所有茶的基本信息,结果有多页,获取所有的基本信息包括标题,评分,品牌,产地,茶类,详细链接,id:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

再根据获得的链接,下钻爬取每一种茶的推荐指数,总评,所有排行:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

及爬取对应的评论,有多页就爬取多页,包含字段评论人,评论人等级,评分,评论,评论时间:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

image.png

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

最后保存为 tea.csv,comment.csv 两个 csv:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

image.png

image.png

整个爬虫流程就这样,使用了 xpath 提取,多进程爬取,逻辑不算复杂,详细实现逻辑可查看源码。

数据分析

总共获得 3w 条数据,获得数据后就可以开始进行探索了。

先对标题进行查看,标题是由品牌及名称构成,处理为只保留名称部分,绘制词云。

红茶,白杜丹,铁观音,绿茶,毛尖等一些听到过的茶名称还是比较多的:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

茶评分取值为 0-10,对评分每两分进行切分后绘制直方图。

从结果上看,评分都挺高的,只有个别评分是低于 4 分的,小编选出数据看了看,总评价对这些低分的茶评价不是特别友好:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

现在基本上每种茶都有专门的品牌在售卖,对品牌进行统计,绘制词语。

发现斗记茶业,中茶,大益,天福茗茶等较为突出,这些品牌就算不了解茶,但多多少少也听到过在大街上看到过:

image.png

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

每种茶都有它独特的产地,对产地绘制热力地图。

发现产地来自云南的是最多的,多达上千种,小编查了查,云南茶叶最重要的原产地,云南是茶叶最为古老的故乡。

其次是福建,有着一千多年的茶文化历史,是最中国产茶的重要产地:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

目前茶类可分为普洱,绿茶,红茶,乌龙,黑茶,白茶,花茶,黄茶,袋泡,速溶茶十大类,每个大类别有细分很多小类,对每个大类进行统计绘制柱状图。

发现普洱茶是类别最多的,其次是绿茶,红茶,看到这里小编想到自己都很少喝普洱茶:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

image.png

热搜能从侧面反映一种茶受不受欢迎,小编选出热搜排名前 10 的茶,拉出明细。

发现排名第一的是经典普洱,普洱也是种类最多的茶,以后可以特地买一点试试:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

对评论时间以时间年月为维度,同比每一年每一月的评论走势图。

发现评论用户 14-17 年活跃程度是一直攀升,之后下跌了:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

到这里,探索性分析就完成了,主要用到了 ,pandas,stylecloud,jieba,pyecharts 这些技术,详细实现过程可参考源码。

​​

关键词提取

在获得的数据中,有总评字段,即对每一种茶的评语,有每一个用户评论的字段,利用这两个字段来实现文本关键词提取。

对于总评,我们想把总评相似的茶分到一起,可以使用 KMeans 聚类算法,但总评是文本数据。

需要先提取每条总评中的关键词,使用了 TextRank 算法提取关键词,原理是基于句子进行分词,对每个词进行权重打分,获得分数高的作为关键词。

对关键词向量化,再计算余弦相似度,最后使用聚类算法,分为了两种种类。

种类一主要是从品尝方向进行评价的,香气,滋味,入口,顺滑等。

种类二主要是从外表方向进行评价的,外形,条索,色泽,原料等:

image.png

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

对评论先使用了 TF-IDF 算法进行关键词的提取,是有 TF,IDF 两部分算法组成。

TF,计算每一个词在所有文本中出现的频率。

IDF,计算每一个词在所有评论中,在多少条评论中出现的次数,映射一个分值。

最后 TF*IDF 选出分值前 10 的关键词:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

第二种方法是利用主题模型 LDA 进行关键词提取,需要先确定主题数,再提取关键词,这里就选取 1 个主题,及前 10 关键词:

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南

image.png

源码获取

需要源码点这里即可获取

这篇关于喜欢喝茶的都是成功人士吗?我用Python来做一个鉴茶指南的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/314773

相关文章

Python开发文字版随机事件游戏的项目实例

《Python开发文字版随机事件游戏的项目实例》随机事件游戏是一种通过生成不可预测的事件来增强游戏体验的类型,在这篇博文中,我们将使用Python开发一款文字版随机事件游戏,通过这个项目,读者不仅能够... 目录项目概述2.1 游戏概念2.2 游戏特色2.3 目标玩家群体技术选择与环境准备3.1 开发环境3

Python中模块graphviz使用入门

《Python中模块graphviz使用入门》graphviz是一个用于创建和操作图形的Python库,本文主要介绍了Python中模块graphviz使用入门,具有一定的参考价值,感兴趣的可以了解一... 目录1.安装2. 基本用法2.1 输出图像格式2.2 图像style设置2.3 属性2.4 子图和聚

Python使用Matplotlib绘制3D曲面图详解

《Python使用Matplotlib绘制3D曲面图详解》:本文主要介绍Python使用Matplotlib绘制3D曲面图,在Python中,使用Matplotlib库绘制3D曲面图可以通过mpl... 目录准备工作绘制简单的 3D 曲面图绘制 3D 曲面图添加线框和透明度控制图形视角Matplotlib

一文教你Python如何快速精准抓取网页数据

《一文教你Python如何快速精准抓取网页数据》这篇文章主要为大家详细介绍了如何利用Python实现快速精准抓取网页数据,文中的示例代码简洁易懂,具有一定的借鉴价值,有需要的小伙伴可以了解下... 目录1. 准备工作2. 基础爬虫实现3. 高级功能扩展3.1 抓取文章详情3.2 保存数据到文件4. 完整示例

使用Python实现IP地址和端口状态检测与监控

《使用Python实现IP地址和端口状态检测与监控》在网络运维和服务器管理中,IP地址和端口的可用性监控是保障业务连续性的基础需求,本文将带你用Python从零打造一个高可用IP监控系统,感兴趣的小伙... 目录概述:为什么需要IP监控系统使用步骤说明1. 环境准备2. 系统部署3. 核心功能配置系统效果展

基于Python打造一个智能单词管理神器

《基于Python打造一个智能单词管理神器》这篇文章主要为大家详细介绍了如何使用Python打造一个智能单词管理神器,从查询到导出的一站式解决,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1. 项目概述:为什么需要这个工具2. 环境搭建与快速入门2.1 环境要求2.2 首次运行配置3. 核心功能使用指

Python实现微信自动锁定工具

《Python实现微信自动锁定工具》在数字化办公时代,微信已成为职场沟通的重要工具,但临时离开时忘记锁屏可能导致敏感信息泄露,下面我们就来看看如何使用Python打造一个微信自动锁定工具吧... 目录引言:当微信隐私遇到自动化守护效果展示核心功能全景图技术亮点深度解析1. 无操作检测引擎2. 微信路径智能获

Python中pywin32 常用窗口操作的实现

《Python中pywin32常用窗口操作的实现》本文主要介绍了Python中pywin32常用窗口操作的实现,pywin32主要的作用是供Python开发者快速调用WindowsAPI的一个... 目录获取窗口句柄获取最前端窗口句柄获取指定坐标处的窗口根据窗口的完整标题匹配获取句柄根据窗口的类别匹配获取句

利用Python打造一个Excel记账模板

《利用Python打造一个Excel记账模板》这篇文章主要为大家详细介绍了如何使用Python打造一个超实用的Excel记账模板,可以帮助大家高效管理财务,迈向财富自由之路,感兴趣的小伙伴快跟随小编一... 目录设置预算百分比超支标红预警记账模板功能介绍基础记账预算管理可视化分析摸鱼时间理财法碎片时间利用财

Python中的Walrus运算符分析示例详解

《Python中的Walrus运算符分析示例详解》Python中的Walrus运算符(:=)是Python3.8引入的一个新特性,允许在表达式中同时赋值和返回值,它的核心作用是减少重复计算,提升代码简... 目录1. 在循环中避免重复计算2. 在条件判断中同时赋值变量3. 在列表推导式或字典推导式中简化逻辑