《长津湖》影评文本数据清洗--(简易版)

2024-01-13 09:50

本文主要是介绍《长津湖》影评文本数据清洗--(简易版),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

《长津湖》python文本数据清洗

文章目录

    • 《长津湖》python文本数据清洗
        • 1.项目背景
        • 2.研究路线
        • 3.方案实施
          • 3.1数据清洗(某个案例)
          • 3.2数据可视化

1.项目背景

​ 《长津湖》作为近年比较火的电影,它用来致敬曾经伟大的战斗前辈。此次项目为用python 和Kettle 对爬取到的《长津湖》电影短评进行数据清洗与数据可视化分析,然后应用python连接数据库技术将清洗后的数据保存到excel 中,然后再导入到数据库保存,本项目将简单模拟数据清洗一系列流程。

2.研究路线
影评数据爬取
数据清洗
数据可视化
数据导入mysql数据库
3.方案实施
3.1数据清洗(某个案例)

在python中编写数据清洗的代码,主要包括缺失值的删除,因为不知道缺失评价是怎么描述的,所以将缺失值进行删除处理。重复值、异常值进行删除,在代码中,我将删除短评字数不超过10个字的短评,其中,短评中出现空格也算一个字,清洗代码如下图所示:

import pandas as pd# 数据加载
data = pd.read_csv("douban_comments.csv")
print("原始数据条数:%d"%len(data))
# 缺失值删除
data = data.dropna(axis=0,how="any")
print("缺失值删除后数据条数:%d"%len(data))
# 重复值删除,删除同一个人的评论,保留最近一次的
data = data.drop_duplicates(subset="name",keep="first")
print("重复值删除后数据条数:%d" %len(data))
# 删除异常值,评论过短的异常值
data["drop"] = data["comments"].map(lambda x: 1 if len(x)>10 else 0)
data = data[data["drop"] != 0]
print("删除异常后的数据条数:%d" %len(data))data.loc[:,["name","date","rate","comments"]].to_excel("comments_cleaned.xlsx",index=False)
3.2数据可视化

这里,我就先不给出可视化代码了,大家可以突发奇想,做出自己满意的图片!!!

下面给出我做的可视化图片:
在这里插入图片描述

本文为课堂任务还没更新完毕,未完待续,下次继续!!!!

这篇关于《长津湖》影评文本数据清洗--(简易版)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:https://blog.csdn.net/weixin_52476781/article/details/129400666
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/601055

相关文章

C#监听txt文档获取新数据方式

《C#监听txt文档获取新数据方式》文章介绍通过监听txt文件获取最新数据,并实现开机自启动、禁用窗口关闭按钮、阻止Ctrl+C中断及防止程序退出等功能,代码整合于主函数中,供参考学习... 目录前言一、监听txt文档增加数据二、其他功能1. 设置开机自启动2. 禁止控制台窗口关闭按钮3. 阻止Ctrl +

java如何实现高并发场景下三级缓存的数据一致性

《java如何实现高并发场景下三级缓存的数据一致性》这篇文章主要为大家详细介绍了java如何实现高并发场景下三级缓存的数据一致性,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 下面代码是一个使用Java和Redisson实现的三级缓存服务,主要功能包括:1.缓存结构:本地缓存:使

在MySQL中实现冷热数据分离的方法及使用场景底层原理解析

《在MySQL中实现冷热数据分离的方法及使用场景底层原理解析》MySQL冷热数据分离通过分表/分区策略、数据归档和索引优化,将频繁访问的热数据与冷数据分开存储,提升查询效率并降低存储成本,适用于高并发... 目录实现冷热数据分离1. 分表策略2. 使用分区表3. 数据归档与迁移在mysql中实现冷热数据分

C#解析JSON数据全攻略指南

《C#解析JSON数据全攻略指南》这篇文章主要为大家详细介绍了使用C#解析JSON数据全攻略指南,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、为什么jsON是C#开发必修课?二、四步搞定网络JSON数据1. 获取数据 - HttpClient最佳实践2. 动态解析 - 快速

MyBatis-Plus通用中等、大量数据分批查询和处理方法

《MyBatis-Plus通用中等、大量数据分批查询和处理方法》文章介绍MyBatis-Plus分页查询处理,通过函数式接口与Lambda表达式实现通用逻辑,方法抽象但功能强大,建议扩展分批处理及流式... 目录函数式接口获取分页数据接口数据处理接口通用逻辑工具类使用方法简单查询自定义查询方法总结函数式接口

SQL中如何添加数据(常见方法及示例)

《SQL中如何添加数据(常见方法及示例)》SQL全称为StructuredQueryLanguage,是一种用于管理关系数据库的标准编程语言,下面给大家介绍SQL中如何添加数据,感兴趣的朋友一起看看吧... 目录在mysql中,有多种方法可以添加数据。以下是一些常见的方法及其示例。1. 使用INSERT I

Python使用vllm处理多模态数据的预处理技巧

《Python使用vllm处理多模态数据的预处理技巧》本文深入探讨了在Python环境下使用vLLM处理多模态数据的预处理技巧,我们将从基础概念出发,详细讲解文本、图像、音频等多模态数据的预处理方法,... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核

MySQL 删除数据详解(最新整理)

《MySQL删除数据详解(最新整理)》:本文主要介绍MySQL删除数据的相关知识,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录一、前言二、mysql 中的三种删除方式1.DELETE语句✅ 基本语法: 示例:2.TRUNCATE语句✅ 基本语

MyBatisPlus如何优化千万级数据的CRUD

《MyBatisPlus如何优化千万级数据的CRUD》最近负责的一个项目,数据库表量级破千万,每次执行CRUD都像走钢丝,稍有不慎就引起数据库报警,本文就结合这个项目的实战经验,聊聊MyBatisPl... 目录背景一、MyBATis Plus 简介二、千万级数据的挑战三、优化 CRUD 的关键策略1. 查

python实现对数据公钥加密与私钥解密

《python实现对数据公钥加密与私钥解密》这篇文章主要为大家详细介绍了如何使用python实现对数据公钥加密与私钥解密,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录公钥私钥的生成使用公钥加密使用私钥解密公钥私钥的生成这一部分,使用python生成公钥与私钥,然后保存在两个文