【R语言爬虫】网贷天眼数据平台表格数据抓取2

2024-09-07 07:38

本文主要是介绍【R语言爬虫】网贷天眼数据平台表格数据抓取2,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、需求分析
抓取url:
http://www.p2peye.com/shuju/ptsj/
昨日数据:
字段:排序 平台名称 成交额 综合利率 投资人 借款周期 借款人 满标速度 累计贷款余额 资金净流入

这里写图片描述

二、rvest爬虫实现源代码

rm(list=ls())
gc()
options(scipen = 200)
library('rvest')
timestart<-Sys.time()url="http://www.p2peye.com/shuju/ptsj/"#从网站中读取HTML代码
webpage <- read_html(url)#使用CSS选择器来爬取排名部分
rank_data_html <- html_nodes(webpage,'.num')
#将排名数据转化为文本
rank_data <- html_text(rank_data_html)
#数据预处理:将排名转换为数字格式
rank_data<-as.numeric(rank_data[2:length(rank_data)])name <- html_nodes(webpage,'.name')
name_data <- html_text(name[2:length(name)])
#数据预处理:去掉'\n'
name_data<-gsub("\n","",name_data)
#数据预处理:去掉多余的空格
name_data<-gsub(" ","",name_data)total <- html_nodes(webpage,'.total')
total_data <- html_text(total[2:length(total)])rate <- html_nodes(webpage,'.rate')
rate_data <- html_text(rate[2:length(rate)])pnum <- html_nodes(webpage,'.pnum')
pnum_data <- html_text(pnum[2:length(pnum)])cycle <- html_nodes(webpage,'.cycle')
cycle_data <- html_text(cycle[2:length(cycle)])p1num <- html_nodes(webpage,'.p1num')
p1num_data <- html_text(p1num[2:length(p1num)])fuload <- html_nodes(webpage,'.fuload')
fuload_data <- html_text(fuload[2:length(fuload)])alltotal <- html_nodes(webpage,'.alltotal')
alltotal_data <- html_text(alltotal[2:length(alltotal)])capital <- html_nodes(webpage,'.capital')
capital_data <- html_text(capital[2:length(capital)])data <- data.frame("排序"=rank_data,"平台名称"=name_data,"成交额"=total_data,"综合利率"=rate_data,"投资人"=pnum_data,"借款周期"=cycle_data,"借款人"=pnum_data,"满标速度"=fuload_data,"累计贷款余额"=alltotal_data,"资金净流入"=capital_data)###############写出数据到excel
library(xlsx)
write.xlsx(data,"C:\\mydata.xlsx",row.names = F)  
timeend<-Sys.time()
runningtime<-timeend-timestart
print(runningtime) 

这里写图片描述

这里写图片描述

这篇关于【R语言爬虫】网贷天眼数据平台表格数据抓取2的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1144466

相关文章

SQL Server修改数据库名及物理数据文件名操作步骤

《SQLServer修改数据库名及物理数据文件名操作步骤》在SQLServer中重命名数据库是一个常见的操作,但需要确保用户具有足够的权限来执行此操作,:本文主要介绍SQLServer修改数据... 目录一、背景介绍二、操作步骤2.1 设置为单用户模式(断开连接)2.2 修改数据库名称2.3 查找逻辑文件名

Python实现精准提取 PDF中的文本,表格与图片

《Python实现精准提取PDF中的文本,表格与图片》在实际的系统开发中,处理PDF文件不仅限于读取整页文本,还有提取文档中的表格数据,图片或特定区域的内容,下面我们来看看如何使用Python实... 目录安装 python 库提取 PDF 文本内容:获取整页文本与指定区域内容获取页面上的所有文本内容获取

canal实现mysql数据同步的详细过程

《canal实现mysql数据同步的详细过程》:本文主要介绍canal实现mysql数据同步的详细过程,本文通过实例图文相结合给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的... 目录1、canal下载2、mysql同步用户创建和授权3、canal admin安装和启动4、canal

使用SpringBoot整合Sharding Sphere实现数据脱敏的示例

《使用SpringBoot整合ShardingSphere实现数据脱敏的示例》ApacheShardingSphere数据脱敏模块,通过SQL拦截与改写实现敏感信息加密存储,解决手动处理繁琐及系统改... 目录痛点一:痛点二:脱敏配置Quick Start——Spring 显示配置:1.引入依赖2.创建脱敏

Go语言中泄漏缓冲区的问题解决

《Go语言中泄漏缓冲区的问题解决》缓冲区是一种常见的数据结构,常被用于在不同的并发单元之间传递数据,然而,若缓冲区使用不当,就可能引发泄漏缓冲区问题,本文就来介绍一下问题的解决,感兴趣的可以了解一下... 目录引言泄漏缓冲区的基本概念代码示例:泄漏缓冲区的产生项目场景:Web 服务器中的请求缓冲场景描述代码

Go语言如何判断两张图片的相似度

《Go语言如何判断两张图片的相似度》这篇文章主要为大家详细介绍了Go语言如何中实现判断两张图片的相似度的两种方法,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 在介绍技术细节前,我们先来看看图片对比在哪些场景下可以用得到:图片去重:自动删除重复图片,为存储空间"瘦身"。想象你是一个

Go语言中Recover机制的使用

《Go语言中Recover机制的使用》Go语言的recover机制通过defer函数捕获panic,实现异常恢复与程序稳定性,具有一定的参考价值,感兴趣的可以了解一下... 目录引言Recover 的基本概念基本代码示例简单的 Recover 示例嵌套函数中的 Recover项目场景中的应用Web 服务器中

详解如何使用Python构建从数据到文档的自动化工作流

《详解如何使用Python构建从数据到文档的自动化工作流》这篇文章将通过真实工作场景拆解,为大家展示如何用Python构建自动化工作流,让工具代替人力完成这些数字苦力活,感兴趣的小伙伴可以跟随小编一起... 目录一、Excel处理:从数据搬运工到智能分析师二、PDF处理:文档工厂的智能生产线三、邮件自动化:

Python数据分析与可视化的全面指南(从数据清洗到图表呈现)

《Python数据分析与可视化的全面指南(从数据清洗到图表呈现)》Python是数据分析与可视化领域中最受欢迎的编程语言之一,凭借其丰富的库和工具,Python能够帮助我们快速处理、分析数据并生成高质... 目录一、数据采集与初步探索二、数据清洗的七种武器1. 缺失值处理策略2. 异常值检测与修正3. 数据

pandas实现数据concat拼接的示例代码

《pandas实现数据concat拼接的示例代码》pandas.concat用于合并DataFrame或Series,本文主要介绍了pandas实现数据concat拼接的示例代码,具有一定的参考价值,... 目录语法示例:使用pandas.concat合并数据默认的concat:参数axis=0,join=