【R语言爬虫】网贷天眼数据平台表格数据抓取2

2024-09-07 07:38

本文主要是介绍【R语言爬虫】网贷天眼数据平台表格数据抓取2,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、需求分析
抓取url:
http://www.p2peye.com/shuju/ptsj/
昨日数据:
字段:排序 平台名称 成交额 综合利率 投资人 借款周期 借款人 满标速度 累计贷款余额 资金净流入

这里写图片描述

二、rvest爬虫实现源代码

rm(list=ls())
gc()
options(scipen = 200)
library('rvest')
timestart<-Sys.time()url="http://www.p2peye.com/shuju/ptsj/"#从网站中读取HTML代码
webpage <- read_html(url)#使用CSS选择器来爬取排名部分
rank_data_html <- html_nodes(webpage,'.num')
#将排名数据转化为文本
rank_data <- html_text(rank_data_html)
#数据预处理:将排名转换为数字格式
rank_data<-as.numeric(rank_data[2:length(rank_data)])name <- html_nodes(webpage,'.name')
name_data <- html_text(name[2:length(name)])
#数据预处理:去掉'\n'
name_data<-gsub("\n","",name_data)
#数据预处理:去掉多余的空格
name_data<-gsub(" ","",name_data)total <- html_nodes(webpage,'.total')
total_data <- html_text(total[2:length(total)])rate <- html_nodes(webpage,'.rate')
rate_data <- html_text(rate[2:length(rate)])pnum <- html_nodes(webpage,'.pnum')
pnum_data <- html_text(pnum[2:length(pnum)])cycle <- html_nodes(webpage,'.cycle')
cycle_data <- html_text(cycle[2:length(cycle)])p1num <- html_nodes(webpage,'.p1num')
p1num_data <- html_text(p1num[2:length(p1num)])fuload <- html_nodes(webpage,'.fuload')
fuload_data <- html_text(fuload[2:length(fuload)])alltotal <- html_nodes(webpage,'.alltotal')
alltotal_data <- html_text(alltotal[2:length(alltotal)])capital <- html_nodes(webpage,'.capital')
capital_data <- html_text(capital[2:length(capital)])data <- data.frame("排序"=rank_data,"平台名称"=name_data,"成交额"=total_data,"综合利率"=rate_data,"投资人"=pnum_data,"借款周期"=cycle_data,"借款人"=pnum_data,"满标速度"=fuload_data,"累计贷款余额"=alltotal_data,"资金净流入"=capital_data)###############写出数据到excel
library(xlsx)
write.xlsx(data,"C:\\mydata.xlsx",row.names = F)  
timeend<-Sys.time()
runningtime<-timeend-timestart
print(runningtime) 

这里写图片描述

这里写图片描述

这篇关于【R语言爬虫】网贷天眼数据平台表格数据抓取2的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1144466

相关文章

从基础到高级详解Go语言中错误处理的实践指南

《从基础到高级详解Go语言中错误处理的实践指南》Go语言采用了一种独特而明确的错误处理哲学,与其他主流编程语言形成鲜明对比,本文将为大家详细介绍Go语言中错误处理详细方法,希望对大家有所帮助... 目录1 Go 错误处理哲学与核心机制1.1 错误接口设计1.2 错误与异常的区别2 错误创建与检查2.1 基础

Linux下利用select实现串口数据读取过程

《Linux下利用select实现串口数据读取过程》文章介绍Linux中使用select、poll或epoll实现串口数据读取,通过I/O多路复用机制在数据到达时触发读取,避免持续轮询,示例代码展示设... 目录示例代码(使用select实现)代码解释总结在 linux 系统里,我们可以借助 select、

Python爬虫HTTPS使用requests,httpx,aiohttp实战中的证书异步等问题

《Python爬虫HTTPS使用requests,httpx,aiohttp实战中的证书异步等问题》在爬虫工程里,“HTTPS”是绕不开的话题,HTTPS为传输加密提供保护,同时也给爬虫带来证书校验、... 目录一、核心问题与优先级检查(先问三件事)二、基础示例:requests 与证书处理三、高并发选型:

Go语言中json操作的实现

《Go语言中json操作的实现》本文主要介绍了Go语言中的json操作的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧... 目录 一、jsOChina编程N 与 Go 类型对应关系️ 二、基本操作:编码与解码 三、结构体标签(Struc

Python屏幕抓取和录制的详细代码示例

《Python屏幕抓取和录制的详细代码示例》随着现代计算机性能的提高和网络速度的加快,越来越多的用户需要对他们的屏幕进行录制,:本文主要介绍Python屏幕抓取和录制的相关资料,需要的朋友可以参考... 目录一、常用 python 屏幕抓取库二、pyautogui 截屏示例三、mss 高性能截图四、Pill

C#使用iText获取PDF的trailer数据的代码示例

《C#使用iText获取PDF的trailer数据的代码示例》开发程序debug的时候,看到了PDF有个trailer数据,挺有意思,于是考虑用代码把它读出来,那么就用到我们常用的iText框架了,所... 目录引言iText 核心概念C# 代码示例步骤 1: 确保已安装 iText步骤 2: C# 代码程

Pandas处理缺失数据的方式汇总

《Pandas处理缺失数据的方式汇总》许多教程中的数据与现实世界中的数据有很大不同,现实世界中的数据很少是干净且同质的,本文我们将讨论处理缺失数据的一些常规注意事项,了解Pandas如何表示缺失数据,... 目录缺失数据约定的权衡Pandas 中的缺失数据None 作为哨兵值NaN:缺失的数值数据Panda

C++中处理文本数据char与string的终极对比指南

《C++中处理文本数据char与string的终极对比指南》在C++编程中char和string是两种用于处理字符数据的类型,但它们在使用方式和功能上有显著的不同,:本文主要介绍C++中处理文本数... 目录1. 基本定义与本质2. 内存管理3. 操作与功能4. 性能特点5. 使用场景6. 相互转换核心区别

python语言中的常用容器(集合)示例详解

《python语言中的常用容器(集合)示例详解》Python集合是一种无序且不重复的数据容器,它可以存储任意类型的对象,包括数字、字符串、元组等,下面:本文主要介绍python语言中常用容器(集合... 目录1.核心内置容器1. 列表2. 元组3. 集合4. 冻结集合5. 字典2.collections模块

python库pydantic数据验证和设置管理库的用途

《python库pydantic数据验证和设置管理库的用途》pydantic是一个用于数据验证和设置管理的Python库,它主要利用Python类型注解来定义数据模型的结构和验证规则,本文给大家介绍p... 目录主要特点和用途:Field数值验证参数总结pydantic 是一个让你能够 confidentl