前嗅教程:采集表格/列表页中的数据(翻页)

2024-06-02 01:38

本文主要是介绍前嗅教程:采集表格/列表页中的数据(翻页),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

以孔夫子旧书网的最近出版板块为例(http://www.kongfz.com/1004/)为例,采集列表页的所有数据:

第一步:新建任务

①击左上角“加号”新建任务,如图1:

【图1】

②在弹窗里填写采集地址,任务名称如图2:

 【图2】

③点击下一步,选择进行数据抽取还是链接抽取,本次采集需要采集当前板块的列表页所有内容,所以只需要在同一个模板中进行翻页链接抽取以及数据抽取即可。此处需要勾选“抽取链接”-“普通翻页”以及“抽取数据”,如图3:

【图3】

 

第二步:创建/选择表单

在ForeSpider爬虫中,表单是可以复用的,所以可以在数据表单出直接选择之前建过的表单,也可以通过表单ID来进行查找并关联数据表单。此处使用的是的旧书网的表单,如图4

方法一:通过下拉菜单或表单ID选择已有表单

方法二:点击创建表单进入快速建表页面,新建表单

 

【图4】

方法三:点击“采集配置”-“数据建表”,点击采“采集表单”后面的 如图5

【图5】

第三步:配置表单

根据所需内容,配置表单字段(即表头),此处配置了包括标题、作者、价格三个字段,表单如图6

 

【图6】

第四步:字段取值

取值方法:由于此处活取的是列表页的数据,所以可以应用“识别列表”功能,直接取到列表数据,操作方法如下:

①点击“数据抽取-旧书网”,按住ctrl+鼠标左键点击任意一部分内容,如图7,选中标题

 

 

【图7】

②按住Shift+鼠标左键继续点击,直到点击到选中整个第一条数据,如图8

 

【图8】

 

③在软件的右下角可以看到“识别列表”按钮 ,此时点击“识别列表”,如图9,此时列表中的内容都已经选中。

 

【图9】

③对每个字段进行取值,方法依然是:按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

如:price-cover字段

首先在左侧点到price-cover字段上,在浏览器中对该字段进行取值.

<1>按住ctrl+鼠标左键,点击“新书”

<2>按住shift+鼠标左键继续点击,直到选中图10中的全部内容

<3>点击右下角“确认选区” 

【图10】

 

 

第五步:模板预览

①标右键点击“数据抽取”,然后点击“模板预览”,如图11

【图11】

 

②预览结果如图12

 

【图12】

第六步:应用定位过滤,过滤翻页链接

①标点击“链接抽取-普通翻页”,内置浏览器拉到最底端找到翻页,如图13

【图13】

②按住Ctrl+鼠标左键点击第一页,按住shift+鼠标左键,扩大选区,直到选中整行,如图14

【图14】

③点击“确认选区” 

④点击“采集预览”查看链接过滤是否完全,此处由于只有一个模板,所以链接和数据在同一个预览框里,直接点击预览的结果如图15

 

【图15】

⑤点击“链接信息数目”,查看对应的链接,如图16,由于第9页之后直接就是第15页,如果怕中间页数取不到,可以双击第9页试试看

【图16】

第七步:采集预览

双击任意一页链接,点击“旧书网”均可得到对应的列表数据如图17

【图17】

这篇关于前嗅教程:采集表格/列表页中的数据(翻页)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1022684

相关文章

批量导入txt数据到的redis过程

《批量导入txt数据到的redis过程》用户通过将Redis命令逐行写入txt文件,利用管道模式运行客户端,成功执行批量删除以Product*匹配的Key操作,提高了数据清理效率... 目录批量导入txt数据到Redisjs把redis命令按一条 一行写到txt中管道命令运行redis客户端成功了批量删除k

Python pandas库自学超详细教程

《Pythonpandas库自学超详细教程》文章介绍了Pandas库的基本功能、安装方法及核心操作,涵盖数据导入(CSV/Excel等)、数据结构(Series、DataFrame)、数据清洗、转换... 目录一、什么是Pandas库(1)、Pandas 应用(2)、Pandas 功能(3)、数据结构二、安

SpringBoot多环境配置数据读取方式

《SpringBoot多环境配置数据读取方式》SpringBoot通过环境隔离机制,支持properties/yaml/yml多格式配置,结合@Value、Environment和@Configura... 目录一、多环境配置的核心思路二、3种配置文件格式详解2.1 properties格式(传统格式)1.

解决pandas无法读取csv文件数据的问题

《解决pandas无法读取csv文件数据的问题》本文讲述作者用Pandas读取CSV文件时因参数设置不当导致数据错位,通过调整delimiter和on_bad_lines参数最终解决问题,并强调正确参... 目录一、前言二、问题复现1. 问题2. 通过 on_bad_lines=‘warn’ 跳过异常数据3

python中列表应用和扩展性实用详解

《python中列表应用和扩展性实用详解》文章介绍了Python列表的核心特性:有序数据集合,用[]定义,元素类型可不同,支持迭代、循环、切片,可执行增删改查、排序、推导式及嵌套操作,是常用的数据处理... 目录1、列表定义2、格式3、列表是可迭代对象4、列表的常见操作总结1、列表定义是处理一组有序项目的

C++11范围for初始化列表auto decltype详解

《C++11范围for初始化列表autodecltype详解》C++11引入auto类型推导、decltype类型推断、统一列表初始化、范围for循环及智能指针,提升代码简洁性、类型安全与资源管理效... 目录C++11新特性1. 自动类型推导auto1.1 基本语法2. decltype3. 列表初始化3

2025版mysql8.0.41 winx64 手动安装详细教程

《2025版mysql8.0.41winx64手动安装详细教程》本文指导Windows系统下MySQL安装配置,包含解压、设置环境变量、my.ini配置、初始化密码获取、服务安装与手动启动等步骤,... 目录一、下载安装包二、配置环境变量三、安装配置四、启动 mysql 服务,修改密码一、下载安装包安装地

电脑提示d3dx11_43.dll缺失怎么办? DLL文件丢失的多种修复教程

《电脑提示d3dx11_43.dll缺失怎么办?DLL文件丢失的多种修复教程》在使用电脑玩游戏或运行某些图形处理软件时,有时会遇到系统提示“d3dx11_43.dll缺失”的错误,下面我们就来分享超... 在计算机使用过程中,我们可能会遇到一些错误提示,其中之一就是缺失某个dll文件。其中,d3dx11_4

Linux下在线安装启动VNC教程

《Linux下在线安装启动VNC教程》本文指导在CentOS7上在线安装VNC,包含安装、配置密码、启动/停止、清理重启步骤及注意事项,强调需安装VNC桌面以避免黑屏,并解决端口冲突和目录权限问题... 目录描述安装VNC安装 VNC 桌面可能遇到的问题总结描js述linux中的VNC就类似于Window

C#监听txt文档获取新数据方式

《C#监听txt文档获取新数据方式》文章介绍通过监听txt文件获取最新数据,并实现开机自启动、禁用窗口关闭按钮、阻止Ctrl+C中断及防止程序退出等功能,代码整合于主函数中,供参考学习... 目录前言一、监听txt文档增加数据二、其他功能1. 设置开机自启动2. 禁止控制台窗口关闭按钮3. 阻止Ctrl +