使用前嗅ForeSpider在同一个网站中从另一页面采集数据

2024-06-02 01:38

本文主要是介绍使用前嗅ForeSpider在同一个网站中从另一页面采集数据,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

第一步:新建任务

①点击左上角“加号”新建任务,如图1:

【图1】

②在弹窗里填写采集地址,任务名称,如图2:

【图2】

③点击下一步,选择进行数据抽取还是链接抽取,本次采集企业最新动态链接列表,所以点击抽取链接,选择链接列表,如图3:

【图3】

④完成之后,在模板抽取配置下生成两个模板,默认模板:01和链接列表:02。模板1中的“链接列表”链接抽取已与模板2关联,如图4。如果配置的时候发现关联有问题,可以自己进行更改。

【图4】

第二步:使用定位过滤,得到列表链接

①按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

②点击确认选区,如图5:

【图5】

③点击采集预览,确认链接抽取是否正确,如图6:

【图6】

第三步:在模板2添加示例地址,并添加链接抽取

①将模板1过滤得到的任意一条链接,作为模板2的示例地址。如:http://blog.11467.com/b427516.htm,如图7:

【图7】

②新建链接抽取。直接点击模板2,点击上面“新建链接抽取”按钮,得到链接抽取,如图8。

【图8】

③关联模板

在软件中模板的关联关系,与网页中链接跳转的关系相同。

根据网页跳转规律,模板1中的“链接列表”链接抽取已与模板2关联。如果配置的时候发现关联有问题,可以自己进行更改。

 

第四步:使用定位过滤,得到列表链接

①按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

②点击确认选区,如图9:

【图9】

③右击模板预览,查看链接抽取结果,如图10所示:

【图10】

④确认链接抽取是否正确,如图11:

【图11】

第五步:新建模板3添加示例地址,并添加链接抽取

①新建模板3,将模板2过滤得到的链接,作为模板3的示例地址。如:http://93358999.b2b.11467.com,如图12:

【图12】

②新建链接抽取。直接点击模板3,点击上面“新建链接抽取”按钮,得到链接抽取,如图13。

【图13】

③关联链接列表的“新建链接抽取”。

根据网页跳转规律,将模板2链接列表的“新建链接抽取”关联模板3。如果配置的时候发现关联有问题,可以自己进行更改,如图14:

【图14】

第六步:使用定位过滤,得到导航列表的链接

①按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

②点击确认选区,如图15:

【图15】

③右击模板预览,查看链接抽取结果,如图16所示:

【图16】

④确认链接抽取是否正确,如图17:

【图17】

⑤使用标题过滤,得到“联系我们”的链接,如图18所示:

【图18】

第七步:新建模板4添加示例地址,并添加链接抽取

①新建模板4,将模板3过滤得到的“联系我们”链接,作为模板4的示例地址。如:http://tianjin0311065.11467.com/contact.asp,如图19:

【图19】

②新建数据抽取。直接点击模板3,点击上面“新建数据抽取”按钮,得到数据抽取,如图20。

【图20】

③关联模板3的“新建链接抽取”。

根据网页跳转规律,将模板3的“新建链接抽取”关联模板4。如果配置的时候发现关联有问题,可以自己进行更改,如图21:

【图21】

第八步:创建/选择表单

在ForeSpider爬虫中,表单是可以复用的,所以可以在数据表单出直接选择之前建过的表单,也可以通过表单ID来进行查找并关联数据表单。此处使用的是方法三。

方法一:通过下拉菜单或表单ID选择已有表单

方法二:点击创建表单进入快速建表页面,新建表单,如图22所示。

【图22】

方法三:点击“采集配置”-“数据建表”,点击采“采集表单”后面的,如图23:

【图23】

第九步:配置表单

根据所需内容,配置表单字段(即表头),此处配置了包括网页主键、联系人、电话、地址以及公司介绍五个字段。其中,公司介绍字段intro_text的取值在同一网站的不同页面,需要用到脚本取值,配置类型时需要选择高级取值>模板取值,表单如图24:

【图24】

第十步:字段取值

①关联表单,如图25所示:

【图25】

②取值方法:按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

person、tel、addr字段,如图26:

【图26】

③intro_text字段需要进行模板取值。

 

第十一步:创建新的模板,添加示例地址

①表单intro_text字段来自公司介绍,如图27所示。

【图27】

图中红框部分为取值内容,如图28所示:

【图28】

②新建模板,添加“公司介绍”链接为示例地址,如:http://93358999.b2b.11467.com/about.asp(模板3右击模板预览,选择全部链接),如图29所示:

【图29】

③直接点击模板5,点击上面“新建数据抽取”按钮,得到数据抽取,如图30:

【图30】

第十二步:创建/选择表单

点击“采集配置”-“数据建表”,点击采“采集表单”后面的,如图31:

【图31】

第十三步:配置表单

根据所需内容,配置表单字段(即表头),此处配置了“公司介绍”字段intro_text表单如图32:

【图32】

第十四步:关联表单,完成“公司介绍”字段抽取

①点击模板5,关联表单,如图33所示:

【图33】

②使用字段定位取值方法。

按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域,确认选区,如图34所示。

【图34】

③右击模板预览,如图35所示:

【图35】

④模板预览结果,如图36所示:

【图36】

第十五步:模板取值关联

①点击模板4,点击intro_text字段,在红框中填入“href=[5]”,并按住Ctrl+鼠标左键,进行区域选择,如图37所示。

“[ ]”中填写模板ID。

【图37】

②点击模板4,右击模板预览,如图38所示:

【图38】

③预览结果如图39所示:

【图39】

第十六步:采集预览

①点击右上角采集预览,如图40:

【图40】

②双击任意一条链接,看看是否可以得到和网页对应的规整的数据,如图41、42、43所示。

【图41】

【图42】

【图43】

这篇关于使用前嗅ForeSpider在同一个网站中从另一页面采集数据的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1022687

相关文章

Java中流式并行操作parallelStream的原理和使用方法

《Java中流式并行操作parallelStream的原理和使用方法》本文详细介绍了Java中的并行流(parallelStream)的原理、正确使用方法以及在实际业务中的应用案例,并指出在使用并行流... 目录Java中流式并行操作parallelStream0. 问题的产生1. 什么是parallelS

Linux join命令的使用及说明

《Linuxjoin命令的使用及说明》`join`命令用于在Linux中按字段将两个文件进行连接,类似于SQL的JOIN,它需要两个文件按用于匹配的字段排序,并且第一个文件的换行符必须是LF,`jo... 目录一. 基本语法二. 数据准备三. 指定文件的连接key四.-a输出指定文件的所有行五.-o指定输出

Linux jq命令的使用解读

《Linuxjq命令的使用解读》jq是一个强大的命令行工具,用于处理JSON数据,它可以用来查看、过滤、修改、格式化JSON数据,通过使用各种选项和过滤器,可以实现复杂的JSON处理任务... 目录一. 简介二. 选项2.1.2.2-c2.3-r2.4-R三. 字段提取3.1 普通字段3.2 数组字段四.

Linux kill正在执行的后台任务 kill进程组使用详解

《Linuxkill正在执行的后台任务kill进程组使用详解》文章介绍了两个脚本的功能和区别,以及执行这些脚本时遇到的进程管理问题,通过查看进程树、使用`kill`命令和`lsof`命令,分析了子... 目录零. 用到的命令一. 待执行的脚本二. 执行含子进程的脚本,并kill2.1 进程查看2.2 遇到的

详解SpringBoot+Ehcache使用示例

《详解SpringBoot+Ehcache使用示例》本文介绍了SpringBoot中配置Ehcache、自定义get/set方式,并实际使用缓存的过程,文中通过示例代码介绍的非常详细,对大家的学习或者... 目录摘要概念内存与磁盘持久化存储:配置灵活性:编码示例引入依赖:配置ehcache.XML文件:配置

Java 虚拟线程的创建与使用深度解析

《Java虚拟线程的创建与使用深度解析》虚拟线程是Java19中以预览特性形式引入,Java21起正式发布的轻量级线程,本文给大家介绍Java虚拟线程的创建与使用,感兴趣的朋友一起看看吧... 目录一、虚拟线程简介1.1 什么是虚拟线程?1.2 为什么需要虚拟线程?二、虚拟线程与平台线程对比代码对比示例:三

k8s按需创建PV和使用PVC详解

《k8s按需创建PV和使用PVC详解》Kubernetes中,PV和PVC用于管理持久存储,StorageClass实现动态PV分配,PVC声明存储需求并绑定PV,通过kubectl验证状态,注意回收... 目录1.按需创建 PV(使用 StorageClass)创建 StorageClass2.创建 PV

Redis 基本数据类型和使用详解

《Redis基本数据类型和使用详解》String是Redis最基本的数据类型,一个键对应一个值,它的功能十分强大,可以存储字符串、整数、浮点数等多种数据格式,本文给大家介绍Redis基本数据类型和... 目录一、Redis 入门介绍二、Redis 的五大基本数据类型2.1 String 类型2.2 Hash

Redis中Hash从使用过程到原理说明

《Redis中Hash从使用过程到原理说明》RedisHash结构用于存储字段-值对,适合对象数据,支持HSET、HGET等命令,采用ziplist或hashtable编码,通过渐进式rehash优化... 目录一、开篇:Hash就像超市的货架二、Hash的基本使用1. 常用命令示例2. Java操作示例三

Linux创建服务使用systemctl管理详解

《Linux创建服务使用systemctl管理详解》文章指导在Linux中创建systemd服务,设置文件权限为所有者读写、其他只读,重新加载配置,启动服务并检查状态,确保服务正常运行,关键步骤包括权... 目录创建服务 /usr/lib/systemd/system/设置服务文件权限:所有者读写js,其他