使用前嗅ForeSpider在同一个网站中从另一页面采集数据

2024-06-02 01:38

本文主要是介绍使用前嗅ForeSpider在同一个网站中从另一页面采集数据,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

第一步:新建任务

①点击左上角“加号”新建任务,如图1:

【图1】

②在弹窗里填写采集地址,任务名称,如图2:

【图2】

③点击下一步,选择进行数据抽取还是链接抽取,本次采集企业最新动态链接列表,所以点击抽取链接,选择链接列表,如图3:

【图3】

④完成之后,在模板抽取配置下生成两个模板,默认模板:01和链接列表:02。模板1中的“链接列表”链接抽取已与模板2关联,如图4。如果配置的时候发现关联有问题,可以自己进行更改。

【图4】

第二步:使用定位过滤,得到列表链接

①按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

②点击确认选区,如图5:

【图5】

③点击采集预览,确认链接抽取是否正确,如图6:

【图6】

第三步:在模板2添加示例地址,并添加链接抽取

①将模板1过滤得到的任意一条链接,作为模板2的示例地址。如:http://blog.11467.com/b427516.htm,如图7:

【图7】

②新建链接抽取。直接点击模板2,点击上面“新建链接抽取”按钮,得到链接抽取,如图8。

【图8】

③关联模板

在软件中模板的关联关系,与网页中链接跳转的关系相同。

根据网页跳转规律,模板1中的“链接列表”链接抽取已与模板2关联。如果配置的时候发现关联有问题,可以自己进行更改。

 

第四步:使用定位过滤,得到列表链接

①按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

②点击确认选区,如图9:

【图9】

③右击模板预览,查看链接抽取结果,如图10所示:

【图10】

④确认链接抽取是否正确,如图11:

【图11】

第五步:新建模板3添加示例地址,并添加链接抽取

①新建模板3,将模板2过滤得到的链接,作为模板3的示例地址。如:http://93358999.b2b.11467.com,如图12:

【图12】

②新建链接抽取。直接点击模板3,点击上面“新建链接抽取”按钮,得到链接抽取,如图13。

【图13】

③关联链接列表的“新建链接抽取”。

根据网页跳转规律,将模板2链接列表的“新建链接抽取”关联模板3。如果配置的时候发现关联有问题,可以自己进行更改,如图14:

【图14】

第六步:使用定位过滤,得到导航列表的链接

①按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

②点击确认选区,如图15:

【图15】

③右击模板预览,查看链接抽取结果,如图16所示:

【图16】

④确认链接抽取是否正确,如图17:

【图17】

⑤使用标题过滤,得到“联系我们”的链接,如图18所示:

【图18】

第七步:新建模板4添加示例地址,并添加链接抽取

①新建模板4,将模板3过滤得到的“联系我们”链接,作为模板4的示例地址。如:http://tianjin0311065.11467.com/contact.asp,如图19:

【图19】

②新建数据抽取。直接点击模板3,点击上面“新建数据抽取”按钮,得到数据抽取,如图20。

【图20】

③关联模板3的“新建链接抽取”。

根据网页跳转规律,将模板3的“新建链接抽取”关联模板4。如果配置的时候发现关联有问题,可以自己进行更改,如图21:

【图21】

第八步:创建/选择表单

在ForeSpider爬虫中,表单是可以复用的,所以可以在数据表单出直接选择之前建过的表单,也可以通过表单ID来进行查找并关联数据表单。此处使用的是方法三。

方法一:通过下拉菜单或表单ID选择已有表单

方法二:点击创建表单进入快速建表页面,新建表单,如图22所示。

【图22】

方法三:点击“采集配置”-“数据建表”,点击采“采集表单”后面的,如图23:

【图23】

第九步:配置表单

根据所需内容,配置表单字段(即表头),此处配置了包括网页主键、联系人、电话、地址以及公司介绍五个字段。其中,公司介绍字段intro_text的取值在同一网站的不同页面,需要用到脚本取值,配置类型时需要选择高级取值>模板取值,表单如图24:

【图24】

第十步:字段取值

①关联表单,如图25所示:

【图25】

②取值方法:按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域。

person、tel、addr字段,如图26:

【图26】

③intro_text字段需要进行模板取值。

 

第十一步:创建新的模板,添加示例地址

①表单intro_text字段来自公司介绍,如图27所示。

【图27】

图中红框部分为取值内容,如图28所示:

【图28】

②新建模板,添加“公司介绍”链接为示例地址,如:http://93358999.b2b.11467.com/about.asp(模板3右击模板预览,选择全部链接),如图29所示:

【图29】

③直接点击模板5,点击上面“新建数据抽取”按钮,得到数据抽取,如图30:

【图30】

第十二步:创建/选择表单

点击“采集配置”-“数据建表”,点击采“采集表单”后面的,如图31:

【图31】

第十三步:配置表单

根据所需内容,配置表单字段(即表头),此处配置了“公司介绍”字段intro_text表单如图32:

【图32】

第十四步:关联表单,完成“公司介绍”字段抽取

①点击模板5,关联表单,如图33所示:

【图33】

②使用字段定位取值方法。

按住Ctrl+鼠标左键,进行区域选择,按住Shift+鼠标左键,扩大选择区域,确认选区,如图34所示。

【图34】

③右击模板预览,如图35所示:

【图35】

④模板预览结果,如图36所示:

【图36】

第十五步:模板取值关联

①点击模板4,点击intro_text字段,在红框中填入“href=[5]”,并按住Ctrl+鼠标左键,进行区域选择,如图37所示。

“[ ]”中填写模板ID。

【图37】

②点击模板4,右击模板预览,如图38所示:

【图38】

③预览结果如图39所示:

【图39】

第十六步:采集预览

①点击右上角采集预览,如图40:

【图40】

②双击任意一条链接,看看是否可以得到和网页对应的规整的数据,如图41、42、43所示。

【图41】

【图42】

【图43】

这篇关于使用前嗅ForeSpider在同一个网站中从另一页面采集数据的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1022687

相关文章

Java使用jar命令配置服务器端口的完整指南

《Java使用jar命令配置服务器端口的完整指南》本文将详细介绍如何使用java-jar命令启动应用,并重点讲解如何配置服务器端口,同时提供一个实用的Web工具来简化这一过程,希望对大家有所帮助... 目录1. Java Jar文件简介1.1 什么是Jar文件1.2 创建可执行Jar文件2. 使用java

C#使用Spire.Doc for .NET实现HTML转Word的高效方案

《C#使用Spire.Docfor.NET实现HTML转Word的高效方案》在Web开发中,HTML内容的生成与处理是高频需求,然而,当用户需要将HTML页面或动态生成的HTML字符串转换为Wor... 目录引言一、html转Word的典型场景与挑战二、用 Spire.Doc 实现 HTML 转 Word1

Java中的抽象类与abstract 关键字使用详解

《Java中的抽象类与abstract关键字使用详解》:本文主要介绍Java中的抽象类与abstract关键字使用详解,本文通过实例代码给大家介绍的非常详细,感兴趣的朋友跟随小编一起看看吧... 目录一、抽象类的概念二、使用 abstract2.1 修饰类 => 抽象类2.2 修饰方法 => 抽象方法,没有

MyBatis ParameterHandler的具体使用

《MyBatisParameterHandler的具体使用》本文主要介绍了MyBatisParameterHandler的具体使用,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参... 目录一、概述二、源码1 关键属性2.setParameters3.TypeHandler1.TypeHa

Spring 中的切面与事务结合使用完整示例

《Spring中的切面与事务结合使用完整示例》本文给大家介绍Spring中的切面与事务结合使用完整示例,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考... 目录 一、前置知识:Spring AOP 与 事务的关系 事务本质上就是一个“切面”二、核心组件三、完

使用docker搭建嵌入式Linux开发环境

《使用docker搭建嵌入式Linux开发环境》本文主要介绍了使用docker搭建嵌入式Linux开发环境,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面... 目录1、前言2、安装docker3、编写容器管理脚本4、创建容器1、前言在日常开发全志、rk等不同

使用Python实现Word文档的自动化对比方案

《使用Python实现Word文档的自动化对比方案》我们经常需要比较两个Word文档的版本差异,无论是合同修订、论文修改还是代码文档更新,人工比对不仅效率低下,还容易遗漏关键改动,下面通过一个实际案例... 目录引言一、使用python-docx库解析文档结构二、使用difflib进行差异比对三、高级对比方

MyBatis-plus处理存储json数据过程

《MyBatis-plus处理存储json数据过程》文章介绍MyBatis-Plus3.4.21处理对象与集合的差异:对象可用内置Handler配合autoResultMap,集合需自定义处理器继承F... 目录1、如果是对象2、如果需要转换的是List集合总结对象和集合分两种情况处理,目前我用的MP的版本

sky-take-out项目中Redis的使用示例详解

《sky-take-out项目中Redis的使用示例详解》SpringCache是Spring的缓存抽象层,通过注解简化缓存管理,支持Redis等提供者,适用于方法结果缓存、更新和删除操作,但无法实现... 目录Spring Cache主要特性核心注解1.@Cacheable2.@CachePut3.@Ca

C#下Newtonsoft.Json的具体使用

《C#下Newtonsoft.Json的具体使用》Newtonsoft.Json是一个非常流行的C#JSON序列化和反序列化库,它可以方便地将C#对象转换为JSON格式,或者将JSON数据解析为C#对... 目录安装 Newtonsoft.json基本用法1. 序列化 C# 对象为 JSON2. 反序列化