使用前嗅ForeSpider通过搜索框检索关键词采集数据

2024-06-02 01:38

本文主要是介绍使用前嗅ForeSpider通过搜索框检索关键词采集数据,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

第一步:新建任务

①点击左上角“加号”新建任务,如图1:

【图1】

②在弹窗里填写采集地址、任务名称,由于此次需要配置关键词,所以在新建任务时,需要勾选一下“关键词采集”如图2:

【图2】

③点击下一步,选择进行数据抽取还是链接抽取,本次采集需要采集列表页中正文的所有文本信息,所以此处需要勾选“抽取链接”-“普通翻页”,如图3:

【图3】

第二步:配置关键词

①由于在创建任务时,选择了关键词采集,所以此时,显示在任务层,如图4

 

【图4】

②按照右侧关键词配置步骤的提示(每个步骤按钮可以点击,如无此操作步骤,可直接跳过),开始配置关键词,如图5

<1>点击关键词,按照操作提示,按住ctrl+鼠标左键点击搜索框

<2>在完成步骤时,按住ctrl+鼠标左键点击搜索按钮

 

【图5】

③关键词列表处,填写关键词,并点击保存,如图6

【图6】

第三步:通过标题过滤,过滤翻页链接

①点击采集预览,我们可以发现,翻页链接即为名为:“下一页”的链接。对于翻页,只需要取到标题名为“下一页”的链接即可。

②这里应用标题过滤,过滤规则选择“包含”,过滤串填写“下一页”即可。如图7

 

【图7】

③点击采集预览查看是否过滤成功,如图8

【图8】

 

第四步:关联模板

在软件中模板的关联关系,与网页中链接跳转的关系相同。

①关联“链接列表”

根据网页跳转规律,将“链接列表”关联模板二“链接列表:02”,此处由于我们开始就选择了创建列表链接,所以软件自动关联好了模板二。如果配置的时候发现关联有问题,可以自己进行更改,如图9

 

【图9】

②关联“翻页”(对应第四步创建翻页链接抽取)

情况一:创建模板或通过向导,创建的翻页链接抽取,会默认关联模板一,即当前页模板,如图11。

情况二:手动点击按钮创建翻页链接抽取,需要手动关联,如图10。

【图10】

第五步:填写模板二示例地址并新建数据抽取

①模板一过滤得到的任意一条链接,作为模板二的示例地址。如:http://www.baidu.com/link?url=RU0aZHeU-o3LTp3pqyPDy6m9xoeE0vROyA-eypRcuOAGvNzA9E8VQuEI7aIxi1iKo4LBmC0xfOin7-ZclO50P9MfO4oL8uya5BmiX7V85Iz2lnXzs12I2tfb-g4fG9s1, 见图11:

 

【图11】

②新建数据抽取

方法一:通过点击“下一步”后勾选抽取数据,再次点击“下一步”得到数据抽取,如图12

方法二:直接点击模板二,点击上面“新建数据抽取”按钮,得到数据抽取,如图12

【图12】

 

第六步:创建/选择表单

在ForeSpider爬虫中,表单是可以复用的,所以可以在数据表单出直接选择之前建过的表单,也可以通过表单ID来进行查找并关联数据表单。此处使用的是之前建过的凤凰网的表单,如图13

方法一:通过下拉菜单或表单ID选择已有表单

方法二:点击创建表单进入快速建表页面,新建表单

 

【图13】

方法三:点击“采集配置”-“数据建表”,点击采“采集表单”后面的如图14

【图14】

第七步:配置表单

根据所需内容,配置表单字段(即表头),此处配置了包括网页标题、网页地址、全部文本三个字段,表单如图15

 

【图15】

第八步:字段取值

取值方法:由于网页标题和网页地址是可以自动取值的字段,所以我们只需要取到网页文本即可。

text字段,如图16

【图16】

第九步:模板预览

①鼠标右键点击“数据抽取”,然后点击“模板预览”,如图17

【图17】

②预览结果如图18

【图18】

第十步:采集预览

①点击右上角采集预览,如图19

【图19】

②点击任意一条链接,看看是否可以得到和网页对应的规整的数据,如图20

【图20】

这篇关于使用前嗅ForeSpider通过搜索框检索关键词采集数据的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1022685

相关文章

Spring Boot整合Redis注解实现增删改查功能(Redis注解使用)

《SpringBoot整合Redis注解实现增删改查功能(Redis注解使用)》文章介绍了如何使用SpringBoot整合Redis注解实现增删改查功能,包括配置、实体类、Repository、Se... 目录配置Redis连接定义实体类创建Repository接口增删改查操作示例插入数据查询数据删除数据更

使用python生成固定格式序号的方法详解

《使用python生成固定格式序号的方法详解》这篇文章主要为大家详细介绍了如何使用python生成固定格式序号,文中的示例代码讲解详细,具有一定的借鉴价值,有需要的小伙伴可以参考一下... 目录生成结果验证完整生成代码扩展说明1. 保存到文本文件2. 转换为jsON格式3. 处理特殊序号格式(如带圈数字)4

Java使用Swing生成一个最大公约数计算器

《Java使用Swing生成一个最大公约数计算器》这篇文章主要为大家详细介绍了Java使用Swing生成一个最大公约数计算器的相关知识,文中的示例代码讲解详细,感兴趣的小伙伴可以了解一下... 目录第一步:利用欧几里得算法计算最大公约数欧几里得算法的证明情形 1:b=0情形 2:b>0完成相关代码第二步:加

Java中流式并行操作parallelStream的原理和使用方法

《Java中流式并行操作parallelStream的原理和使用方法》本文详细介绍了Java中的并行流(parallelStream)的原理、正确使用方法以及在实际业务中的应用案例,并指出在使用并行流... 目录Java中流式并行操作parallelStream0. 问题的产生1. 什么是parallelS

Linux join命令的使用及说明

《Linuxjoin命令的使用及说明》`join`命令用于在Linux中按字段将两个文件进行连接,类似于SQL的JOIN,它需要两个文件按用于匹配的字段排序,并且第一个文件的换行符必须是LF,`jo... 目录一. 基本语法二. 数据准备三. 指定文件的连接key四.-a输出指定文件的所有行五.-o指定输出

Linux jq命令的使用解读

《Linuxjq命令的使用解读》jq是一个强大的命令行工具,用于处理JSON数据,它可以用来查看、过滤、修改、格式化JSON数据,通过使用各种选项和过滤器,可以实现复杂的JSON处理任务... 目录一. 简介二. 选项2.1.2.2-c2.3-r2.4-R三. 字段提取3.1 普通字段3.2 数组字段四.

Linux kill正在执行的后台任务 kill进程组使用详解

《Linuxkill正在执行的后台任务kill进程组使用详解》文章介绍了两个脚本的功能和区别,以及执行这些脚本时遇到的进程管理问题,通过查看进程树、使用`kill`命令和`lsof`命令,分析了子... 目录零. 用到的命令一. 待执行的脚本二. 执行含子进程的脚本,并kill2.1 进程查看2.2 遇到的

详解SpringBoot+Ehcache使用示例

《详解SpringBoot+Ehcache使用示例》本文介绍了SpringBoot中配置Ehcache、自定义get/set方式,并实际使用缓存的过程,文中通过示例代码介绍的非常详细,对大家的学习或者... 目录摘要概念内存与磁盘持久化存储:配置灵活性:编码示例引入依赖:配置ehcache.XML文件:配置

Java 虚拟线程的创建与使用深度解析

《Java虚拟线程的创建与使用深度解析》虚拟线程是Java19中以预览特性形式引入,Java21起正式发布的轻量级线程,本文给大家介绍Java虚拟线程的创建与使用,感兴趣的朋友一起看看吧... 目录一、虚拟线程简介1.1 什么是虚拟线程?1.2 为什么需要虚拟线程?二、虚拟线程与平台线程对比代码对比示例:三

k8s按需创建PV和使用PVC详解

《k8s按需创建PV和使用PVC详解》Kubernetes中,PV和PVC用于管理持久存储,StorageClass实现动态PV分配,PVC声明存储需求并绑定PV,通过kubectl验证状态,注意回收... 目录1.按需创建 PV(使用 StorageClass)创建 StorageClass2.创建 PV