【毕设扫描器】【动态爬虫】CrawlerGo源码分析1:主文件cli库的使用

2024-01-19 08:18

本文主要是介绍【毕设扫描器】【动态爬虫】CrawlerGo源码分析1:主文件cli库的使用,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

    • 配置运行参数
    • main函数重要代码:cli结构
        • 介绍和简单使用
    • 结合源码分析
        • cli 库的定义:75-258行(大体完成阅读)

配置运行参数

入口文件:根据项目提供的编译命令找到入口文件 crawlergo_cmd.go

入口函数:找到65行的 func main()函数,在主函数的代码中下断点。

配置:添加程序实参

(chrome程序路径必须加引号,否则会报错:navigate timeout http://127.0.0.1/upload-labs-master/)

(取消了参数-o json,这样就不会在命令行/控制台、打印比较混乱的Json结果数据)

-c "C:\Program Files\Google\Chrome\Application\chrome.exe" --output-json debug.json http://127.0.0.1/upload-labs-master/

验证配置是否正确:运行程序,发现程序退出。经过验证,在配置中为Chrome路径添加引号,成功执行程序。

生成编译程序 go_build_crawlergo_cmd_go.exe、以及爬虫结果文件 debug.json

main函数重要代码:cli结构

介绍和简单使用

参考:Go 每日一库之 cli

介绍:cli是一个用于构建命令行程序的库,所有的初始化操作就是创建一个cli.App结构的对象。通过为对象的字段赋值来添加相应的功能。

示例:理论上创建一个 cli.App 结构的对象,然后调用其 Run() 方法,传入命令行的参数即可。空白的cli程序如下:

func main(){(&cli.App{}).Run(os.Args)
}

说明文档:https://github.com/urfave/cli/。官方一个完整示例,分析过程见代码注释部分。

func main(){// 定义 cli.App{} 作为应用app := &cli.App{Name: "",				// 工具名称,会显示在帮助中Usage: "",			// 工具参数,会显示在帮助中// 接收命令行参数,开始执行定义的动作Action: func(c *cli.Context) error {},	}// 调用 cli.App{}.Run() 执行动作,动作接收命令行参数作为形参// 动作执行结果赋值给err变量,用于判断执行是否出错err := app.Run(os.Args)// 如果出错则打印错误信息if err != nil {log.Fatal(err)}
}
cli库小结应用说明
内置字典对象1 cli.App{}cli库的信息对象定义横幅、主要执行方法
内置键.Run(os.Args)接收命令行参数,执行Action键值中的方法
自定义键help打印信息
内置键字典 FlagsFlags字段是[]cli.Flag类型,用于添加选项
选项cli为常见类型都实现了对应的XxxFlag共用字段有:Name/Value/Usage
选项选项是通过c.Type(name)来获取的例如 if c.String(“lang”) == “english”
存入变量将选项存到某个预先定义好的变量中只需要设置Destination字段为变量的地址
选项的必要性声明Required: true,
---
内置对象2 cli.Context()可以获取传给命令行的参数信息-
-NArg()返回参数个数-
-Args()返回cli.Args对象调用其Get(i)获取位置i上的参数

结合源码分析

cli 库的定义:75-258行(大体完成阅读)
func main() {// cli 代码的漏网之鱼:72-74行// 定义 cli.App{}:75-252行app := &cli.App{声明帮助文本声明选项1 Chrome.exe 路径 {Aliases:     []string{"c"},				// 命令行输入参数的别名,例如-c chromePathDestination: &taskConfig.ChromiumPath	// 可以事先存入变量声明选项2 User-Agent 字段声明选项3 Post 数据 {Aliases:     []string{"d"},				// 输入参数的别名, -d a=1&b=2Destination: &taskConfig.MaxCrawlCount,	// 也可以事先存入声明选项4 过滤器模式 {Aliases:     []string{"f"},Usage:       "filtering `Mode` used for collected requests. Allowed mode:\"simple\", \"smart\" or \"strict\".",声明选项5 输出数据位置声明选项6 输出文件格式声明选项7 以隐匿形式启动浏览器声明选项8 最大线程Name:        "max-tab-count",Aliases:     []string{"t"},Value:       8,Usage:       "maximum `Number` of tabs allowed.",声明选项9 使用一般路径对目标进行Fuzz测试声明选项10 路径Fuzz字典Name:        "fuzz-path-dict",Usage:       "`Path` of fuzz dict. Such as \"/home/test/fuzz_path.txt\"",声明选项11 是否从 robots.txt 寻找路径声明选项12 请求代理声明选项13 是否对url进行编码声明选项14 单线程的超时时间……Action: runerr := app.Run(os.Args)if err != nil {logger.Logger.Fatal(err)}}
}

这篇关于【毕设扫描器】【动态爬虫】CrawlerGo源码分析1:主文件cli库的使用的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/621796

相关文章

Nginx屏蔽服务器名称与版本信息方式(源码级修改)

《Nginx屏蔽服务器名称与版本信息方式(源码级修改)》本文详解如何通过源码修改Nginx1.25.4,移除Server响应头中的服务类型和版本信息,以增强安全性,需重新配置、编译、安装,升级时需重复... 目录一、背景与目的二、适用版本三、操作步骤修改源码文件四、后续操作提示五、注意事项六、总结一、背景与

Android实现图片浏览功能的示例详解(附带源码)

《Android实现图片浏览功能的示例详解(附带源码)》在许多应用中,都需要展示图片并支持用户进行浏览,本文主要为大家介绍了如何通过Android实现图片浏览功能,感兴趣的小伙伴可以跟随小编一起学习一... 目录一、项目背景详细介绍二、项目需求详细介绍三、相关技术详细介绍四、实现思路详细介绍五、完整实现代码

在Android中使用WebView在线查看PDF文件的方法示例

《在Android中使用WebView在线查看PDF文件的方法示例》在Android应用开发中,有时我们需要在客户端展示PDF文件,以便用户可以阅读或交互,:本文主要介绍在Android中使用We... 目录简介:1. WebView组件介绍2. 在androidManifest.XML中添加Interne

Java Stream流与使用操作指南

《JavaStream流与使用操作指南》Stream不是数据结构,而是一种高级的数据处理工具,允许你以声明式的方式处理数据集合,类似于SQL语句操作数据库,本文给大家介绍JavaStream流与使用... 目录一、什么是stream流二、创建stream流1.单列集合创建stream流2.双列集合创建str

Python使用FastAPI实现大文件分片上传与断点续传功能

《Python使用FastAPI实现大文件分片上传与断点续传功能》大文件直传常遇到超时、网络抖动失败、失败后只能重传的问题,分片上传+断点续传可以把大文件拆成若干小块逐个上传,并在中断后从已完成分片继... 目录一、接口设计二、服务端实现(FastAPI)2.1 运行环境2.2 目录结构建议2.3 serv

Spring Security简介、使用与最佳实践

《SpringSecurity简介、使用与最佳实践》SpringSecurity是一个能够为基于Spring的企业应用系统提供声明式的安全访问控制解决方案的安全框架,本文给大家介绍SpringSec... 目录一、如何理解 Spring Security?—— 核心思想二、如何在 Java 项目中使用?——

springboot中使用okhttp3的小结

《springboot中使用okhttp3的小结》OkHttp3是一个JavaHTTP客户端,可以处理各种请求类型,比如GET、POST、PUT等,并且支持高效的HTTP连接池、请求和响应缓存、以及异... 在 Spring Boot 项目中使用 OkHttp3 进行 HTTP 请求是一个高效且流行的方式。

Java使用Javassist动态生成HelloWorld类

《Java使用Javassist动态生成HelloWorld类》Javassist是一个非常强大的字节码操作和定义库,它允许开发者在运行时创建新的类或者修改现有的类,本文将简单介绍如何使用Javass... 目录1. Javassist简介2. 环境准备3. 动态生成HelloWorld类3.1 创建CtC

使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解

《使用Python批量将.ncm格式的音频文件转换为.mp3格式的实战详解》本文详细介绍了如何使用Python通过ncmdump工具批量将.ncm音频转换为.mp3的步骤,包括安装、配置ffmpeg环... 目录1. 前言2. 安装 ncmdump3. 实现 .ncm 转 .mp34. 执行过程5. 执行结

Java使用jar命令配置服务器端口的完整指南

《Java使用jar命令配置服务器端口的完整指南》本文将详细介绍如何使用java-jar命令启动应用,并重点讲解如何配置服务器端口,同时提供一个实用的Web工具来简化这一过程,希望对大家有所帮助... 目录1. Java Jar文件简介1.1 什么是Jar文件1.2 创建可执行Jar文件2. 使用java