HtmlAgilityPack使用(二)【爬取每日一文】

2023-10-18 12:40

本文主要是介绍HtmlAgilityPack使用(二)【爬取每日一文】,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Program.cs代码:

using HtmlAgilityPack;
using System;
using System.IO;
using System.Linq;namespace MyDemo
{class Program{static void Main(string[] args){for (int i = 0; i < 100; i++){var url = "https://meiriyiwen.com/random/";HtmlWeb web = new HtmlWeb();HtmlDocument doc = web.Load(url);HtmlNode node = doc.DocumentNode.SelectSingleNode("//*[@id=\"article_show\"]");node.Descendants().Where(n => n.Name == "script" || n.Name == "style" || n.Name == "#comment" || n.Id == "bdshare").ToList().ForEach(n => n.Remove());var title = node.SelectSingleNode("//h1").InnerText;var author = node.SelectSingleNode("//*[@class=\"article_author\"]").InnerText;var article = node.SelectSingleNode("//*[@class=\"article_text\"]").InnerText.TrimStart();Console.WriteLine(title + "\r\n");Console.WriteLine(author + "\r\n");Console.WriteLine(article);using (FileStream fs = new FileStream(Environment.CurrentDirectory+@"\Article\" + title + "-" + author + ".txt", FileMode.OpenOrCreate)){StreamWriter stream = new StreamWriter(fs);stream.WriteLine(title + "\r\n");stream.WriteLine(author + "\r\n");stream.WriteLine(article);stream.Close();stream.Dispose();}}}}
}


运行结果如图:

这里写图片描述


这篇关于HtmlAgilityPack使用(二)【爬取每日一文】的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/232635

相关文章

HTML5的input标签的`type`属性值详解和代码示例

《HTML5的input标签的`type`属性值详解和代码示例》HTML5的`input`标签提供了多种`type`属性值,用于创建不同类型的输入控件,满足用户输入的多样化需求,从文本输入、密码输入、... 目录一、引言二、文本类输入类型2.1 text2.2 password2.3 textarea(严格

Python数据验证神器Pydantic库的使用和实践中的避坑指南

《Python数据验证神器Pydantic库的使用和实践中的避坑指南》Pydantic是一个用于数据验证和设置的库,可以显著简化API接口开发,文章通过一个实际案例,展示了Pydantic如何在生产环... 目录1️⃣ 崩溃时刻:当你的API接口又双叒崩了!2️⃣ 神兵天降:3行代码解决验证难题3️⃣ 深度

Linux内核定时器使用及说明

《Linux内核定时器使用及说明》文章详细介绍了Linux内核定时器的特性、核心数据结构、时间相关转换函数以及操作API,通过示例展示了如何编写和使用定时器,包括按键消抖的应用... 目录1.linux内核定时器特征2.Linux内核定时器核心数据结构3.Linux内核时间相关转换函数4.Linux内核定时

python中的flask_sqlalchemy的使用及示例详解

《python中的flask_sqlalchemy的使用及示例详解》文章主要介绍了在使用SQLAlchemy创建模型实例时,通过元类动态创建实例的方式,并说明了如何在实例化时执行__init__方法,... 目录@orm.reconstructorSQLAlchemy的回滚关联其他模型数据库基本操作将数据添

Spring配置扩展之JavaConfig的使用小结

《Spring配置扩展之JavaConfig的使用小结》JavaConfig是Spring框架中基于纯Java代码的配置方式,用于替代传统的XML配置,通过注解(如@Bean)定义Spring容器的组... 目录JavaConfig 的概念什么是JavaConfig?为什么使用 JavaConfig?Jav

Java使用Spire.Doc for Java实现Word自动化插入图片

《Java使用Spire.DocforJava实现Word自动化插入图片》在日常工作中,Word文档是不可或缺的工具,而图片作为信息传达的重要载体,其在文档中的插入与布局显得尤为关键,下面我们就来... 目录1. Spire.Doc for Java库介绍与安装2. 使用特定的环绕方式插入图片3. 在指定位

Springboot3 ResponseEntity 完全使用案例

《Springboot3ResponseEntity完全使用案例》ResponseEntity是SpringBoot中控制HTTP响应的核心工具——它能让你精准定义响应状态码、响应头、响应体,相比... 目录Spring Boot 3 ResponseEntity 完全使用教程前置准备1. 项目基础依赖(M

Java使用Spire.Barcode for Java实现条形码生成与识别

《Java使用Spire.BarcodeforJava实现条形码生成与识别》在现代商业和技术领域,条形码无处不在,本教程将引导您深入了解如何在您的Java项目中利用Spire.Barcodefor... 目录1. Spire.Barcode for Java 简介与环境配置2. 使用 Spire.Barco

Android使用java实现网络连通性检查详解

《Android使用java实现网络连通性检查详解》这篇文章主要为大家详细介绍了Android使用java实现网络连通性检查的相关知识,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录NetCheck.Java(可直接拷贝)使用示例(Activity/Fragment 内)权限要求

SpringBoot返回文件让前端下载的几种方式

《SpringBoot返回文件让前端下载的几种方式》文章介绍了开发中文件下载的两种常见解决方案,并详细描述了通过后端进行下载的原理和步骤,包括一次性读取到内存和分块写入响应输出流两种方法,此外,还提供... 目录01 背景02 一次性读取到内存,通过响应输出流输出到前端02 将文件流通过循环写入到响应输出流