python爬虫:获取选集内容,并转换成csdn标题的形式

2023-12-29 19:08

本文主要是介绍python爬虫:获取选集内容,并转换成csdn标题的形式,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

python爬虫:获取选集内容,并转换成csdn标题的形式,方便做笔记

  • 效果展示
  • 代码
  • 爬虫浏览器chrome安装

效果展示

python爬虫结果
在这里插入图片描述

直接复制到csdn的markdown编辑器就可以用了
在这里插入图片描述

由于审核问题,爬的是哪个学习网站的视频就自己体会了。

代码

# coding: utf-8
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.support.wait import WebDriverWaitclass Item:page_num = ""part = ""duration = ""def __init__(self, page_num, part, duration):self.page_num = page_numself.part = partself.duration = durationdef get_second(self):str_list = self.duration.split(":")sum = 0for i, item in enumerate(str_list):sum += pow(60, len(str_list) - i - 1) * int(item)return sumdef get_bilili_page_items(url):options = webdriver.ChromeOptions()options.add_argument('--headless')  # 设置无界面options.add_experimental_option('excludeSwitches', ['enable-automation'])browser = webdriver.Chrome(options=options)print("正在打开网页...")browser.get(url)print("等待网页响应...")# 需要等一下,直到页面加载完成wait = WebDriverWait(browser, 10)wait.until(EC.visibility_of_element_located((By.XPATH, '//*[@class="list-box"]/li/a')))print("正在获取网页数据...\n")# 获取视频总集标题,这句有时候会找不到标题标签,要选择标题浏览页面源码,看标题标签的名字if browser.find_element(by=By.XPATH, value='//*[@class="tit"]'):title = browser.find_element(by=By.XPATH, value='//*[@class="tit"]').textelif browser.find_element(by=By.XPATH, value='//*[@class="tit tr-fix"]'):title = browser.find_element(by=By.XPATH, value='//*[@class="tit tr-fix"]').textelse:title = ''print('@[TOC]('+title+' 笔记)')print('# 教程与代码地址')print('笔记中,图片和代码基本源自up主的视频和代码\n')print('视频地址:[' + title + ']('+ url + ')')print('代码地址:[]()')print('讲义地址:[]()')print('如果想要爬虫视频网站一样的csdn目录,可以去这里下载代码:[https://github.com/JeffreyLeal/MyUtils/tree/%E7%88%AC%E8%99%AB%E5%B7%A5%E5%85%B71](https://github.com/JeffreyLeal/MyUtils/tree/%E7%88%AC%E8%99%AB%E5%B7%A5%E5%85%B71)')# 获取视频分集标题列表list = browser.find_elements(by=By.XPATH, value='//*[@class="list-box"]/li')# print(list)itemList = []second_sum = 0# 2.循环遍历出每一条搜索结果的标题for t in list:# print("t text:",t.text)element = t.find_element(by=By.TAG_NAME, value='a')# print("a text:",element.text)arr = element.text.split('\n')# 以csdn目录的格式输出,把 'p1','p1的标题','视频长度' -> '#','p1','p1的标题'# arr[0], arr[1], arr[2] = '#', arr[0], arr[1]print("# " + arr[0] + ' ' + arr[1])# item = Item(arr[0], arr[1], arr[2])# 计算时长# second_sum += item.get_second()# itemList.append(item)# print("总数量:", len(itemList))# 显示时长# print("总时长/分钟:", round(second_sum / 60, 2))# print("总时长/小时:", round(second_sum / 3600.0, 2))browser.close()return itemList#此处输入b站视频地址,需要安装chrome浏览器
url = "https://www.bilibili.com/video/BV17y4y1m737"
get_bilili_page_items(url)

需要安装selenium包才能运行代码,代码源自: 这里。他的代码没什么问题,只是在他已有的基础上做了一点点修改,并把deprecated的语法替换了。爬虫使用的浏览器是chrome,他的文章没有详细说明具体怎么配置,这个文章讲述了怎么配置驱动的下载与配置 解决:‘chromedriver’ executable needs to be in PATH问题.

爬虫浏览器chrome安装

解决浏览器更新导致驱动版本不匹配的方法如下:
这个链接可以下载指定的chrome浏览器版本: 下载指定的浏览器版本.

但由于chrome自带更新,导致驱动升级跟不上,很容易造成爬虫失败:
设置chrome不自动更新: 如何禁止Chrome浏览器版本自动更新的方法.

这篇关于python爬虫:获取选集内容,并转换成csdn标题的形式的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/550420

相关文章

使用Python删除Excel中的行列和单元格示例详解

《使用Python删除Excel中的行列和单元格示例详解》在处理Excel数据时,删除不需要的行、列或单元格是一项常见且必要的操作,本文将使用Python脚本实现对Excel表格的高效自动化处理,感兴... 目录开发环境准备使用 python 删除 Excphpel 表格中的行删除特定行删除空白行删除含指定

Python通用唯一标识符模块uuid使用案例详解

《Python通用唯一标识符模块uuid使用案例详解》Pythonuuid模块用于生成128位全局唯一标识符,支持UUID1-5版本,适用于分布式系统、数据库主键等场景,需注意隐私、碰撞概率及存储优... 目录简介核心功能1. UUID版本2. UUID属性3. 命名空间使用场景1. 生成唯一标识符2. 数

Python办公自动化实战之打造智能邮件发送工具

《Python办公自动化实战之打造智能邮件发送工具》在数字化办公场景中,邮件自动化是提升工作效率的关键技能,本文将演示如何使用Python的smtplib和email库构建一个支持图文混排,多附件,多... 目录前言一、基础配置:搭建邮件发送框架1.1 邮箱服务准备1.2 核心库导入1.3 基础发送函数二、

Python包管理工具pip的升级指南

《Python包管理工具pip的升级指南》本文全面探讨Python包管理工具pip的升级策略,从基础升级方法到高级技巧,涵盖不同操作系统环境下的最佳实践,我们将深入分析pip的工作原理,介绍多种升级方... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核

基于Python实现一个图片拆分工具

《基于Python实现一个图片拆分工具》这篇文章主要为大家详细介绍了如何基于Python实现一个图片拆分工具,可以根据需要的行数和列数进行拆分,感兴趣的小伙伴可以跟随小编一起学习一下... 简单介绍先自己选择输入的图片,默认是输出到项目文件夹中,可以自己选择其他的文件夹,选择需要拆分的行数和列数,可以通过

Python中反转字符串的常见方法小结

《Python中反转字符串的常见方法小结》在Python中,字符串对象没有内置的反转方法,然而,在实际开发中,我们经常会遇到需要反转字符串的场景,比如处理回文字符串、文本加密等,因此,掌握如何在Pyt... 目录python中反转字符串的方法技术背景实现步骤1. 使用切片2. 使用 reversed() 函

Python中将嵌套列表扁平化的多种实现方法

《Python中将嵌套列表扁平化的多种实现方法》在Python编程中,我们常常会遇到需要将嵌套列表(即列表中包含列表)转换为一个一维的扁平列表的需求,本文将给大家介绍了多种实现这一目标的方法,需要的朋... 目录python中将嵌套列表扁平化的方法技术背景实现步骤1. 使用嵌套列表推导式2. 使用itert

使用Docker构建Python Flask程序的详细教程

《使用Docker构建PythonFlask程序的详细教程》在当今的软件开发领域,容器化技术正变得越来越流行,而Docker无疑是其中的佼佼者,本文我们就来聊聊如何使用Docker构建一个简单的Py... 目录引言一、准备工作二、创建 Flask 应用程序三、创建 dockerfile四、构建 Docker

Python使用vllm处理多模态数据的预处理技巧

《Python使用vllm处理多模态数据的预处理技巧》本文深入探讨了在Python环境下使用vLLM处理多模态数据的预处理技巧,我们将从基础概念出发,详细讲解文本、图像、音频等多模态数据的预处理方法,... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核

Python使用pip工具实现包自动更新的多种方法

《Python使用pip工具实现包自动更新的多种方法》本文深入探讨了使用Python的pip工具实现包自动更新的各种方法和技术,我们将从基础概念开始,逐步介绍手动更新方法、自动化脚本编写、结合CI/C... 目录1. 背景介绍1.1 目的和范围1.2 预期读者1.3 文档结构概述1.4 术语表1.4.1 核