pyppeteer爬虫保存图片,python爬虫,完美

2024-08-27 23:04

本文主要是介绍pyppeteer爬虫保存图片,python爬虫,完美,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

#pip install pyppeteer,使用 Pyppeteer(异步方案)
import asyncio
import os
import randomimport requests
from pyppeteer import launch
async def main():browser = await launch()page = await browser.newPage()await page.goto('https://pic.sogou.com/pics?st=255&channel=vr&scene=pic_result&query=%E5%9B%BE%E7%89%87&rawQuery=%E5%9B%BE%E7%89%87&vrExpId=&vrAdParams=&hitKey=')# 获得标签对象img = await page.querySelectorAll("img")# 提取每个 img 标签的属性信息img_info = []for img_element in img:try:# 获得地址src = await img_element.getProperty('src')src_value = await src.jsonValue()# 获得图片名称alt = await img_element.getProperty('alt')alt_value = await alt.jsonValue() if alt else None# 获得图片格式if src_value:# 从 URL 中提取文件扩展名作为格式file_extension = src_value.split('.')[-1].lower()img_info.append({'src': src_value, '名称': alt_value, '格式': file_extension})# 判断url是否可以访问response = requests.get(src_value, timeout=5)  # 使用 requests 库进行判断,设置超时时间为 5 秒if response.status_code == 200:# 保存图片img_name = os.path.basename(src_value)print(f"可以访问:{src_value},保存图片:{img_name}")# 获得随机数random_number = random.randint(1000000, 9000000)# 这个保存如果没获得名称,格式失败,所以使用随机数+png# with open(f'dade/{img_name}', 'wb') as f:with open(f'dade/{random_number}.png', 'wb') as f:# 下载f.write(response.content)else:print(f"不可以访问:{src_value}")except Exception as e:print(f"出错啦: {e}")# 打印print(img_info)await browser.close()
asyncio.get_event_loop().run_until_complete(main())

这篇关于pyppeteer爬虫保存图片,python爬虫,完美的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1113028

相关文章

Python版本信息获取方法详解与实战

《Python版本信息获取方法详解与实战》在Python开发中,获取Python版本号是调试、兼容性检查和版本控制的重要基础操作,本文详细介绍了如何使用sys和platform模块获取Python的主... 目录1. python版本号获取基础2. 使用sys模块获取版本信息2.1 sys模块概述2.1.1

一文详解Python如何开发游戏

《一文详解Python如何开发游戏》Python是一种非常流行的编程语言,也可以用来开发游戏模组,:本文主要介绍Python如何开发游戏的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参考下... 目录一、python简介二、Python 开发 2D 游戏的优劣势优势缺点三、Python 开发 3D

Python函数作用域与闭包举例深度解析

《Python函数作用域与闭包举例深度解析》Python函数的作用域规则和闭包是编程中的关键概念,它们决定了变量的访问和生命周期,:本文主要介绍Python函数作用域与闭包的相关资料,文中通过代码... 目录1. 基础作用域访问示例1:访问全局变量示例2:访问外层函数变量2. 闭包基础示例3:简单闭包示例4

Python实现字典转字符串的五种方法

《Python实现字典转字符串的五种方法》本文介绍了在Python中如何将字典数据结构转换为字符串格式的多种方法,首先可以通过内置的str()函数进行简单转换;其次利用ison.dumps()函数能够... 目录1、使用json模块的dumps方法:2、使用str方法:3、使用循环和字符串拼接:4、使用字符

Python版本与package版本兼容性检查方法总结

《Python版本与package版本兼容性检查方法总结》:本文主要介绍Python版本与package版本兼容性检查方法的相关资料,文中提供四种检查方法,分别是pip查询、conda管理、PyP... 目录引言为什么会出现兼容性问题方法一:用 pip 官方命令查询可用版本方法二:conda 管理包环境方法

基于Python开发Windows自动更新控制工具

《基于Python开发Windows自动更新控制工具》在当今数字化时代,操作系统更新已成为计算机维护的重要组成部分,本文介绍一款基于Python和PyQt5的Windows自动更新控制工具,有需要的可... 目录设计原理与技术实现系统架构概述数学建模工具界面完整代码实现技术深度分析多层级控制理论服务层控制注

pycharm跑python项目易出错的问题总结

《pycharm跑python项目易出错的问题总结》:本文主要介绍pycharm跑python项目易出错问题的相关资料,当你在PyCharm中运行Python程序时遇到报错,可以按照以下步骤进行排... 1. 一定不要在pycharm终端里面创建环境安装别人的项目子模块等,有可能出现的问题就是你不报错都安装

Python打包成exe常用的四种方法小结

《Python打包成exe常用的四种方法小结》本文主要介绍了Python打包成exe常用的四种方法,包括PyInstaller、cx_Freeze、Py2exe、Nuitka,文中通过示例代码介绍的非... 目录一.PyInstaller11.安装:2. PyInstaller常用参数下面是pyinstal

Python爬虫HTTPS使用requests,httpx,aiohttp实战中的证书异步等问题

《Python爬虫HTTPS使用requests,httpx,aiohttp实战中的证书异步等问题》在爬虫工程里,“HTTPS”是绕不开的话题,HTTPS为传输加密提供保护,同时也给爬虫带来证书校验、... 目录一、核心问题与优先级检查(先问三件事)二、基础示例:requests 与证书处理三、高并发选型:

Python中isinstance()函数原理解释及详细用法示例

《Python中isinstance()函数原理解释及详细用法示例》isinstance()是Python内置的一个非常有用的函数,用于检查一个对象是否属于指定的类型或类型元组中的某一个类型,它是Py... 目录python中isinstance()函数原理解释及详细用法指南一、isinstance()函数