Python爬虫:爬取北京师范大学珠海分校课程表

2024-03-11 22:20

本文主要是介绍Python爬虫:爬取北京师范大学珠海分校课程表,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

本篇文章只是记录一下python课的小作业而已没啥技术含量。(顺便练练Markdown语法?)

需要的库:

  • requests:请求网站
  • bs4:用于解析HTML文件
  • PIL:图像处理标准库,看验证码
  • lxml:依旧是一个很好用的解析库
  • io

实现过程:

模拟登陆:

准备工作

  • 打开教务网站,再打开开发者工具,有一个network选项,登陆后能看你的登录操作提交了哪些东西,我们就是要来模拟这个。
    登陆之前打开这个
    登陆之后:一般正方的教务系统都是这个文件

    在这里插入图片描述
  • __VIEWSTATE和__EVENTVALIDATION每一次打开登录界面都不同,在模拟登陆之前,我们还得要提前提取这两个信息。
    ‘TextBox1’: 学号
    ‘TextBox2’:密码
    ‘TextBox3’:验证码

session可以保持连接并多次请求
index就是教务网站的 html

session=requests.session()#能够帮我们跨请求保持某些参数,也会在同一个session实例发出的所有请求之间保持cookies。
url="http://es.bnuz.edu.cn/"
login_page=session.get(url,headers=headers)

我们先构造这个字典

datas={  'TextBox1':'',  'TextBox2':'',  'TextBox3':'',  'RadioButtonList1':u"学生".encode('gb2312','replace'),  'Button4_test': '',  '__VIEWSTATE':'',  '__EVENTVALIDATION':'',  '_VIEWSTATEGENERATOR':'',  '__PREVIOUSPAGE':''  }  

验证码:

只有学号和密码是不能登录的,我们还要拿到它的验证码。
验证码图片可以通过开发者工具里面找到其src:
http://es.bnuz.edu.cn/CheckCode.aspx
再利用图片标准库在python中打开这个图片

def get_check_code(checkcode,session,headers):img = session.get(checkcode, stream=True, headers=headers)check_code = int

这篇关于Python爬虫:爬取北京师范大学珠海分校课程表的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/799259

相关文章

使用Python和OpenCV库实现实时颜色识别系统

《使用Python和OpenCV库实现实时颜色识别系统》:本文主要介绍使用Python和OpenCV库实现的实时颜色识别系统,这个系统能够通过摄像头捕捉视频流,并在视频中指定区域内识别主要颜色(红... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间详解

一文深入详解Python的secrets模块

《一文深入详解Python的secrets模块》在构建涉及用户身份认证、权限管理、加密通信等系统时,开发者最不能忽视的一个问题就是“安全性”,Python在3.6版本中引入了专门面向安全用途的secr... 目录引言一、背景与动机:为什么需要 secrets 模块?二、secrets 模块的核心功能1. 基

python常见环境管理工具超全解析

《python常见环境管理工具超全解析》在Python开发中,管理多个项目及其依赖项通常是一个挑战,下面:本文主要介绍python常见环境管理工具的相关资料,文中通过代码介绍的非常详细,需要的朋友... 目录1. conda2. pip3. uvuv 工具自动创建和管理环境的特点4. setup.py5.

Python常用命令提示符使用方法详解

《Python常用命令提示符使用方法详解》在学习python的过程中,我们需要用到命令提示符(CMD)进行环境的配置,:本文主要介绍Python常用命令提示符使用方法的相关资料,文中通过代码介绍的... 目录一、python环境基础命令【Windows】1、检查Python是否安装2、 查看Python的安

Python UV安装、升级、卸载详细步骤记录

《PythonUV安装、升级、卸载详细步骤记录》:本文主要介绍PythonUV安装、升级、卸载的详细步骤,uv是Astral推出的下一代Python包与项目管理器,主打单一可执行文件、极致性能... 目录安装检查升级设置自动补全卸载UV 命令总结 官方文档详见:https://docs.astral.sh/

Python并行处理实战之如何使用ProcessPoolExecutor加速计算

《Python并行处理实战之如何使用ProcessPoolExecutor加速计算》Python提供了多种并行处理的方式,其中concurrent.futures模块的ProcessPoolExecu... 目录简介完整代码示例代码解释1. 导入必要的模块2. 定义处理函数3. 主函数4. 生成数字列表5.

Python中help()和dir()函数的使用

《Python中help()和dir()函数的使用》我们经常需要查看某个对象(如模块、类、函数等)的属性和方法,Python提供了两个内置函数help()和dir(),它们可以帮助我们快速了解代... 目录1. 引言2. help() 函数2.1 作用2.2 使用方法2.3 示例(1) 查看内置函数的帮助(

Python虚拟环境与Conda使用指南分享

《Python虚拟环境与Conda使用指南分享》:本文主要介绍Python虚拟环境与Conda使用指南,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、python 虚拟环境概述1.1 什么是虚拟环境1.2 为什么需要虚拟环境二、Python 内置的虚拟环境工具

Python实例题之pygame开发打飞机游戏实例代码

《Python实例题之pygame开发打飞机游戏实例代码》对于python的学习者,能够写出一个飞机大战的程序代码,是不是感觉到非常的开心,:本文主要介绍Python实例题之pygame开发打飞机... 目录题目pygame-aircraft-game使用 Pygame 开发的打飞机游戏脚本代码解释初始化部

Python pip下载包及所有依赖到指定文件夹的步骤说明

《Pythonpip下载包及所有依赖到指定文件夹的步骤说明》为了方便开发和部署,我们常常需要将Python项目所依赖的第三方包导出到本地文件夹中,:本文主要介绍Pythonpip下载包及所有依... 目录步骤说明命令格式示例参数说明离线安装方法注意事项总结要使用pip下载包及其所有依赖到指定文件夹,请按照以