python模拟登录中国海洋大学教务系统（青果）- 爬取学期所有专业课至excel

本文主要是介绍python模拟登录中国海洋大学教务系统（青果）- 爬取学期所有专业课至excel - 并进行课表排课（二），希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

本章内容包含python爬取中国海洋大学教务系统 2021年秋季学期 2018-2020年级所有计算机专业课至excel。

系列文章目录

第一章 python模拟登录中国海洋大学教务系统（青果）
第二章爬取学期所有专业课至excel
第三章课表排课

本来只是想爬个课表，排个课，可惜不能直接爬，需要登录上教务网站，所以就有了第一篇文章。

文章目录

系列文章目录
前言
一、将表格内容写入excel
二、使用循环，爬取2018-2020级的专业课
三、全部代码及运行效果
四、遇到的问题
总结

前言

第一篇已经实现了登录教务网站，并跳转至选课页面，同时也有了页面表格输出。

因为是转专业，每次进入都要选择目标专业，还要选目标年级，很麻烦，所以想一次性把2018级到2020级的专业课都爬下来，之后再用算法排课。

一、将表格内容写入excel

1.先观察选课页面的表格

请添加图片描述
表格中有两列”教学大纲“”教学日历“一直是空的，所以没必要爬下来

再根据上一章爬下来的内容，可以知道表格中有几列隐藏列也是空的，，所以也没必要爬

需要安装库 pip install openpyxl

Python官方库一般使用xlrd库来读取Excel文件，使用xlwt库来生成Excel文件，使用xlutils库复制和修改Excel文件，这三个库只支持到Excel2003。
第三方库openpyxl（可读写excel表），专门处理Excel2007及以上版本产生的xlsx文件，xls和xlsx之间转换容易。

该部分代码：

from openpyxl import load_workbook,Workbookdef get_data(session):
...
...table_node = soup.find_all('td')for table in table_node:if table.has_attr('style') == False:    #不是隐藏列if table.text != "教学大纲" and table.text != "教学日历":if table.has_attr('name'):    #具有属性nameif table['name'] != "jxdg" and table['name'] != "jxrl":      #不是空列sheet.cell(a,b,table.text)      #写入表格else: 				#不具有属性namesheet.cell(a,b,table.text)      #写入表格
...if __name__ == '__main__':try:wb = load_workbook('排课.xlsx')	#加载薄except:wb = Workbook()                 #新建薄sheet = wb.active	#打开簿中第一个表#sheet = wb.create_sheet()	#新建表
...wb.save('排课.xlsx')

二、使用循环，爬取2018-2020级的专业课

循环，传参sel_nj-选择的年级

主要是声明两个全局变量，控制行和列

变量只是一个普通变量，首先在函数外部进行初始化，然后在函数内部通过global关键字呼叫这个变量，就可以实现全局变量的功能了。 ——python中的全局变量(global关键字)

该部分代码：

a=1
b=1def get_data(session, sel_nj):	#选择的年级global aglobal bformdata={
...'sel_nj': sel_nj,#选择的年级2018-2020
...}
...
...for table in table_node:if table.has_attr('style') == False:    #不是隐藏列if table.text != "教学大纲" and table.text != "教学日历":if table.has_attr('name'):    #具有属性nameif table['name'] != "jxdg" and table['name'] != "jxrl":      #不是空列sheet.cell(a,b,table.text)      #写入表格b=b+1	#列加一if table['name'] == "bz":   #该换行了 b=1	#第一列a=a+1	#行加一else:						#不具有属性namesheet.cell(a,b,table.text)      #写入表格b=b+1if table.text == "备注":   #该换行了 b=1a=a+1...
def logon():
...for i in range(2018,2021):get_data(session,i)
...

三、全部代码及运行效果

import requests
from aip import AipOcr
import base64
from hashlib import md5
import json
import re
from bs4 import BeautifulSoup
from time import time#创建新薄 新表
from openpyxl import load_workbook,Workbooka=1
b=1
headers = {'Host': 'jwgl.ouc.edu.cn','Origin': 'http://jwgl.ouc.edu.cn','Referer': 'http://jwgl.ouc.edu.cn/cas/login.action','User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.114 Safari/537.36','X-Requested-With': 'XMLHttpRequest','Upgrade-Insecure-Requests': '1',
}#data和headers一样，并没有传全部的项
data = {'randnumber': 'gqzd'
}
#百度智能云-文字识别
def randnumber_ocr(image):APP_ID = ''  # 在百度官网的应用列表中查看APP_IDAPI_KEY = ''  # 在百度官网的应用列表中查看API_KEYSECRET_KEY = ''  # 在百度官网的应用列表中查看SECRET_KEYclient = AipOcr(APP_ID, API_KEY, SECRET_KEY)text = client.basicAccurate(image)if text['words_result_num'] == 1:return text['words_result'][0]['words'].strip()else:return ''def get_data(session, sel_nj):global aglobal burl = 'http://jwgl.ouc.edu.cn/taglib/DataTable.jsp?tableId=6146'
#这个data包含了所有项，但有些其实的非必须的formdata={'initQry': '0','xktype': '2',#选课类型'xh': '',#你的学号'xn': '2021',#学年'xq': '1',#学期-夏0-秋1-春2'nj': '',#你的年级'zydm': '',#你的专业代码'items': '','xnxq': '2021-1',#学年-学期'kcfw': 'Specialty',#课程范围'sel_nj': sel_nj,#选择的年级2018-2020'sel_zydm': '0011',#选择的专业代码'sel_schoolarea': '','sel_cddwdm': '','sel_kc': '','kcmc': ''}
#这个headers必须包含Refererheaders['Referer'] = 'http://jwgl.ouc.edu.cn/student/wsxk.kcbcx.html?menucode=JW130414'
#使用sessionr = session.post(url,data=formdata, headers=headers)soup = BeautifulSoup(r.text, 'html.parser')table_node = soup.find_all('td')for table in table_node:if table.has_attr('style') == False:    #不是隐藏列if table.text != "教学大纲" and table.text != "教学日历":if table.has_attr('name'):    #具有属性nameif table['name'] != "jxdg" and table['name'] != "jxrl":      #不是空列sheet.cell(a,b,table.text)      #写入表格b=b+1if table['name'] == "bz":   #该换行了 b == 15:#23b=1a=a+1else:sheet.cell(a,b,table.text)      #写入表格b=b+1if table.text == "备注":   #该换行了 b == 15:#23b=1a=a+1session.close()def logon():start = time()url = 'http://jwgl.ouc.edu.cn/cas/logon.action'username = ''  # 输入你的用户名，也就是学号password = ''  # 输入你的密码session = requests.Session()#百度智能云-文字识别-获取验证码    randnumber = ''while len(randnumber) != 4:r = session.get('http://jwgl.ouc.edu.cn/cas/genValidateCode', headers=headers)      randnumber = randnumber_ocr(r.content).replace(' ','')#去除空格#构造data-信息加密        password = md5(password.encode('utf-8')).hexdigest()randnumber_s = md5(randnumber.lower().encode('utf-8')).hexdigest()password = md5((password + randnumber_s).encode('utf-8')).hexdigest()
#sessionid是会话的id，一般是存放在cookie中_sessionid = session.cookies.get_dict()['JSESSIONID']username = base64.b64encode(username.encode('utf-8') + b';;' + str(_sessionid).encode('utf-8'))
#randnumber会在之前通过百度智能云文字识别获得data['randnumber'] = randnumberp_username = '_u' + randnumberp_password = '_p' + randnumberdata[p_username] = usernamedata[p_password] = password
#post    r = session.post(url, data=data, headers=headers)
#response    info = json.loads(r.text)status = info['status']if status == '401':print('验证码错误')returnelif status == '200':passelse:print(info['message'])returnprint('登录成功')for i in range(2018,2021):get_data(session,i)end = time()print('总共用时' + str(end - start))if __name__ == '__main__':try:wb = load_workbook('排课.xlsx')	#加载薄except:wb = Workbook()                 #新建薄sheet = wb.active	#打开簿中第一个表#sheet = wb['biaoge_name']	#打开薄中 名字为biaoge_name的表#sheet = wb.create_sheet()	#新建表logon()wb.save('排课.xlsx')

在这里插入图片描述

四、遇到的问题

TimeoutError: [WinError 10060] 由于连接方在一段时间后没有正确答复或连接的主机没有反应，连接尝试失败。

没连 VPN

    wb= load_workbook('排课.xlsx')#加载薄
NameError: name 'load_workbook' is not defined

要 from openpyxl import load_workbook

    wb.creat_sheet('xinbiao2')
AttributeError: 'Workbook' object has no attribute 'creat_sheet'

create_sheet 拼写错误

	sheet.cell(a,b,table.text)
ValueError: Row or column values must be at least 1

cell 的行和列都要从1开始

KeyError: 'name'

这种 KeyError 错误一般都是因为没有这个东西，
以本程序为例，有些table含有name属性，有些不含，如果不加判断的去写就会报错

只能是 tag.text 和 tag[‘id’]、tag[‘name’]
这个不太确定，看别人有用 tag.id/name
但本程序是 tag.id/name = None

总结

1.全局变量，首先在函数外部进行初始化，然后在函数内部通过global关键字呼叫这个变量。
·a=1·
·def func:·
········global a·

2.python没有a++
·a=a+1·

3.进行解析后，Tag是否具有某种属性
·if table.has_attr('name'): #具有属性name·

4.筛选具有某种属性的Tag
关于python：测试BeautifulSoup中的标签中是否存在属性
·script_tags = soup.find_all('script', some_attribute=True)·

·script_tags = soup.find_all('script', {"some-data-attribute": True})·

5.为什么要from … import …
python中为什么大佬都爱用from import
因为导入包名其实是无法直接使用包内的子包和模块的

6.openpyxl
python之openpyxl模块

openpyxl中有三个不同层次的类	Workbook是对工作簿的抽象	Worksheet是对表格的抽象	Cell是对单元格的抽象	每一个类都包含了许多属性和方法
Excel基本操作	打开或者创建一个Excel，需要创建一个Workbook对象	使用Workbook对象的方法来得到一个Worksheet对象	得到Worksheet对象以后再从中获取代表单元格的Cell对象

常用：

·wb = load_workbook('排课.xlsx') #加载薄·

·wb = Workbook() #新建薄·

·sheet = wb.active #打开簿中第一个表·

·sheet = wb['biaoge_name'] #打开薄中名字为biaoge_name的表·

·sheet = wb.create_sheet() #新建表·

·sheet.cell(行,列,内容) #修改单元格内容·

·wb.save('排课.xlsx') #保存薄·

收获多多 \OoO/

码字不易，感谢点赞评论收藏关注~

这篇关于python模拟登录中国海洋大学教务系统（青果）- 爬取学期所有专业课至excel - 并进行课表排课（二）的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

python模拟登录中国海洋大学教务系统（青果）- 爬取学期所有专业课至excel - 并进行课表排课（二）

系列文章目录

文章目录

前言

一、将表格内容写入excel

二、使用循环，爬取2018-2020级的专业课

三、全部代码及运行效果

四、遇到的问题

总结

相关文章

Python进行JSON和Excel文件转换处理指南

Python操作PDF文档的主流库使用指南

python设置环境变量路径实现过程

python中列表应用和扩展性实用详解

python运用requests模拟浏览器发送请求过程

python使用try函数详解

Python极速搭建局域网文件共享服务器完整指南

Python对接支付宝支付之使用AliPay实现的详细操作指南

Spring Security 单点登录与自动登录机制的实现原理

Python获取浏览器Cookies的四种方式小结