全国地铁站数据实时更新:Python + 高德地图实战

2024-08-30 02:44

本文主要是介绍全国地铁站数据实时更新:Python + 高德地图实战,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

数据抓取呢,非常注重时效性。本篇文章记录于2024年8月,介绍如何使用Python和高德地图来获取中国各大城市的最新地铁站数据。通过python脚本,可以直接获取最新的地铁站信息,确保数据与高德地图的数据源同步更新,数据来源:高德地图 | 地铁图 (amap.com);

另外本专栏主打的就是直接copy直接运行即可,动一下脑子,都是对代码的不尊重,对了下面的库包如果没装的话还是要装一下的,关键的也就一个BeautifulSoup包了;

完整代码#运行环境Python 3.11

import json
import requests
from bs4 import BeautifulSoup# 设置请求头,模拟浏览器行为
headers = {'user-agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36'}# 初始化已获取的地铁站ID集合
got_sid = set()
# 初始化线路字典
lines = {}def output_lines():# 输出线路信息到CSV文件with open('lines.csv', 'a+') as f:# 写入CSV文件的表头print('城市行政区划代码', '城市名', '线路id', '线路名', sep=',', file=f)# 遍历所有线路信息for line_id, line in lines.items():# 写入具体线路信息print(line['cityCode'], line['cityName'], line_id, line['lineName'], sep=',', file=f)def get_message(ID, cityname, name):"""获取指定城市的地铁线路信息"""# 构造地铁线路数据的URLurl = f'http://map.amap.com/service/subway?_1555502190153&srhdata={ID}_drw_{cityname}.json'# 发送HTTP GET请求response = requests.get(url=url, headers=headers)# 解析响应内容为文本html = response.text# 将文本解析为JSON对象result = json.loads(html)# 打开或创建用于存储地铁站数据的CSV文件with open('stations.csv', 'a+') as f:# 遍历每一条地铁线路for i in result['l']:# 遍历该线路下的每个地铁站for j in i['st']:# 获取线路名称line_name = i['ln']# 如果线路有分线,则添加分线标识if i['la']:line_name += f"({i['la']})"# 记录线路信息city_code = IDcity_name = nameline_id = i['ls']lines[line_id] = {'lineId': line_id,'lineName': line_name,'cityCode': city_code,'cityName': city_name,}# 记录地铁站信息station = {'cityCode': city_code,'cityName': city_name,'stationId': j['sid'],'stationName': j['n'],'stationPosition': j['sl'],'stationLines': j['r'],}# 如果该地铁站ID已存在于已获取的集合中,则跳过if station['stationId'] in got_sid:continue# 将地铁站ID添加到已获取的集合中got_sid.add(station['stationId'])# 打印地铁站信息print(*station.values())# 将地铁站信息写入CSV文件print(*station.values(), file=f, sep=',')def get_city():"""获取城市列表,并对每个城市调用get_message函数获取其地铁站信息"""# 构造获取城市列表的URLurl = 'http://map.amap.com/subway/index.html?&1100'# 发送HTTP GET请求response = requests.get(url=url, headers=headers)# 解析响应内容为HTML文本html = response.text# 处理编码问题html = html.encode('ISO-8859-1').decode('utf-8')# 使用BeautifulSoup解析HTMLsoup = BeautifulSoup(html, 'lxml')# 获取城市列表res1 = soup.find_all(class_="city-list fl")[0]res2 = soup.find_all(class_="more-city-list")[0]# 打开或创建用于存储地铁站数据的CSV文件with open('stations.csv', 'a+') as f:# 写入CSV文件的表头print('城市行政区划代码', '城市名', '地铁站ID', '地铁站名', '经度', '纬度', '所属线路',sep=',', file=f)# 遍历第一个城市列表中的城市链接for i in res1.find_all('a'):# 获取城市ID值ID = i['id']# 获取城市拼音名cityname = i['cityname']# 获取城市名name = i.get_text()# 调用get_message函数获取该城市的地铁站信息get_message(ID, cityname, name)# 遍历第二个城市列表中的城市链接for i in res2.find_all('a'):# 获取城市ID值ID = i['id']# 获取城市拼音名cityname = i['cityname']# 获取城市名name = i.get_text()# 调用get_message函数获取该城市的地铁站信息get_message(ID, cityname, name)# 主程序入口
if __name__ == '__main__':# 获取城市列表,并对每个城市调用get_message函数get_city()# 输出所有线路信息output_lines()

运行结束会保存二个文件夹一个line.csv,一个station.csv;

station.csv保存的是地铁站点数据,标签包括城市行政区划代码、城市名、地铁站ID、地铁站名、经度、纬度、所属线路,截止到2024年8月开通并且在运营的站点全国有5695座地铁站;

line.csv保存的是线路数据,标签包括城市行政区划代码、城市名、线路id、线路名,截止到2024年8月开通并且在运营的线路全国有311条地铁线;

获取数据之后就是对数据的可视化,由于我们拿到的数据是高德坐标系GCJ02,但我们通常的数据源可能是WGS84,所以我们需要转一下地理坐标系,这里放一个免费的地图经纬度坐标系批量转换工具:地图坐标系批量转换 - 免费在线工具 (latlongconverter.online);

将csv批量转为WGS84坐标后,导入arcgis,【显示xy数据】,坐标选择地理坐标WGS84,arcgispro也同理;

这里不一样的是arcgis需要把点事件导出为新的点图层,而arcgispro可以直接用当前图层,下一步检索【点集转线】;

这里有一个tips:制作基础数据的时候一个站点被多条线路经过的时候,需要每条线都要有一个该站点数据,且站点顺序一定不能错,不然按线路连接的时候会根据当前站点顺序进行连接。

这里以厦门地铁这个湖滨东路为例,需要在制作基础数据的时候单独做二条数据,一条属于尾号907的线路,一条属于914的线路,并且以镇海路所在的一号线为例,数据顺序一定为镇海路、将军祠、中山公园、文灶......,或者倒序,不然原始数据连接顺序会不按实际运行线路方式连接;

点集转线的结果如下,如果需要最新的地铁数据直接重新运行一下脚本即可;

高德地图的线路如下,当然高德的展示数据为了美观会与实际路线存在差异;

这里也直接放一下原始数据:全国地铁站数据(wgs84)_全国地铁资源-CSDN文库

文章仅用于分享个人学习成果与个人存档之用,分享知识,如有侵权,请联系作者进行删除。所有信息均基于作者的个人理解和经验,不代表任何官方立场或权威解读。

这篇关于全国地铁站数据实时更新:Python + 高德地图实战的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1119582

相关文章

基于Python开发Windows屏幕控制工具

《基于Python开发Windows屏幕控制工具》在数字化办公时代,屏幕管理已成为提升工作效率和保护眼睛健康的重要环节,本文将分享一个基于Python和PySide6开发的Windows屏幕控制工具,... 目录概述功能亮点界面展示实现步骤详解1. 环境准备2. 亮度控制模块3. 息屏功能实现4. 息屏时间

Python如何去除图片干扰代码示例

《Python如何去除图片干扰代码示例》图片降噪是一个广泛应用于图像处理的技术,可以提高图像质量和相关应用的效果,:本文主要介绍Python如何去除图片干扰的相关资料,文中通过代码介绍的非常详细,... 目录一、噪声去除1. 高斯噪声(像素值正态分布扰动)2. 椒盐噪声(随机黑白像素点)3. 复杂噪声(如伪

Python中图片与PDF识别文本(OCR)的全面指南

《Python中图片与PDF识别文本(OCR)的全面指南》在数据爆炸时代,80%的企业数据以非结构化形式存在,其中PDF和图像是最主要的载体,本文将深入探索Python中OCR技术如何将这些数字纸张转... 目录一、OCR技术核心原理二、python图像识别四大工具库1. Pytesseract - 经典O

基于Linux的ffmpeg python的关键帧抽取

《基于Linux的ffmpegpython的关键帧抽取》本文主要介绍了基于Linux的ffmpegpython的关键帧抽取,实现以按帧或时间间隔抽取关键帧,文中通过示例代码介绍的非常详细,对大家的学... 目录1.FFmpeg的环境配置1) 创建一个虚拟环境envjavascript2) ffmpeg-py

python使用库爬取m3u8文件的示例

《python使用库爬取m3u8文件的示例》本文主要介绍了python使用库爬取m3u8文件的示例,可以使用requests、m3u8、ffmpeg等库,实现获取、解析、下载视频片段并合并等步骤,具有... 目录一、准备工作二、获取m3u8文件内容三、解析m3u8文件四、下载视频片段五、合并视频片段六、错误

Python中提取文件名扩展名的多种方法实现

《Python中提取文件名扩展名的多种方法实现》在Python编程中,经常会遇到需要从文件名中提取扩展名的场景,Python提供了多种方法来实现这一功能,不同方法适用于不同的场景和需求,包括os.pa... 目录技术背景实现步骤方法一:使用os.path.splitext方法二:使用pathlib模块方法三

Python打印对象所有属性和值的方法小结

《Python打印对象所有属性和值的方法小结》在Python开发过程中,调试代码时经常需要查看对象的当前状态,也就是对象的所有属性和对应的值,然而,Python并没有像PHP的print_r那样直接提... 目录python中打印对象所有属性和值的方法实现步骤1. 使用vars()和pprint()2. 使

springboot项目中整合高德地图的实践

《springboot项目中整合高德地图的实践》:本文主要介绍springboot项目中整合高德地图的实践,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一:高德开放平台的使用二:创建数据库(我是用的是mysql)三:Springboot所需的依赖(根据你的需求再

使用Python和OpenCV库实现实时颜色识别系统

《使用Python和OpenCV库实现实时颜色识别系统》:本文主要介绍使用Python和OpenCV库实现的实时颜色识别系统,这个系统能够通过摄像头捕捉视频流,并在视频中指定区域内识别主要颜色(红... 目录一、引言二、系统概述三、代码解析1. 导入库2. 颜色识别函数3. 主程序循环四、HSV色彩空间详解

一文深入详解Python的secrets模块

《一文深入详解Python的secrets模块》在构建涉及用户身份认证、权限管理、加密通信等系统时,开发者最不能忽视的一个问题就是“安全性”,Python在3.6版本中引入了专门面向安全用途的secr... 目录引言一、背景与动机:为什么需要 secrets 模块?二、secrets 模块的核心功能1. 基