如何用Python爬取创业板历史+实时股票数据!

2024-03-25 19:59

本文主要是介绍如何用Python爬取创业板历史+实时股票数据!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

(永久免费,扫码加入)

本文章是付费阅读,已经购买小册的同学,可以不用看。

我的小册:小白零基础用Python量化股票分析小册

股票的实时数据,历史数据有很多方法可以获取,比如我们可以通过爬虫从东方财富网,新浪财经,或者是券商的qmt软件获取,也可以通过一些专业的第三方的库取获得,只是有一些库是需要收费的,最廉价的方式就是通过爬取获得,我们以爬取创业板股票为例子,进行演示。

1.股票的网站接口分析

1).打开东方财富网的网站,建议用谷歌浏览器打开

6daf8622d1dda88b798697ecc88246e0.png

可以看到很多创业板的股票数据,而且是实时的数据,我们选一个股票进行分析,比如第一个300001 ,点击打开它的数据。

8fce8c77c1a3682189f36b2c66637ccb.png

随便找一个空白的地方,点击右键,选择检查,进入网页分析页面。可以发现我们不停的刷新页面,网页的内容有变化,但是网页的url完全不变,也就是说该网站采用了Ajax技术,是动态的从服务器上拉数据的。

稍微科普一下啥叫Ajax技术,传统的网页请求是同步的,即用户每次操作(如点击链接、提交表单)时,整个页面都会重新加载或跳转。Ajax 的核心是 JavaScript 的 XMLHttpRequest 对象,它允许网页在不重新加载整个页面的情况下与服务器交换数据并更新部分网页内容。这意味着可以在网页已经被用户加载之后异步地从服务器请求新的数据或提交数据。

这样做的好处,可以局部更新,减轻网络的负担,加快页面加载速度。

c6706bbd9778629249e4c1754478bcc4.png

打开Network 然后刷新网页,找到get?cb 这样的请求的网页的链接,点开看右边部分,有一个Header 看到里面请求的url,这个我们要找的链接,把它copy出来。

这么一长串的代码,里面都是复杂的字符,我们看到有一个30001 这个股票代码,其实这个就是我们请求的创业板股票的代码,我们如果要获取多只股票的数据,只要替换这里即可。

然后检查一下response里面的k线数据,点右边的Response就可以看到具体的data数据信息。

33ca818637a7dc6374915dcce056a1d4.png

这个jQuery 里面data部分就是我们要的数据。

2.股票数据爬取

上面我们已经找到了最关键的url ,下面就可以开始爬取了,目前东财还是非常友善的,我们不需要伪装headers, 可以直接爬取。

第一步先解析网页

假如我们要爬取的股票代码从0-1 ,也就是300000-300001,因为创业板默认都是30开头的,目前1600多家,我们先爬取一家:

这篇关于如何用Python爬取创业板历史+实时股票数据!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/846100

相关文章

SpringBoot多环境配置数据读取方式

《SpringBoot多环境配置数据读取方式》SpringBoot通过环境隔离机制,支持properties/yaml/yml多格式配置,结合@Value、Environment和@Configura... 目录一、多环境配置的核心思路二、3种配置文件格式详解2.1 properties格式(传统格式)1.

Python实现网格交易策略的过程

《Python实现网格交易策略的过程》本文讲解Python网格交易策略,利用ccxt获取加密货币数据及backtrader回测,通过设定网格节点,低买高卖获利,适合震荡行情,下面跟我一起看看我们的第一... 网格交易是一种经典的量化交易策略,其核心思想是在价格上下预设多个“网格”,当价格触发特定网格时执行买

Python标准库之数据压缩和存档的应用详解

《Python标准库之数据压缩和存档的应用详解》在数据处理与存储领域,压缩和存档是提升效率的关键技术,Python标准库提供了一套完整的工具链,下面小编就来和大家简单介绍一下吧... 目录一、核心模块架构与设计哲学二、关键模块深度解析1.tarfile:专业级归档工具2.zipfile:跨平台归档首选3.

使用Python构建智能BAT文件生成器的完美解决方案

《使用Python构建智能BAT文件生成器的完美解决方案》这篇文章主要为大家详细介绍了如何使用wxPython构建一个智能的BAT文件生成器,它不仅能够为Python脚本生成启动脚本,还提供了完整的文... 目录引言运行效果图项目背景与需求分析核心需求技术选型核心功能实现1. 数据库设计2. 界面布局设计3

解决pandas无法读取csv文件数据的问题

《解决pandas无法读取csv文件数据的问题》本文讲述作者用Pandas读取CSV文件时因参数设置不当导致数据错位,通过调整delimiter和on_bad_lines参数最终解决问题,并强调正确参... 目录一、前言二、问题复现1. 问题2. 通过 on_bad_lines=‘warn’ 跳过异常数据3

Python进行JSON和Excel文件转换处理指南

《Python进行JSON和Excel文件转换处理指南》在数据交换与系统集成中,JSON与Excel是两种极为常见的数据格式,本文将介绍如何使用Python实现将JSON转换为格式化的Excel文件,... 目录将 jsON 导入为格式化 Excel将 Excel 导出为结构化 JSON处理嵌套 JSON:

深入浅出SpringBoot WebSocket构建实时应用全面指南

《深入浅出SpringBootWebSocket构建实时应用全面指南》WebSocket是一种在单个TCP连接上进行全双工通信的协议,这篇文章主要为大家详细介绍了SpringBoot如何集成WebS... 目录前言为什么需要 WebSocketWebSocket 是什么Spring Boot 如何简化 We

Python操作PDF文档的主流库使用指南

《Python操作PDF文档的主流库使用指南》PDF因其跨平台、格式固定的特性成为文档交换的标准,然而,由于其复杂的内部结构,程序化操作PDF一直是个挑战,本文主要为大家整理了Python操作PD... 目录一、 基础操作1.PyPDF2 (及其继任者 pypdf)2.PyMuPDF / fitz3.Fre

python设置环境变量路径实现过程

《python设置环境变量路径实现过程》本文介绍设置Python路径的多种方法:临时设置(Windows用`set`,Linux/macOS用`export`)、永久设置(系统属性或shell配置文件... 目录设置python路径的方法临时设置环境变量(适用于当前会话)永久设置环境变量(Windows系统

python中列表应用和扩展性实用详解

《python中列表应用和扩展性实用详解》文章介绍了Python列表的核心特性:有序数据集合,用[]定义,元素类型可不同,支持迭代、循环、切片,可执行增删改查、排序、推导式及嵌套操作,是常用的数据处理... 目录1、列表定义2、格式3、列表是可迭代对象4、列表的常见操作总结1、列表定义是处理一组有序项目的