从Eumetsat批量下载哨兵数据等各种数据

2024-01-06 17:12

本文主要是介绍从Eumetsat批量下载哨兵数据等各种数据,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

从Eumetsat批量下载哨兵数据等各种数据

那些最好的程序员不是为了得到更高的薪水或者得到公众的仰慕而编程,他们只是觉得这是一件有趣的事情!

批量下载Sentinel数据脚本2023

  • 从Eumetsat批量下载哨兵数据等各种数据
    • 🌿前言
    • 🍀脚本构成
      • ClassEumdac.py
      • EUMETSATMain.py
    • 🌸使用教程
      • 🍗设置products_url
      • 🍟设置用户参数
      • 🍔运行程序
    • 🌹结语


📆Date: 2024年1月6日
🎬Author: 小 y 同 学
🔖Language: Python

  批量下载Eumetsat官网的数据(Sentinel-3、Sentinel-6等数据产品以及一些气象数据产品)


🌿前言

  1. 脚本介绍:使用Python+科学上网+多进程,批量下载Eumetsat官网的数据(Sentinel-3、Sentinel-6等数据产品以及一些气象数据产品)

  2. Eumetsat官网:https://data.eumetsat.int/search?

  3. Eumetsat简介:EUMETSAT(European Organisation for the Exploitation of Meteorological Satellites) 是欧洲气象卫星开发组织,其主要宗旨是建立、维护和运行欧洲的气象卫星系统,其官网不仅仅提供有Sentinel-3、Sentinel-6、Jason-3等卫星数据,还包括其他气象数据产品。具体可以进入官网进行查看。

    Eumetsat官网

    Eumetsat检索数据

  4. **敬请关注项目Github仓库地址:**https://github.com/cyloveyou/Eumetsat_Download,若后续脚本有更新将同步到Github。

🍀脚本构成

ClassEumdac.py

包含了UserPrint、ProductsInfoFile、SaveParam、UserInfo、ProductInfo四个类。

  1. UserPrint:包含了一些个性化打印提示函数。
  2. ProductsInfoFile:主要是从获取的JSON数据提取下载链接、读取下载链接等功能。
  3. SaveParam:保存参数,包含缓存文件路径和保存路径的创建。
  4. UserInfo:用户个人信息customer_key、customer_secret、token等
  5. ProductInfo:对单个产品进行下载。

EUMETSATMain.py

  程序入口,包含了一些参数设置,具体设置教程见下文。

🌸使用教程

  主要包括设置products_url,设置用户参数。


🍗设置products_url

  1. 获取products_url,进入EUMETSATM官网https://data.eumetsat.int/search?,选择需要的产品数据文件进行检索,(脚本将会下载检索得到的所有结果)。
    产品检索

  2. 获取JSON url

    准备获取JSON网址

    获取JSON网址

  3. 将JSON url复制粘贴到products_url.txt文件中

    products_url.txt文本

  4. 至此,products_url设置完成。


🍟设置用户参数

  1. consumer_key和consumer_secret参数设置
    登录EUMETSAT,点击API Key,随后即可看到参数,复制替换到脚本

    API Key

    consumer_key&&consumer_secret

  2. products_url_path、products_file_path以及download_path参数设置

  products_url_path:是存放JSON url的文件,这里默认为products_url.txt,也就是第一步的.txt文件。

  products_file_path:用于存放脚本从JSON url获取的产品下载链接文件,同时也用于下载脚本的输入数据。

  download_path:产品保存文件夹,程序会自动以该路径创建缓存文件夹(temp)和完成文件夹(finish),下载完整的数据会被保存到finish文件夹中。

  1. IPPort参数设置

    IPPort为本地代理参数,开启科学上网,具体八仙过海,此处做不赘述。值得注意的是:需要保证代理流量足够
    Windows自带搜索框,搜索Internet属性,按下图操作。

    IPPort参数设置

    需要注意的是,程序中IPPort写法应为替换位置一:替换位置二

  2. multiN参数设置

  multiN为多进程个数参数,一般小于CPU核数,不可过大


🍔运行程序

  1. 经过上述参数设置完成后,可以运行程序,会出现以下提示:

运行程序结果

  1. 对于下载出错的文件,会提示并随机等待几十秒后重新下载:

下载出错的文件运行结果

  1. 对于已经存在的文件,会跳过下载:

已经存在的文件运行结果

  1. 对于Token过期,会重新获取Token并重新下载(这里目前还未遇到,不便截图)

🌹结语

  1. 项目源码已托管与Github仓库,公众号回复关键字“240101”获取~

  2. 就目前而言,脚本对于断网、token过期等常见现象抵抗能力良好,还遇到过异常情况,欢迎邮箱私信。

  3. 对于本脚本,还有很多可以优化的地方,希望大家可以多给些建议,不忘收藏关注😉

  4. 本人也是测绘遥感方向的学习者,愿意结交志同道合的伙伴,对于脚本的相关问题可在一定程度上提供帮助。

  5. 脚本进程数不宜设置过大,若修改脚本进程过大放在多核服务器上执行导致对EUMETSAT服务器的攻击行为,本站不承担任何责任。

  6. …最终解释权归作者所有。作者邮箱:3232076199@qq.com,烦请说明来意。


  • 路虽远,行则将至;事虽难,做则必成。希望认真学习的你能够有所收获~

  • 本公众号的原创成果,在未经允许的情况下,请勿用于任何商业用途!

  • 如果本文有幸可以帮到您,欢迎您的点赞、收藏与关注;您的点赞、收藏与关注是我创作的最大动力~


微信公众号

CSDN博客二维码

这篇关于从Eumetsat批量下载哨兵数据等各种数据的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/577028

相关文章

SpringBoot集成EasyExcel实现百万级别的数据导入导出实践指南

《SpringBoot集成EasyExcel实现百万级别的数据导入导出实践指南》本文将基于开源项目springboot-easyexcel-batch进行解析与扩展,手把手教大家如何在SpringBo... 目录项目结构概览核心依赖百万级导出实战场景核心代码效果百万级导入实战场景监听器和Service(核心

使用Python开发一个Ditto剪贴板数据导出工具

《使用Python开发一个Ditto剪贴板数据导出工具》在日常工作中,我们经常需要处理大量的剪贴板数据,下面将介绍如何使用Python的wxPython库开发一个图形化工具,实现从Ditto数据库中读... 目录前言运行结果项目需求分析技术选型核心功能实现1. Ditto数据库结构分析2. 数据库自动定位3

pandas数据的合并concat()和merge()方式

《pandas数据的合并concat()和merge()方式》Pandas中concat沿轴合并数据框(行或列),merge基于键连接(内/外/左/右),concat用于纵向或横向拼接,merge用于... 目录concat() 轴向连接合并(1) join='outer',axis=0(2)join='o

shell脚本批量导出redis key-value方式

《shell脚本批量导出rediskey-value方式》为避免keys全量扫描导致Redis卡顿,可先通过dump.rdb备份文件在本地恢复,再使用scan命令渐进导出key-value,通过CN... 目录1 背景2 详细步骤2.1 本地docker启动Redis2.2 shell批量导出脚本3 附录总

批量导入txt数据到的redis过程

《批量导入txt数据到的redis过程》用户通过将Redis命令逐行写入txt文件,利用管道模式运行客户端,成功执行批量删除以Product*匹配的Key操作,提高了数据清理效率... 目录批量导入txt数据到Redisjs把redis命令按一条 一行写到txt中管道命令运行redis客户端成功了批量删除k

SpringBoot多环境配置数据读取方式

《SpringBoot多环境配置数据读取方式》SpringBoot通过环境隔离机制,支持properties/yaml/yml多格式配置,结合@Value、Environment和@Configura... 目录一、多环境配置的核心思路二、3种配置文件格式详解2.1 properties格式(传统格式)1.

解决pandas无法读取csv文件数据的问题

《解决pandas无法读取csv文件数据的问题》本文讲述作者用Pandas读取CSV文件时因参数设置不当导致数据错位,通过调整delimiter和on_bad_lines参数最终解决问题,并强调正确参... 目录一、前言二、问题复现1. 问题2. 通过 on_bad_lines=‘warn’ 跳过异常数据3

Python实现批量提取BLF文件时间戳

《Python实现批量提取BLF文件时间戳》BLF(BinaryLoggingFormat)作为Vector公司推出的CAN总线数据记录格式,被广泛用于存储车辆通信数据,本文将使用Python轻松提取... 目录一、为什么需要批量处理 BLF 文件二、核心代码解析:从文件遍历到数据导出1. 环境准备与依赖库

C#监听txt文档获取新数据方式

《C#监听txt文档获取新数据方式》文章介绍通过监听txt文件获取最新数据,并实现开机自启动、禁用窗口关闭按钮、阻止Ctrl+C中断及防止程序退出等功能,代码整合于主函数中,供参考学习... 目录前言一、监听txt文档增加数据二、其他功能1. 设置开机自启动2. 禁止控制台窗口关闭按钮3. 阻止Ctrl +

java如何实现高并发场景下三级缓存的数据一致性

《java如何实现高并发场景下三级缓存的数据一致性》这篇文章主要为大家详细介绍了java如何实现高并发场景下三级缓存的数据一致性,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 下面代码是一个使用Java和Redisson实现的三级缓存服务,主要功能包括:1.缓存结构:本地缓存:使