批量下载ISCCP D2的hdf格式数据

2024-01-01 18:58

本文主要是介绍批量下载ISCCP D2的hdf格式数据,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

ISCCP数据集介绍可见:国际卫星云气候计划ISCCP
ISCCP官网:International Satellite Cloud Climatology
Project 利用ISCCP
D2资料分析近20年全球不同云类云量变化的变化及其对气候可能的影响:论文链接
利用D2数据对云分析的各种图(来自官网):cloud Data Analysis to Understand Climate
ISCCP的GPC数据下载链接:GPC格式
ISCCP的hdf数据下载链接:hdf格式

Requirements

linux系统下
conda环境
python3
要求安装好requests库

批量下载前的准备

1.配置好python环境和requests库

conda install requests

2.Bash的身份验证

cd ~
touch .netrc
echo "machine urs.earthdata.nasa.gov login $USERNAME password $PASSWORD" > .netrc
chmod 0600 .netrc
touch .urs_cookies

hdf下载的python脚本

由于1983-1993年的文件名为3hrlymon_198306,1994之和的文件名为ISCCP.D2.0.GLOBAL.1994.02.99.9999.GPC.hdf或者ISCCP.D2.1.GLOBAL.1994.02.99.9999.GPC.hdf或者ISCCP.D2.2.GLOBAL.1994.02.99.9999.GPC.hdf这种类型的名字,下载的时候要自己甄别,修改url。
下载完成后的文件全部用ISCCP.D2.0.GLOBAL.1994.02.99.9999.GPC.hdf这种类型的文件名字存储好。

from requests import Session
session = Session()
session.auth = ('username', 'password')
for year in range(1983,1994):for mon in range(1,13):url='https://asdc.larc.nasa.gov/data/ISCCP/D2/'+str(year)+'/'+'{0:02d}/'.format(mon)+'d2_3hrlymon_'+str(year)+'{0:02d}'.format(mon)file_name='/mnt/d/research_work/cloudkernel/cloud-radiative-kernels-master/data/temp/'+'ISCCP.D2.0.GLOBAL.'+str(year)+'.'+'{0:02d}'.format(mon)+'.99.9999.GPC.hdf'print(url)print(file_name)_redirect = session.get(url)_response = session.get(_redirect.url)with open(file_name, 'wb') as file:file.write(_response._content)
for year in range(1995,2000):for mon in range(1,13):url='https://asdc.larc.nasa.gov/data/ISCCP/D2/'+str(year)+'/'+'{0:02d}/'.format(mon)+'ISCCP.D2.1.GLOBAL.'+str(year)+'.'+'{0:02d}'.format(mon)+'.99.9999.GPC.hdf'file_name='/mnt/d/research_work/cloudkernel/cloud-radiative-kernels-master/data/temp/'+'ISCCP.D2.0.GLOBAL.'+str(year)+'.'+'{0:02d}'.format(mon)+'.99.9999.GPC.hdf'print(file_name)_redirect = session.get(url)_response = session.get(_redirect.url)with open(file_name, 'wb') as file:file.write(_response._content)

这篇关于批量下载ISCCP D2的hdf格式数据的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/560187

相关文章

SQL Server修改数据库名及物理数据文件名操作步骤

《SQLServer修改数据库名及物理数据文件名操作步骤》在SQLServer中重命名数据库是一个常见的操作,但需要确保用户具有足够的权限来执行此操作,:本文主要介绍SQLServer修改数据... 目录一、背景介绍二、操作步骤2.1 设置为单用户模式(断开连接)2.2 修改数据库名称2.3 查找逻辑文件名

Python pip下载包及所有依赖到指定文件夹的步骤说明

《Pythonpip下载包及所有依赖到指定文件夹的步骤说明》为了方便开发和部署,我们常常需要将Python项目所依赖的第三方包导出到本地文件夹中,:本文主要介绍Pythonpip下载包及所有依... 目录步骤说明命令格式示例参数说明离线安装方法注意事项总结要使用pip下载包及其所有依赖到指定文件夹,请按照以

C++ 函数 strftime 和时间格式示例详解

《C++函数strftime和时间格式示例详解》strftime是C/C++标准库中用于格式化日期和时间的函数,定义在ctime头文件中,它将tm结构体中的时间信息转换为指定格式的字符串,是处理... 目录C++ 函数 strftipythonme 详解一、函数原型二、功能描述三、格式字符串说明四、返回值五

canal实现mysql数据同步的详细过程

《canal实现mysql数据同步的详细过程》:本文主要介绍canal实现mysql数据同步的详细过程,本文通过实例图文相结合给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的... 目录1、canal下载2、mysql同步用户创建和授权3、canal admin安装和启动4、canal

使用SpringBoot整合Sharding Sphere实现数据脱敏的示例

《使用SpringBoot整合ShardingSphere实现数据脱敏的示例》ApacheShardingSphere数据脱敏模块,通过SQL拦截与改写实现敏感信息加密存储,解决手动处理繁琐及系统改... 目录痛点一:痛点二:脱敏配置Quick Start——Spring 显示配置:1.引入依赖2.创建脱敏

C#实现将Office文档(Word/Excel/PDF/PPT)转为Markdown格式

《C#实现将Office文档(Word/Excel/PDF/PPT)转为Markdown格式》Markdown凭借简洁的语法、优良的可读性,以及对版本控制系统的高度兼容性,逐渐成为最受欢迎的文档格式... 目录为什么要将文档转换为 Markdown 格式使用工具将 Word 文档转换为 Markdown(.

Java中JSON格式反序列化为Map且保证存取顺序一致的问题

《Java中JSON格式反序列化为Map且保证存取顺序一致的问题》:本文主要介绍Java中JSON格式反序列化为Map且保证存取顺序一致的问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未... 目录背景问题解决方法总结背景做项目涉及两个微服务之间传数据时,需要提供方将Map类型的数据序列化为co

详解如何使用Python构建从数据到文档的自动化工作流

《详解如何使用Python构建从数据到文档的自动化工作流》这篇文章将通过真实工作场景拆解,为大家展示如何用Python构建自动化工作流,让工具代替人力完成这些数字苦力活,感兴趣的小伙伴可以跟随小编一起... 目录一、Excel处理:从数据搬运工到智能分析师二、PDF处理:文档工厂的智能生产线三、邮件自动化:

Python数据分析与可视化的全面指南(从数据清洗到图表呈现)

《Python数据分析与可视化的全面指南(从数据清洗到图表呈现)》Python是数据分析与可视化领域中最受欢迎的编程语言之一,凭借其丰富的库和工具,Python能够帮助我们快速处理、分析数据并生成高质... 目录一、数据采集与初步探索二、数据清洗的七种武器1. 缺失值处理策略2. 异常值检测与修正3. 数据

pandas实现数据concat拼接的示例代码

《pandas实现数据concat拼接的示例代码》pandas.concat用于合并DataFrame或Series,本文主要介绍了pandas实现数据concat拼接的示例代码,具有一定的参考价值,... 目录语法示例:使用pandas.concat合并数据默认的concat:参数axis=0,join=