R语言【rgbif】——如何从GBIF网站上获取大量数据?

2024-02-27 16:28

本文主要是介绍R语言【rgbif】——如何从GBIF网站上获取大量数据?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Package rgbif version 3.7.9


Description

GBIF提供了两种获取分布数据的方法:通过/occurrence/search路径(参见occ_search()),或者通过/occurrence/download(参见下面的许多函数)。

occ_search()更适合较小的数据,而occ_download*()函数更适合较大的数据请求。


Settings

您将使用occ_download()启动下载。您需要从您的GBIF配置文件中提供该功能设置:您的用户名、密码和电子邮件。使用该功能需要设置这三项。您可以通过以下三种方式之一指定它们:

  • 将它们作为参数传递给 occ_download 

  • 使用R选项:在当前R会话中使用options()函数作为选项,或者在.Rprofile文件中设置它们,之后它们将被自动读入

  • 使用环境变量:在当前R会话中使用Sys.setenv()函数作为环境变量,或者在. Renviron /.bash_profile或类似的文件中设置它们,之后它们将自动读入


Beware

你不能执行那么多下载,所以要明智地计划。请参阅下面的速率限制。


Rate limiting

如果你试图启动太多的下载,你会收到420 "Enhance Your Calm"回应。如果所有GBIF用户的总数少于100个,那么一次可以运行3个。如果有更多,那么每个用户只能被限制为1个。这些数字可能会有变化。


Functions

occ_download():开始下载

occ_download_prep():准备下载请求

occ_download_queue():在队列中启动多个下载

occ_download_cached():检查GBIF帐户中已经下载的文件

occ_download_wait():重新运行occ download meta(),直到准备好

occ_download_meta():获取单次下载的元数据进度

occ_download_list():列出你的下载

occ_download_cancel():取消一个下载

occ_download_cancel_staged():取消状态为RUNNING或PREPARING的作业

occ_download_get():检索下载

occ_download_import():从本地文件系统导入下载文件

occ_download_datasets():列出可供下载的数据集

occ_download_datasets_activity():列出数据集的下载活动


Query length

GBIF对下载查询的限制为12,000个字符。这意味着你可以有一个相当长的查询,但在某些时候,它可能会导致GBIF方面的错误,你将不得不把你的查询分成几个。


Download status

以下状态可以在任何下载中找到:

  • PREPARING:刚刚由用户提交并等待处理(通常只有几秒钟)
  • RUNNING:创建过程(通常需要1-15分钟)
  • FAILED:发生了意想不到的事情
  • KILLED:用户决定在作业处于准备或运行阶段时中止作业
  • SUCCEEDED:已创建下载并通知用户
  • FILE_EARSED:根据保留策略删除下载,参见https://www.gbif.org/faq?question=for-how-long-will-does-gbif-store-downloads

这篇关于R语言【rgbif】——如何从GBIF网站上获取大量数据?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/752987

相关文章

SpringBoot分段处理List集合多线程批量插入数据方式

《SpringBoot分段处理List集合多线程批量插入数据方式》文章介绍如何处理大数据量List批量插入数据库的优化方案:通过拆分List并分配独立线程处理,结合Spring线程池与异步方法提升效率... 目录项目场景解决方案1.实体类2.Mapper3.spring容器注入线程池bejsan对象4.创建

PHP轻松处理千万行数据的方法详解

《PHP轻松处理千万行数据的方法详解》说到处理大数据集,PHP通常不是第一个想到的语言,但如果你曾经需要处理数百万行数据而不让服务器崩溃或内存耗尽,你就会知道PHP用对了工具有多强大,下面小编就... 目录问题的本质php 中的数据流处理:为什么必不可少生成器:内存高效的迭代方式流量控制:避免系统过载一次性

C#实现千万数据秒级导入的代码

《C#实现千万数据秒级导入的代码》在实际开发中excel导入很常见,现代社会中很容易遇到大数据处理业务,所以本文我就给大家分享一下千万数据秒级导入怎么实现,文中有详细的代码示例供大家参考,需要的朋友可... 目录前言一、数据存储二、处理逻辑优化前代码处理逻辑优化后的代码总结前言在实际开发中excel导入很

python获取指定名字的程序的文件路径的两种方法

《python获取指定名字的程序的文件路径的两种方法》本文主要介绍了python获取指定名字的程序的文件路径的两种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要... 最近在做项目,需要用到给定一个程序名字就可以自动获取到这个程序在Windows系统下的绝对路径,以下

MyBatis-plus处理存储json数据过程

《MyBatis-plus处理存储json数据过程》文章介绍MyBatis-Plus3.4.21处理对象与集合的差异:对象可用内置Handler配合autoResultMap,集合需自定义处理器继承F... 目录1、如果是对象2、如果需要转换的是List集合总结对象和集合分两种情况处理,目前我用的MP的版本

SpringBoot 获取请求参数的常用注解及用法

《SpringBoot获取请求参数的常用注解及用法》SpringBoot通过@RequestParam、@PathVariable等注解支持从HTTP请求中获取参数,涵盖查询、路径、请求体、头、C... 目录SpringBoot 提供了多种注解来方便地从 HTTP 请求中获取参数以下是主要的注解及其用法:1

GSON框架下将百度天气JSON数据转JavaBean

《GSON框架下将百度天气JSON数据转JavaBean》这篇文章主要为大家详细介绍了如何在GSON框架下实现将百度天气JSON数据转JavaBean,文中的示例代码讲解详细,感兴趣的小伙伴可以了解下... 目录前言一、百度天气jsON1、请求参数2、返回参数3、属性映射二、GSON属性映射实战1、类对象映

C# LiteDB处理时间序列数据的高性能解决方案

《C#LiteDB处理时间序列数据的高性能解决方案》LiteDB作为.NET生态下的轻量级嵌入式NoSQL数据库,一直是时间序列处理的优选方案,本文将为大家大家简单介绍一下LiteDB处理时间序列数... 目录为什么选择LiteDB处理时间序列数据第一章:LiteDB时间序列数据模型设计1.1 核心设计原则

GO语言短变量声明的实现示例

《GO语言短变量声明的实现示例》在Go语言中,短变量声明是一种简洁的变量声明方式,使用:=运算符,可以自动推断变量类型,下面就来具体介绍一下如何使用,感兴趣的可以了解一下... 目录基本语法功能特点与var的区别适用场景注意事项基本语法variableName := value功能特点1、自动类型推

GO语言中函数命名返回值的使用

《GO语言中函数命名返回值的使用》在Go语言中,函数可以为其返回值指定名称,这被称为命名返回值或命名返回参数,这种特性可以使代码更清晰,特别是在返回多个值时,感兴趣的可以了解一下... 目录基本语法函数命名返回特点代码示例命名特点基本语法func functionName(parameters) (nam