DAOS 分布式异步对象存储|分层和服务

2023-10-11 19:20

本文主要是介绍DAOS 分布式异步对象存储|分层和服务,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

架构

        如下图所示,DAOS 堆栈被构造为客户端/服务器架构上的存储服务集合。

        DAOS 服务的例子有 Pool、Container、Object 和 Rebuild。

DAOS Internal Services & Libraries

        DAOS 服务分布在控制和数据平面上,并通过 dRPC 进行内部通信。大多数服务都有客户端和服务器组件,可以通过 gRPC 或 CART 进行同步。跨服务通信是直接通过 API 调用来完成的,这些函数可以被跨服务的客户端或服务器组件调用。

        虽然每个 DAOS 服务都被设计成自治和隔离的,但有些服务的耦合比其他服务更紧密。这通常是 Rebuild 服务的情况,它需要与 Pool、Container 和 Object 服务密切交互,以便在 DAOS 服务器发生故障后恢复数据冗余。

        基于服务的架构提供了灵活性和可扩展性,它与一组基础架构库相结合,这些库提供了可供所有 DAOS 服务访问的丰富软件生态系统(例如,通信、持久存储访问、具有依赖关系图的异步任务执行、加速器支持等)。

源代码结构

        每个基础架构库和服务都在 src/ 下被分配一个专用目录。

        服务的客户端和服务器组件存储在不同的文件中。作为客户端组件的函数的前缀是 dc_(代表 DAOS Client),而服务器端函数的前缀是 ds_(代表 DAOS Server)。客户端和服务器组件之间使用的协议和 RPC 格式通常在名为 rpc.h 的头文件中定义。

        在控制平面上下文中执行的所有 Go 代码都位于 src/control 目录下。管理和安全服务分布在控制平台 (Go) 和数据平台 © 上,通过 dRPC 进行内部通信。

        向最终用户(即 I/O 中间件或应用程序开发人员)公开的官方 DAOS API 的头文件位于 src/include 目录下,并使用 daos_ 前缀。

        每个基础架构库导出一个 API,该 API 头文件位于 src/include/daos 目录下,可以由任何服务使用。给定服务导出的客户端 API(带有 dc_ 前缀)也存储在 src/include/daos 目录下,而服务器端接口(带有 ds_ 前缀)则存储在 src/include/daos_srv 目录下。

基础架构库

        GURT (A common library of Gurt Useful Routines and Types) 和 Common (libdaos_common) 库为 DAOS 服务提供日志记录、调试和公共数据结构(如 hash table、btree 等)。

        本地 NVM 存储由 Versioning Object Store (VOS) 和 Blob I/O (BIO) 库管理。VOS 在 SCM 中实现持久索引,而 BIO 负责根据分配策略将应用程序的数据存储在 NVMe SSD 或 SCM 中。Versioned Block Allocator (VEA) 层集成到 VOS 中,负责管理 NVMe SSD 上的块分配。

        DAOS 对象分布在多个 Target 上,以实现性能(分片)和恢复能力(复制或纠删码)。Placement 库实现不同的算法(例如,基于环的放置、跳转一致性散列…),从 Target 列表和对象标识符生成对象的布局。

        复制服务 (Replicated service framework, RSVC) 库提供了一些支持容错的公共代码。

        Pool、Container 和 Management 服务与 Replicated database (RDB) 库结合使用,RDB 库在 Raft 上实现复制的键值存储。

        有关这些基础架构库的更多信息,请参阅:

  • Common Library
  • Versioning Object Store (VOS)
  • Blob I/O (BIO)
  • Versioned Block Allocator (VEA)
  • Algorithmic object placement
  • Replicated database (RDB)
  • Replicated service framework (RSVC)

DAOS 服务

        下图显示了 DAOS 服务的内部分层以及与上面提到的不同库的交互:

DAOS Internal Layering

        垂直框表示 DAOS 服务,而水平框表示基础架构库。

        对于每个服务的内部结构的进一步阅读:

  • Pool service
  • Container service
  • Key-array object service
  • Self-healing (aka rebuild)
  • Security

相关信息

GitHub: https://github.com/storagezhang

Emai: debugzhang@163.com

DAOS: https://github.com/daos-stack/daos

本文翻译自 https://github.com/daos-stack/daos/blob/master/src/README.md

这篇关于DAOS 分布式异步对象存储|分层和服务的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/190285

相关文章

如何在Java Spring实现异步执行(详细篇)

《如何在JavaSpring实现异步执行(详细篇)》Spring框架通过@Async、Executor等实现异步执行,提升系统性能与响应速度,支持自定义线程池管理并发,本文给大家介绍如何在Sprin... 目录前言1. 使用 @Async 实现异步执行1.1 启用异步执行支持1.2 创建异步方法1.3 调用

Spring Boot 与微服务入门实战详细总结

《SpringBoot与微服务入门实战详细总结》本文讲解SpringBoot框架的核心特性如快速构建、自动配置、零XML与微服务架构的定义、演进及优缺点,涵盖开发环境准备和HelloWorld实战... 目录一、Spring Boot 核心概述二、微服务架构详解1. 微服务的定义与演进2. 微服务的优缺点三

RabbitMQ消息总线方式刷新配置服务全过程

《RabbitMQ消息总线方式刷新配置服务全过程》SpringCloudBus通过消息总线与MQ实现微服务配置统一刷新,结合GitWebhooks自动触发更新,避免手动重启,提升效率与可靠性,适用于配... 目录前言介绍环境准备代码示例测试验证总结前言介绍在微服务架构中,为了更方便的向微服务实例广播消息,

SpringBoot3.X 整合 MinIO 存储原生方案

《SpringBoot3.X整合MinIO存储原生方案》本文详细介绍了SpringBoot3.X整合MinIO的原生方案,从环境搭建到核心功能实现,涵盖了文件上传、下载、删除等常用操作,并补充了... 目录SpringBoot3.X整合MinIO存储原生方案:从环境搭建到实战开发一、前言:为什么选择MinI

Jenkins分布式集群配置方式

《Jenkins分布式集群配置方式》:本文主要介绍Jenkins分布式集群配置方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录1.安装jenkins2.配置集群总结Jenkins是一个开源项目,它提供了一个容易使用的持续集成系统,并且提供了大量的plugin满

关于DNS域名解析服务

《关于DNS域名解析服务》:本文主要介绍关于DNS域名解析服务,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录DNS系统的作用及类型DNS使用的协议及端口号DNS系统的分布式数据结构DNS的分布式互联网解析库域名体系结构两种查询方式DNS服务器类型统计构建DNS域

Python实现对阿里云OSS对象存储的操作详解

《Python实现对阿里云OSS对象存储的操作详解》这篇文章主要为大家详细介绍了Python实现对阿里云OSS对象存储的操作相关知识,包括连接,上传,下载,列举等功能,感兴趣的小伙伴可以了解下... 目录一、直接使用代码二、详细使用1. 环境准备2. 初始化配置3. bucket配置创建4. 文件上传到os

Java中调用数据库存储过程的示例代码

《Java中调用数据库存储过程的示例代码》本文介绍Java通过JDBC调用数据库存储过程的方法,涵盖参数类型、执行步骤及数据库差异,需注意异常处理与资源管理,以优化性能并实现复杂业务逻辑,感兴趣的朋友... 目录一、存储过程概述二、Java调用存储过程的基本javascript步骤三、Java调用存储过程示

Linux中SSH服务配置的全面指南

《Linux中SSH服务配置的全面指南》作为网络安全工程师,SSH(SecureShell)服务的安全配置是我们日常工作中不可忽视的重要环节,本文将从基础配置到高级安全加固,全面解析SSH服务的各项参... 目录概述基础配置详解端口与监听设置主机密钥配置认证机制强化禁用密码认证禁止root直接登录实现双因素

MySQL之InnoDB存储引擎中的索引用法及说明

《MySQL之InnoDB存储引擎中的索引用法及说明》:本文主要介绍MySQL之InnoDB存储引擎中的索引用法及说明,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐... 目录1、背景2、准备3、正篇【1】存储用户记录的数据页【2】存储目录项记录的数据页【3】聚簇索引【4】二