rexray在CentOS上不能创建ceph rbd的docker volume问题定位

2024-02-09 12:18
文章标签 问题 docker 创建 定位 不能 volume centos ceph rbd rexray

本文主要是介绍rexray在CentOS上不能创建ceph rbd的docker volume问题定位，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

背景

　　我们通过docker的rexray插件来创建ceph rbd设备的docker volume，但总提示创建失败。 

# docker volume create --driver=rexray --opt=size=5 --name=cephrbd-book
Error response from daemon: create test_cephrbd_volume: VolumeDriver.Create: {"Error":"Failed to create new volume"}

　　OS版本： 

# lsb_release -a
LSB Version:    :core-4.1-amd64:core-4.1-noarch
Distributor ID: CentOS
Description:    CentOS Linux release 7.4.1708 (Core) 
Release:        7.4.1708
Codename:       Core

　　Ceph版本： 

# ceph version
ceph version 0.94.5

　　rexray版本： 

# rexray version
REX-Ray
-------
Binary: /usr/bin/rexray
Flavor: client+agent+controller
SemVer: 0.9.0
OsArch: Linux-x86_64
Branch: (detached from 2a7458d
Commit: 2a7458dd90a79c673463e14094377baf9fc8695e
Formed: Wed, 26 Jul 2017 14:35:37 CSTlibStorage
----------
SemVer: 0.6.0
OsArch: Linux-x86_64
Branch: (detached from fa055d6
Commit: fa055d6da595602715bdfd5541b4aa6d4dcbcbd9
Formed: Wed, 26 Jul 2017 14:35:11 CST

分析

　　之前我们在ubuntu 16.04的环境中，也搭建过docker+ceph+rexray的环境，使用docker命令创建volume并没有报错。正常的流程是： 

1. 创建docker volume：rexray会使用rbd create命令创建一个rbd设备；
2. 使用该volume创建docker 容器：rexray会将rbd 设备map到docker host上成为一个/dev/rbd设备，再使用mount命令将/dev/rbd设备挂载到/var/lib/libstorage/volumes/目录，供容器使用；
3. 删除该容器时：先umount掉/dev/rbd设备在/var/lib/libstorage/volumes/目录的挂载，再rbd unmap掉rbd设备在docker host上的映射；
4. 删除docker volume：rexray会使用rbd rm命令删除该rbd设备；

　　在我们的实际使用情况中，发现只有第一步会出错，后面的三步都并未出现任何异常。而且，如果我们不使用docker volume create命令创建rbd设备，而是直接使用“rbd create”命令来创建rbd设备，也并未出现任何错误，且该rbd设备也可以正常使用。这是很奇怪的一个地方。
　　查看docker日志，也只是提示“Failed to create new volume”，并没有其他有用的信息。 

# journalctl -xu docker
...
Jan 22 10:45:13 dcos-agent2 dockerd[66886]: time="2018-01-22T10:45:13.937645601+08:00" level=error msg="Handler for POST /v1.29/volumes/create returned error: create cephrbd-book: VolumeDri
ver.Create: {\"Error\":\"Failed to create new volume\"}\n"

　　既然docker中没有更有价值的日志，那么就尝试看下rexray的日志，这里需要打开rexray的debug选项(打开方法参考)，从而可以看到更多的日志。 

# vim /var/log/rexray/rexray.log
...
time="2018-01-19T19:12:32+08:00" level=info msg="    -------------------------- HTTP REQUEST (CLIENT) -------------------------"
time="2018-01-19T19:12:32+08:00" level=info msg="    GET /volumes/rbd?attachments=0 HTTP/1.1"
time="2018-01-19T19:12:32+08:00" level=info msg="    Host: libstorage-server"
time="2018-01-19T19:12:32+08:00" level=info msg="    Libstorage-Instanceid: rbd=109.105.115.73"
time="2018-01-19T19:12:32+08:00" level=info msg="    Libstorage-Localdevices: rbd="
time="2018-01-19T19:12:32+08:00" level=info msg="    Libstorage-Tx: txID=b9fb044b-d47a-4ac5-7533-5824b8dc737a, txCR=1516360352"
time="2018-01-19T19:12:32+08:00" level=info msg="    "
time="2018-01-19T19:12:33+08:00" level=info
time="2018-01-19T19:12:33+08:00" level=info msg="    -------------------------- HTTP RESPONSE (CLIENT) -------------------------"
time="2018-01-19T19:12:33+08:00" level=info msg="    HTTP/1.1 200 OK"
time="2018-01-19T19:12:33+08:00" level=info msg="    Content-Length: 228"
time="2018-01-19T19:12:33+08:00" level=info msg="    Content-Type: application/json"
time="2018-01-19T19:12:33+08:00" level=info msg="    Date: Fri, 19 Jan 2018 11:12:33 GMT"
time="2018-01-19T19:12:33+08:00" level=info msg="    Libstorage-Servername: jade-chopper-ky"
time="2018-01-19T19:12:33+08:00" level=info msg="    "
time="2018-01-19T19:12:33+08:00" level=info msg="    {"
time="2018-01-19T19:12:33+08:00" level=info msg="      \"rbd.test_fs_device2\": {"
time="2018-01-19T19:12:33+08:00" level=info msg="        \"name\": \"test_fs_device2\","
time="2018-01-19T19:12:33+08:00" level=info msg="        \"size\": 16,"
time="2018-01-19T19:12:33+08:00" level=info msg="        \"id\": \"rbd.test_fs_device2\","
time="2018-01-19T19:12:33+08:00" level=info msg="        \"type\": \"rbd\""
time="2018-01-19T19:12:33+08:00" level=info msg="      },"
time="2018-01-19T19:12:33+08:00" level=info msg="      \"rbd.test_majk\": {"
time="2018-01-19T19:12:33+08:00" level=info msg="        \"name\": \"test_majk\","
time="2018-01-19T19:12:33+08:00" level=info msg="        \"id\": \"rbd.test_majk\","
time="2018-01-19T19:12:33+08:00" level=info msg="        \"type\": \"rbd\""
time="2018-01-19T19:12:33+08:00" level=info msg="      }"
time="2018-01-19T19:12:33+08:00" level=info msg="    }"
time="2018-01-19T19:12:33+08:00" level=info
time="2018-01-19T19:12:33+08:00" level=info msg="    -------------------------- HTTP REQUEST (CLIENT) -------------------------"
time="2018-01-19T19:12:33+08:00" level=info msg="    POST /volumes/rbd HTTP/1.1"
time="2018-01-19T19:12:33+08:00" level=info msg="    Host: libstorage-server"
time="2018-01-19T19:12:33+08:00" level=info msg="    Libstorage-Instanceid: rbd=109.105.115.73"
time="2018-01-19T19:12:33+08:00" level=info msg="    Libstorage-Localdevices: rbd="
time="2018-01-19T19:12:33+08:00" level=info msg="    Libstorage-Tx: txID=b1565614-1b5f-4de2-5756-b74fb99887aa, txCR=1516360353"
time="2018-01-19T19:12:33+08:00" level=info msg="    "
time="2018-01-19T19:12:33+08:00" level=info msg="    {\"name\":\"cephrbd-book\",\"availabilityZone\":\"\",\"iops\":0,\"size\":5,\"type\":\"\",\"opts\":{\"size\":\"5\"}}"
time="2018-01-19T19:12:33+08:00" level=info
time="2018-01-19T19:12:33+08:00" level=info msg="    -------------------------- HTTP RESPONSE (CLIENT) -------------------------"
time="2018-01-19T19:12:33+08:00" level=info msg="    HTTP/1.1 500 Internal Server Error"
time="2018-01-19T19:12:33+08:00" level=info msg="    Content-Length: 319"
time="2018-01-19T19:12:33+08:00" level=info msg="    Content-Type: application/json"
time="2018-01-19T19:12:33+08:00" level=info msg="    Date: Fri, 19 Jan 2018 11:12:33 GMT"
time="2018-01-19T19:12:33+08:00" level=info msg="    Libstorage-Servername: jade-chopper-ky"
time="2018-01-19T19:12:33+08:00" level=info msg="    "
time="2018-01-19T19:12:33+08:00" level=info msg="    {"
time="2018-01-19T19:12:33+08:00" level=info msg="      \"message\": \"Failed to create new volume\","
time="2018-01-19T19:12:33+08:00" level=info msg="      \"status\": 500,"
time="2018-01-19T19:12:33+08:00" level=info msg="      \"error\": {"
time="2018-01-19T19:12:33+08:00" level=info msg="        \"driverName\": \"rbd\","
time="2018-01-19T19:12:33+08:00" level=info msg="        \"inner\": {"
time="2018-01-19T19:12:33+08:00" level=info msg="          \"inner\": \"Error running command: [rbd: strict_strtoll: garbage at end of string. got: '5G'\\n]\","
time="2018-01-19T19:12:33+08:00" level=info msg="          \"msg\": \"unable to create rbd\""
time="2018-01-19T19:12:33+08:00" level=info msg="        },"
time="2018-01-19T19:12:33+08:00" level=info msg="        \"opts.Size\": 5,"
time="2018-01-19T19:12:33+08:00" level=info msg="        \"volumeName\": \"cephrbd-book\""
time="2018-01-19T19:12:33+08:00" level=info msg="      }"
time="2018-01-19T19:12:33+08:00" level=info msg="    }"

　　通过日志可以看到，每次发送docker volume create命令时，实际发送了两次http请求，第一次是列出当前的rbd设备，第二次才是发出post请求来创建一个rbd设备。而这里的日志，则给出了更多的信息“rbd: strict_strtoll: garbage at end of string. got: ‘5G’”。也就是说，很可能就是在rexray调用rbd create命令时发生了错误。这里，我们打开rexray源码继续跟踪，具体的源码文件为rexray/blob/master/libstorage/drivers/storage/rbd/utils/utils.go。 

//RBDCreate creates a new RBD volume on the cluster
func RBDCreate(ctx types.Context,pool *string,image *string,sizeGB *int64,objectSize *string,features []*string) error {cmd := exec.Command(rbdCmd, "create", poolOpt, *pool,"--object-size", *objectSize,"--size", strconv.FormatInt(*sizeGB, 10)+"G",)for _, feature := range features {cmd.Args = append(cmd.Args, "--image-feature")cmd.Args = append(cmd.Args, *feature)}cmd.Args = append(cmd.Args, *image)_, _, err := RunCommand(ctx, cmd)if err != nil {return goof.WithError("unable to create rbd", err)}return nil
}

　　根据上面的代码可以大致看出，rexray就是直接调用rbd create命令来创建rbd设备，和我们直接调用命令不同的是它这里是把rbd的大小转化成GB，然后再字符串拼接了一个“G”。这里我们就按照它这里的方法，组装了一个新的rbd命令，然后在CentOS上测试： 

# rbd create cephrbd-test --size 5G
rbd: strict_strtoll: garbage at end of string. got: '5G'

　　果然，还是报错了，我们再使用该命令在ubuntu上测试： 

# rbd create cephrbd-test --size 5G

　　在ubuntu上运行，没有报错。同一条命令，在不同的环境下结果不同。那么最大的可能就是rbd(ceph)的版本不一致了。在ubuntu下获取ceph版本。 

# ceph version
ceph version 10.2.7

　　而CentOS上默认安装的ceph版本只是0.94.5(Hammer版)，而Ubuntu上默认安装的却是更高的10.2.7(jewel版本)。而0.94.5 ceph版本的rbd命令无法解析“G”，“M”等描述rbd大小的参数。这就是问题出现的原因。

解决方法

　　在CentOS上安装更新的Ceph版本(jewel或更新的版本)即可。

ps：后面的博客会介绍如何在CentOS上安装更新的Ceph版本。

这篇关于rexray在CentOS上不能创建ceph rbd的docker volume问题定位的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！


http://www.chinasem.cn/article/694212。

相关文章

CSS Anchor Positioning重新定义锚点定位的时代来临(最新推荐)

CSS Anchor Positioning重新定义锚点定位的时代来临(最新推荐)

《CSSAnchorPositioning重新定义锚点定位的时代来临(最新推荐)》CSSAnchorPositioning是一项仍在草案中的新特性，由Chrome125开始提供原生支持需... 目录 css Anchor Positioning：重新定义「锚定定位」的时代来了！ 什么是 Anchor Pos
阅读更多...
Python中使用uv创建环境及原理举例详解

Python中使用uv创建环境及原理举例详解

《Python中使用uv创建环境及原理举例详解》uv是Astral团队开发的高性能Python工具,整合包管理、虚拟环境、Python版本控制等功能,：本文主要介绍Python中使用uv创建环境及... 目录一、uv工具简介核心特点：二、安装uv1. 通过pip安装2. 通过脚本安装验证安装：配置镜像源（可
阅读更多...
MySQL 设置AUTO_INCREMENT 无效的问题解决

MySQL 设置AUTO_INCREMENT 无效的问题解决

《MySQL设置AUTO_INCREMENT无效的问题解决》本文主要介绍了MySQL设置AUTO_INCREMENT无效的问题解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参... 目录快速设置mysql的auto_increment参数一、修改 AUTO_INCREMENT 的值。
阅读更多...
Java中实现线程的创建和启动的方法

Java中实现线程的创建和启动的方法

《Java中实现线程的创建和启动的方法》在Java中,实现线程的创建和启动是两个不同但紧密相关的概念,理解为什么要启动线程（调用start()方法）而非直接调用run()方法,是掌握多线程编程的关键,... 目录1. 线程的生命周期2. start() vs run() 的本质区别3. 为什么必须通过 st
阅读更多...
关于跨域无效的问题及解决(java后端方案)

关于跨域无效的问题及解决(java后端方案)

《关于跨域无效的问题及解决(java后端方案)》：本文主要介绍关于跨域无效的问题及解决(java后端方案),具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录通用后端跨域方法1、@CrossOrigin 注解2、springboot2.0 实现WebMvcConfig
阅读更多...
Go语言中泄漏缓冲区的问题解决

Go语言中泄漏缓冲区的问题解决

《Go语言中泄漏缓冲区的问题解决》缓冲区是一种常见的数据结构,常被用于在不同的并发单元之间传递数据,然而,若缓冲区使用不当,就可能引发泄漏缓冲区问题,本文就来介绍一下问题的解决,感兴趣的可以了解一下... 目录引言泄漏缓冲区的基本概念代码示例：泄漏缓冲区的产生项目场景：Web 服务器中的请求缓冲场景描述代码
阅读更多...
Java死锁问题解决方案及示例详解

Java死锁问题解决方案及示例详解

《Java死锁问题解决方案及示例详解》死锁是指两个或多个线程因争夺资源而相互等待,导致所有线程都无法继续执行的一种状态,本文给大家详细介绍了Java死锁问题解决方案详解及实践样例,需要的朋友可以参考下... 目录1、简述死锁的四个必要条件：2、死锁示例代码3、如何检测死锁？3.1 使用 jstack3.2
阅读更多...
解决JSONField、JsonProperty不生效的问题

解决JSONField、JsonProperty不生效的问题

《解决JSONField、JsonProperty不生效的问题》：本文主要介绍解决JSONField、JsonProperty不生效的问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑... 目录jsONField、JsonProperty不生效javascript问题排查总结JSONField
阅读更多...
github打不开的问题分析及解决

github打不开的问题分析及解决

《github打不开的问题分析及解决》：本文主要介绍github打不开的问题分析及解决,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、找到github.com域名解析的ip地址二、找到github.global.ssl.fastly.net网址解析的ip地址三
阅读更多...
MySQL版本问题导致项目无法启动问题的解决方案

MySQL版本问题导致项目无法启动问题的解决方案

《MySQL版本问题导致项目无法启动问题的解决方案》本文记录了一次因MySQL版本不一致导致项目启动失败的经历,详细解析了连接错误的原因,并提供了两种解决方案：调整连接字符串禁用SSL或统一MySQL... 目录本地项目启动报错报错原因：解决方案第一个：第二种：容器启动mysql的坑两种修改时区的方法：本地
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2