理解 OpenStack + Ceph （3）：Ceph RBD 接口和工具 [Ceph RBD API and Tools]
问题导读：1.安装和部署？
2.Ceph RBD 接口和工具？3.Ceph 与 OpenStack 集成的实现？4.TBD介绍。
static/image/hrline/2.gif
Ceph 作为一个统一的分布式存储，其一大特色是提供了丰富的编程接口。我们来看看下面这张经典的图：其中，librados 是 Ceph 的基础接口，其它的接口比如 RADOSGW, RBD 和 CephFS 都是基于 librados 实现的。本文试着分析下 Ceph 的各种接口库和常用的工具。1 librados1.1 librados 概述Ceph 提供一个消息层协议（messaging layer protocol）使得 ceph 客户端可以和 Ceph Monitor 以及 Ceph OSD Daemon 交互。librados 就是一个该协议的编码库形式的实现。所有的 Ceph clients 要么使用 librados 要么使用其封装的更高层 API 与对象存储进行交互。比如，librbd 使用 librados 提供 Ceph 客户端与 RBD 交互 API。librados 是使用 C++ 实现的，同时也提供 C, python，Java 和 PHD 语言的绑定。使用它之前，你需要安装它：
[*]安装 C/C++ 版本的 librados，比如在 Ubuntu 环境中，运行 sudo apt-get install librados-dev，然后你就会在 /usr/include/rados 目录中找到C/C++的头文件。
[*]使用 Python 版本的 librados，比如在 Ubuntu 环境中，运行 sudo apt-get install python-rados。具体请见 1.1.2 部分。
一个 Ceph client 通过 librados 存放或者读取数据块到 Ceph 中，需要经过以下步骤：
[*]Client 调用 librados 连接到 Ceph monitor，获取 Cluster map。
[*]当 client 要读或者写数据时，它创建一个与 pool 的 I/O Context。该 pool 关联有 ruleset，它定义了数据在 Ceph 存储集群中是怎么存放的。
[*]client 通过 I/O Context 提供 object name 给 librados，它使用该 object name 和 cluster map 计算出 PG 和 OSD 来定位到数据的位置。
[*]client 直接和 OSD Deamon 交互来读或者写数据。
可见，第一步中，ceph client 需要知道 Ceph Minotor 的访问方法，以及用户的身份信息，而这些信息往往是放在 ceph 配置文件中，比如：
mon host = 192.168.1.1
keyring = /etc/ceph/ceph.client.admin.keyring
1.2 librados for phthon Python rados 模块是 librados 的 Python 的很薄的封装，它在 github 上的源文件在 /src/pybind/rados.py, 安装到 Ubunt 后的源文件在 /usr/lib/python2.7/dist-packages/rados.py。
（1）要使用 rados.py 模块，在你的代码中 import rados（2）创建一个 cluster handler，你需要提供 ceph.conf 文件和 keystringimport rados, sys
#Create Handle Examples. 你有多种方式来指定 ceph.conf
（1）cluster = rados.Rados(conffile='ceph.conf') #默认路径的 ceph.conf
（2）cluster = rados.Rados(conffile=sys.argv) #指定路径的 ceph.conf
（3）cluster = rados.Rados(conffile = 'ceph.conf', conf = dict (keyring = '/path/to/keyring')) #默认路径的 ceph.conf 和指定的 keystring（3）连接到 ceph clustercluster.connect()（4）获取 ceph cluster 的信息，以及操作 poolcluster_stats = cluster.get_cluster_stats()
pools = cluster.list_pools()
cluster.create_pool('test')
cluster.delete_pool('test')（5）向 ceph 集群读写数据，需要有一个 I/O Context （ioctx）ioctx = cluster.open_ioctx('data')（6）然后就可以读写数据了ioctx.write_full("hw", "Hello World!") #向 “hw” object 写入 "Hello World!"
print ioctx.read("hw") #读取 ”hw“ object 的数据
ioctx.remove_object("hw") #删除 “hw” object更多的信息，可以参考 LIBRADOS (PYTHON)。2. librbd：Go 语言实现的访问 Ceph RBD 的接口RBD shiRados Block Device的缩写，而 librbd 是访问 RBD 的库。它调用 librados C 语言绑定，以及与Linux 内核中的 rbd 模块通信，来提供 RMD image 的创建、删除、映射和删除映射等操作。其中，创建和删除等操作是调用 librados，而将 RDB Image 映射到主机上则是调用 Linux rbd 内核模块：// MapDevice maps an image to a device on the host. Returns the device path and
// any errors. On error, the device path will be blank.
func (img *Image) MapDevice() (string, error)librbd 的源代码在 https://github.com/contiv/librbd，是使用 Go 语言实现的，调用 librados 的 C 库以及linux 内核模块，在 Ubuntu 14 上它的文件在 /usr/lib/x86_64-linux-gnu/librbd.so.1。它支持：
[*]Open a connection to the rbd pool
[*]Creates an image called test (Removing it before if necessary)
[*]Maps it to a block device on the local host
[*]Creates a snapshot of the image, called test-snap.
[*]Lists and prints the snapshots available.
3. rbd.py：librbd 的 python 封装 rbd python 模块 rbd.py 的源代码在 https://github.com/ceph/ceph/blob/master/src/pybind/rbd.py，它是 librbd 的一个 python 封装。#使用 rbd 之前，连接到 RADOS，并打开一个 IO context （和特定 pool 相关）
cluster = rados.Rados(conffile='my_ceph.conf')
cluster.connect()
ioctx = cluster.open_ioctx('mypool')
#初始化一个 RBD 对象
rbd_inst = rbd.RBD()
size = 4 * 1024**3# 4 GiB
#创建 image
rbd_inst.create(ioctx, 'myimage', size)
#初始化 image 对象
image = rbd.Image(ioctx, 'myimage')
#准备 600 个字符的数据
data = 'foo' * 200
#写入数据
image.write(data, 0)
#关闭 image 对象
image.close()
#关闭 IO Context
ioctx.close()
#关闭连接
cluster.shutdown() 它只封装了 librbd 中的同步操作。它主要提供了 RBD、Image 和 SnapIterator 三个类。在 Ubuntu 上，安装 python-rbd 包就可以在你的机器上找到该文件：/usr/lib/python2.7/dist-packages/rbd.py。 提供类似文件访问的方式去访问 ceph RBD image （连接-打开-使用-关闭）。该模块除了提供主要三个类 Rados, Ioctx, 和Image （Rados 对应于 ceph 集群；Ioctx 对应于 pool；Image 对应于 RBD Image）以外，还封装了 librdb 的返回值作为 Error 类。rbd 模块还提供 Error 类的具体的子类，比如 PermissionError 和 IOError。3.1 基本流程#使用 rbd 之前，连接到 RADOS，并打开一个 IO context （和特定 pool 相关）
cluster = rados.Rados(conffile='my_ceph.conf')
cluster.connect()
ioctx = cluster.open_ioctx('mypool')
#初始化一个 RBD 对象
rbd_inst = rbd.RBD()
size = 4 * 1024**3# 4 GiB
#创建 image
rbd_inst.create(ioctx, 'myimage', size)
#初始化 image 对象
image = rbd.Image(ioctx, 'myimage')
#准备 600 个字符的数据
data = 'foo' * 200
#写入数据
image.write(data, 0)
#关闭 image 对象
image.close()
#关闭 IO Context
ioctx.close()
#关闭连接
cluster.shutdown()
更优化的编码方式：with rados.Rados(conffile='my_ceph.conf') as cluster:
with cluster.open_ioctx('mypool') as ioctx:
rbd_inst = rbd.RBD()
size = 4 * 1024**3# 4 GiB
rbd_inst.create(ioctx, 'myimage', size)
with rbd.Image(ioctx, 'myimage') as image:
data = 'foo' * 200
image.write(data, 0)3.2 class rbd.RBD 类class rbd.RBD 该类封装了 librbd 的 CURD 操作，包括：
[*]create(ioctx, name, size, order=None, old_format=True, features=0, stripe_unit=0, stripe_count=0)：创建一个 RBD Image
[*]list(ioctx)返回 RBD Image 的名称列表
[*]clone(p_ioctx, p_name, p_snapname, c_ioctx, c_name, features=0, order=None)：克隆 Image 的snapshot 到一个 COW 克隆
[*]features (int) – bitmask of features to enable; if set, must include layering
[*]order (int) – the image is split into (2**order) byte objects
[*]remove(ioctx, name) ：删除一个 RBD image。这可能会需要较长的时间，因为它需要等待组成该 image 的每个对象都被删除。
[*]rename(ioctx, src, dest)：修改 RBD Image 的名称
3.3class rbd.Image该类的一个实例代表一个 RBD image。它的方法用于对 image 的 I/O 操作和处理其 snapshot。它的主要方法包括：
[*]class rbd.Image(ioctx, name, snapshot=None, read_only=False)
[*]copy(dest_ioctx, dest_name) Copy the image to another location.
[*]create_snap(name)Create a snapshot of the image
[*]flatten()Flatten clone image (copy all blocks from parent to child)
[*]list_snaps()Iterate over the snapshots of an image
[*]protect_snap(name) Mark a snapshot as protected. This means it can’t be deleted until it is unprotected.
[*]read(offset, length, fadvise_flags=0)Read data from the image.
[*]remove_snap(name)Delete a snapshot of the image
[*]resize(size)Change the size of the image
[*]rollback_to_snap(name)Revert the image to its contents at a snapshot.
[*]set_snap(name) Set the snapshot to read from. Writes will raise ReadOnlyImage while a snapshot is set. Pass None to unset the snapshot (reads come from the current image) , and allow writing again.
[*]size()Get the size of the imagein bytes
[*]stat()Get information about the image.
[*]unprotect_snap(name) Mark a snapshot unprotected. This allows it to be deleted if it was protected.
[*]write(data, offset, fadvise_flags=0)Write data to the image.
[*]parent_infoGet information about a cloned image’s parent (if any)
4. Ceph RBD 对 Linux 主机和虚机的支持，以及 Linux RBD 内核模块使用 Ceph 的块存储有两种路径：
[*]一种是利用QEMU走librbd路径，主要为虚拟机提供块存储设备
[*]另一种是使用 kernel module，走 kernel 的路径，主要为Host提供块设备支持。
两种途径的接口实现不完全相同。就目前来说，前者是目前更稳定的途径，也是Ceph所有应用场景中最广泛使用的。网上多篇文章认为目前内核模块尚不稳定，建议尽量不要使用。4.1 qemu-kvm 使用librbd 访问 RBDQEMU 通过 librbd 库访问 RBD，而 librbd 是调用 librados。QEMU 对 librbd 的调用关系可以使用 ldd 命令查看：root@compute1:~# ldd /usr/bin/qemu-system-x86_64 | grep rbd
librbd.so.1 => /usr/lib/x86_64-linux-gnu/librbd.so.1 (0x00007f76ef9e8000)qemu-img 命令支持直接创建 rbd 镜像，比如：qemu-img create -f rbd rbd:vmimages/ubuntu-newdrive 2G然后可以使用 virsh 将它定义为一个 device，下面是 device.xml 文件：<disk type='network' device='disk'>
<driver name='qemu' type='raw'/>
<auth username='vmimages'>
<secret type='ceph' uuid='76e3a541-b997-58ac-f7bd-77dd7d4347cb'/>
</auth>
<source protocol='rbd' name='vmimages/ubuntu-newdrive'>
<host name='192.168.0.100' port='6789'/>
</source>
<target dev='vdc' bus='virtio'/>
</disk>然后该 device 添加到虚机中即可。虚机访问 RBD 设备是通过： 我们知道，Linux Kernel 中的块设备驱动是 virtio_blk，它会对虚机的块设备各种请求封装成一个消息通过 virtio 框架提供的队列发送到 QEMU 的 IO 线程，QEMU 收到请求后会转给相应的 QEMU Block Driver 来完成请求，当使用 RDB 时 QEMU block driver 会调用 librbd 来访问 Ceph RDB 设备。4.2 使用内核模块，将 RBD 设备映射给主机 rbd 工具也可以调用 Linux RBD 内核模块来将 RBD Image 挂载到Linux 主机上作为一个新的设备。一开始，该内核模块并没有被加载，但是在执行了 rbd map 操作后，libceph 模块自动被加载：root@compute2:~# lsmod | grep rbd #此时，rbd 内核模块还没有被加载
root@compute2:~# rbd -n client.cinder map vms/smb01_d1 #做 rbd map 操作
/dev/rbd1
root@compute2:~# lsmod | grep rbd #此时， rbd 内核模块已经被自动加载
rbd 637871
libceph 2254611 rbd
root@compute2:~# rmmod rbd #这时候，rbd 内核模块也无法被卸载
rmmod: ERROR: Module rbd is in use在看 rbd 的帮助，我们要可以看到 map，unmap，showmapped 命令确实调用的是 rbd 内核模块：map <image-name> map image to a block device using the kernelunmap <device> unmap a rbd device that was mapped by the kernelshowmapped show the rbd images mapped by the kernel
过程：#创建一个 RDB Image
root@compute1:~# rbd -n client.cinder create vms/smb01_d2 --size 1000 --image-format 2
#将 Image map 给主机
root@compute1:~# rbd -n client.cinder map vms/smb01_d2 /dev/rbd2
#列表已经被映射的 RDB Image
root@compute1:~# rbd showmapped
id pool image snap device
vmssmb01_d1 - /dev/rbd1
vmssmb01_d2 - /dev/rbd2
vmssmb01_d3 - /dev/rbd3
#unmap
root@compute1:~# rbd unmap /dev/rbd1
root@compute1:~# rbd unmap /dev/rbd2
root@compute1:~# rbd unmap /dev/rbd3其实，rbd 是和 /sys/bus/rbd 交互来完成map：access("/sys/bus/rbd", F_OK) = 0
socket(PF_NETLINK, SOCK_RAW|SOCK_CLOEXEC|SOCK_NONBLOCK, 15) = 3
setsockopt(3, SOL_SOCKET, SO_ATTACH_FILTER, "\r\0\0\0\0\0\0\0\3000b\261\375\177\0\0", 16) = 0
bind(3, {sa_family=AF_NETLINK, pid=0, groups=00000002}, 12) = 0
getsockname(3, {sa_family=AF_NETLINK, pid=6958, groups=00000002}, ) = 0
setsockopt(3, SOL_SOCKET, SO_PASSCRED, , 4) = 0
open("/sys/bus/rbd/add_single_major", O_WRONLY) = -1 ENOENT (No such file or directory)
open("/sys/bus/rbd/add", O_WRONLY) = 4
write(4, "9.115.251.194:6789,9.115.251.195:6789,9.115.251.218:6789 nam"..., 101) = 101
close(4)你甚至可以直接对 /sys/bus/rbd 操作来 map，showmapped 和 unmap RBD Image：root@compute1:~#echo "10.20.30.40name=admin rbd foo" | sudo tee /sys/bus/rbd/add #map
root@compute1:~# ls /sys/bus/rbd/devices #showmapped
root@compute1:~# echo 1 | sudo tee /sys/bus/rbd/remove #unmap
root@compute1:~# ls /sys/bus/rbd/devices相信可以参考 RBD KERNEL OBJECT OPERATIONS 和 这篇文章。5. rbd 命令行Ceph 提供 rbd 作为一个操作 ceph rados 块设备（RBD）image 的 工具，根据调用的底层模块，其功能可分为两部分：
[*]常规的 create, list, introspect 和 remove block device images，以及 clone images, create snapshots, rollback an image to a snapshot, view a snapshot 等操作，是通过调用 librados 来实现的。其调用层次为 rbd -> librbd -> librados：
root@compute1:~# which rbd/usr/bin/rbdroot@compute1:~# ldd /usr/bin/rbd | grep rbd librbd.so.1 => /usr/lib/x86_64-linux-gnu/librbd.so.1 (0x00007fcf7ae62000)root@compute1:~# ldd /usr/lib/x86_64-linux-gnu/librbd.so.1 | grep rados librados.so.2 => /usr/lib/x86_64-linux-gnu/librados.so.2 (0x00007f29b543f000)
[*]将 RBD image map 给 Linux 主机，以及从 Linux 主机 unmap等操作，是通过和 Linux rbd 内核模块通信来实现的。详情请参考 1.4.2 部分。
在 Ubuntu 上，你安装了ceph-common 就可以得到该工具，其命令行格式为：rbd [ -c ceph.conf ] [ -m monaddr ] [ -p | –pool pool ] [ –size size ] [ –order bits ] [ command ... ]
部分使用示例：
[*]在 pool ‘mypool’ 中创建 100 GB 的 rbd image ‘myimage’:rbd create mypool/myimage --size 102400
[*]在默认的 ‘rbd’ pool 中创建 image：rbd create myimage --size 102400
[*]创建对象大小为 8MB 的 image：rbd create mypool/myimage --size 102400 --order 23
这里的 order 参数比较特别，它和 ceph 的对象条带化有关。ceph 客户端的一个数据块，会被条带化成多个小的对象，被保存在 Ceph 分布式对象存储（RADOS） 中。这样的话，对 image 的读和写操作可以被分散到集群的多个节点上，通常来讲这样可以防止某个 image 非常大或者非常忙时单个节点称为性能瓶颈。Ceph 的条带化行为受三个参数控制：
[*]order：被条带化的对象的大小为 2^ bytes。默认的 oder 为 22，这时候对象大小为4MB。
[*]stripe_unit：每个 的连续字节会被相连的保存到同一个对象中，直到去写下一个对象
[*]stripe_count：在写入了 字节到 各对象后，ceph 又重新从第一个对象开始写下一个条带，直到该对象达到了它的最大size。这时候，ceph 转移到下 个对象。
默认的时候， 等于 object size；stripe_count 为1. 要设置其他的 值，需要Ceph v0.53 版本及以后版本对 STRIPINGV2 的支持以及使用 format 2 image 格式。
[*]删除 image：rbd rm mypool/myimage
[*]创建 snapshot：rbd snap create mypool/myimage@mysnap
[*]创建 clone：rbd clone mypool/myimage@mysnap otherpool/cloneimage
[*]查看snapshot 的所有 clone：rbd children mypool/myimage@mysnap
[*]删除 snapshot：rbd snap rm mypool/myimage@mysnap
[*]将 image map 到 linux 主机：rbd map mypool/myimage
[*]将 image 从主机上删除 （unmap）：rbd unmap /dev/rbd0
6. 总结一下各模块的关系（以 OpenStack 的计算节点为例）
相关内容
理解 OpenStack + Ceph （1）：Ceph + OpenStack 集群部署和配置
http://www.aboutyun.com/forum.php?mod=viewthread&tid=15612
理解 OpenStack + Ceph （2）：Ceph 的物理和逻辑结构
http://www.aboutyun.com/forum.php?mod=viewthread&tid=15728
理解 OpenStack + Ceph （3）：Ceph RBD 接口和工具
http://www.aboutyun.com/forum.php?mod=viewthread&tid=15689
理解 OpenStack + Ceph （4）：Ceph 的基础数据结构
http://www.aboutyun.com/forum.php?mod=viewthread&tid=15743
理解 OpenStack + Ceph （5）：OpenStack 与 Ceph 之间的集成
http://www.aboutyun.com/forum.php?mod=viewthread&tid=15748
原文链接：http://www.cnblogs.com/sammyliu/p/4838139.html
页:
[1]