共计 7059 个字符,预计需要花费 18 分钟才能阅读完成。
1. Ceph Swift Api 阐明
在 ceph 的应用上,之前采纳的是 fs 文件系统,并编写了相应的 api 来操作演示。但在互联网大规模的文件场景下,fs 并不能满足生产的应用要求,rados 本地化操作也不便于服务的接入与应用, 这里就须要采纳 Ceph Swift Api 来实现文件的存储管理。
2. Ceph Swift Api 特点
Swift 是由 Rackspace 开发,用来为云计算提供可扩大存储的我的项目。专一于对象存储,并提供一套 REST 格调的 Api 来拜访,与 Ceph 强一致性不同,它是最终一致性。两者都是优良的开源我的项目,并无显著优劣之分,在应用场景上有所不同,如果是专一于对象存储,那么能够抉择 swift 即可满足需要,如果还有块存储要求,那么抉择 Ceph 更为适合。这里抉择 Ceph,因为通过网关能够适配兼容 swift api,同时在数据拜访上具备较强的扩展性:
- Ceph 可通过 Rados 网关用兼容 S3 的 RESTful API 拜访,对 AWS 云环境下的其余内容也能很好的兼容,比方 OpenStack Swift 的对象存储拜访接口。
- CephFS:是一个 POSIX 兼容的文件系统,能够在任何 Linux 发行版上运行,操作系统可间接拜访 Ceph 存储。
- RDB:RBD 是一个 Linux 内核级的块设施,容许用户像任何其余 Linux 块设施一样拜访 Ceph。
- ISCSI 网关: 这一减少的性能是 SUSE 加上去的,它容许管理员在 Ceph 之上运行 iSCSI 网关,从而将其转变为任何操作系统都能够拜访的 SAN 文件管理器。
3. Ceph RGW 介绍
Ceph 能够提供块、文件和对象三种状态的存储。RGW 就是提供对象存储的网关,也即对象存储网关。所谓对象存储网关,也就是对象存储的入口,实质上是一个 HTTP 服务器,与 Nginx 和 Apache 无非凡差异。通过这个网关入口,用户能够采纳 HTTP 协定,以 RESTful 的形式拜访 Ceph 的对象存储。
4. Ceph 存储构造
在应用对象存储之前,先要理解桶(container 容器)概念及其存储构造:
Ceph Swift Api 的调用,须要先创立相应用户进行认证能力操作,每个用户上面能够创立多个桶,桶外面能够存储对象,对象就是各种数据文件,包含文档,图片等。传统上传文件的应用,咱们往往会指定门路信息,在这里,桶和对象的关系好比文件夹与文件的概念,不同之处是桶不能再嵌套桶,也就是没有层级门路的概念。
Ceph 存储构造:
5. Ceph Swift Api 服务端的配置
-
确保集群失常装置并启动:
[root@CENTOS7-1 ceph-cluster]# ceph -s cluster: id: 0ec99aa9-e97e-43d3-b5b9-90eb21c4abff health: HEALTH_OK services: mon: 3 daemons, quorum CENTOS7-1,CENTOS7-2,CENTOS7-3 mgr: centos7-1(active), standbys: centos7-3, centos7-2 mds: fs_test-1/1/1 up {0=centos7-1=up:active} osd: 3 osds: 3 up, 3 in rgw: 3 daemons active data: pools: 9 pools, 128 pgs objects: 257 objects, 166 KiB usage: 3.0 GiB used, 57 GiB / 60 GiB avail pgs: 128 active+clean
如果 rgw 没有显示,查看服务状态:
[root@CENTOS7-1 ceph-cluster]# systemctl list-unit-files|grep enabled|grep ceph ceph-crash.service enabled ceph-mds@.service enabled ceph-mgr@.service enabled ceph-mon@.service enabled ceph-osd@.service enabled-runtime ceph-radosgw@.service enabled ceph-volume@.service enabled ceph-mds.target enabled ceph-mgr.target enabled ceph-mon.target enabled ceph-osd.target enabled ceph-radosgw.target enabled ceph.target enabled
重启 RGW 服务:
systemctl restart ceph-radosgw@*.service
-
验证网关是否失常
拜访地址,http://{服务器 IP}:7480
呈现以下提醒代表失常
![file](/img/bVcQ6uI)
-
创立 Swift 用户, 用于接口申请认证
sudo radosgw-admin user create --subuser="cephtester:subtester" --uid="cephtester" --display-name="cephtester" --key-type=swift --secret="654321" --access=full
uid 为主用户,subuser 为子用户信息,secret 指定密钥,不指定则随机生成,access 领有权限设定。
返回后果:
{ "user_id": "cephtester", "display_name": "cephtester", "email": "","suspended": 0,"max_buckets": 1000,"auid": 0,"subusers": [ { "id": "cephtester:subtester", "permissions": "full-control" } ], "keys": [], "swift_keys": [ { "user": "cephtester:subtester", "secret_key": "654321" } ], "caps": [], "op_mask": "read, write, delete", "default_placement": "","placement_tags": [],"bucket_quota": {"enabled": false,"check_on_raw": false,"max_size": -1,"max_size_kb": 0,"max_objects": -1}, "user_quota": { "enabled": false, "check_on_raw": false, "max_size": -1, "max_size_kb": 0, "max_objects": -1 }, "temp_url_keys": [], "type": "rgw", "mfa_ids": []}
记住 swift_keys 上面的 user 和 secret_key 信息,代码中需应用。
- 激活治理后盾的对象存储模块:
-
创立一个治理用户:
radosgw-admin user create --uid=mgruser --display-name=mgruser --system
返回后果:
{ "user_id": "mgruser", "display_name": "mgruser", "email": "","suspended": 0,"max_buckets": 1000,"auid": 0,"subusers": [],"keys": [ { "user": "mgruser", "access_key": "XZDC4Y0AORE01NMYU3VV", "secret_key": "me0Z80HLvctkzzBs74ufXS0Wi947NBe6Wpj3MxKP" } ], "swift_keys": [], "caps": [], "op_mask": "read, write, delete", "system": "true", "default_placement": "","placement_tags": [],"bucket_quota": {"enabled": false,"check_on_raw": false,"max_size": -1,"max_size_kb": 0,"max_objects": -1}, "user_quota": { "enabled": false, "check_on_raw": false, "max_size": -1, "max_size_kb": 0, "max_objects": -1 }, "temp_url_keys": [], "type": "rgw", "mfa_ids": []}
依据生成的 access_key 与 secret_key,执行:
ceph dashboard set-rgw-api-access-key XZDC4Y0AORE01NMYU3VV ceph dashboard set-rgw-api-secret-key me0Z80HLvctkzzBs74ufXS0Wi947NBe6Wpj3MxKP
关上治理界面,https://10.10.20.11:8443 能够查看到咱们方才创立的两个用户:
![file](/img/bVcQ6uJ)
6. Ceph Swift Api 调用验证
-
批改 ceph-demo 工程:
减少 SwiftOperator 接口:
@Component @Log4j2 public class SwiftOperator { /** * 用户名信息,格局:主用户名:子用户名 */ private String username ="cephtester:subtester"; /** * 用户明码 */ private String password = "654321"; /** * 接口拜访地址 */ private String authUrl = "http://10.10.20.11:7480/auth/1.0"; /** * 默认存储的容器名称 (bucket) */ private String defaultContainerName = "user_datainfo"; /** * Ceph 的账户信息 */ private Account account = null; /** * Ceph 的容器信息 */ private Container container; /** * 进行 Ceph 的初始化配置 */ public SwiftOperator() { // 1. Ceph 的账户信息配置 AccountConfig config = new AccountConfig(); config.setUsername(username); config.setPassword(password); config.setAuthUrl(authUrl); config.setAuthenticationMethod(AuthenticationMethod.BASIC); account = new AccountFactory(config).createAccount(); // 2. 获取容器信息 Container newContainer = account.getContainer(defaultContainerName); if(!newContainer.exists()) {container = newContainer.create(); log.info("container create ==>" + defaultContainerName); }else {container = newContainer;} } /** * 文件上传解决 * @param remoteName * @param filePath */ public void createObject(String remoteName, String filePath) { // 1. 从容器当中获取近程存储对象信息 StoredObject object = container.getObject(remoteName); // 2. 执行文件上传解决 object.uploadObject(new File(filePath)); } /** * 文件的下载解决 * @param objectName * @param outPath */ public void retrieveObject(String objectName, String outPath) { // 1. 从容器当中获取近程存储对象信息 StoredObject object = container.getObject(objectName); // 2. 执行文件的下载办法 object.downloadObject(new File(outPath)); } /** * 获取用户上面的所有容器信息 * @return */ public List listContainer() {List list = new ArrayList(); Collection<Container> containers = account.list(); for(Container container : containers) {list.add(container.getName()); log.info("current container name :" + container.getName()); } return list; } }
这里的用户名和明码填写下面咱们所生成的信息。留神门路地址后缀为:/auth/1.0
CephDemoApplication 启动类,测试验证:
@SpringBootApplication @ComponentScan(basePackages = {"com.swift"}) public class CephDemoApplication {public static void main(String[] args) throws Exception { // Swift Api 接口调用验证 swiftApi();} /** * Rados Api 的封装解决 * @throws Exception */ public static void radosApi(String[] args) throws Exception {System.out.println("start...."); String username = "admin"; String monIp = "10.10.20.11:6789;10.10.20.12:6789;10.10.20.13:6789"; String userKey = "AQBZBypdMchvBRAAbWVnIGyYNvxWQZ2UkuiYew=="; String mountPath = "/"; CephOperator cephOperate = null; try {String opt = (args == null || args.length < 1)? "" : args[0]; cephOperate = new CephOperator(username, monIp, userKey, mountPath); if("upload".equals(opt)) {cephOperate.uploadFileByPath("/temp_upload_fs", args[1]); }else if("download".equals(opt)) {cephOperate.downloadFileByPath("/temp_download_fs", args[1]); }else {System.out.println("Unrecognized Command! Usage opt[upload|download] filename[path]!"); } }catch(Exception e) {e.printStackTrace(); }finally {if(null != cephOperate) {cephOperate.umount(); } } System.out.println("end...."); } /** * 通过 Swift 接口操作 ceph 集群 * @throws Exception */ public static void swiftApi() throws Exception {ConfigurableApplicationContext appContext = SpringApplication.run(CephDemoApplication.class); // 1. 先打印出用户的容器信息 SwiftOperator swiftOperator = appContext.getBean(SwiftOperator.class); swiftOperator.listContainer(); String objName = "test_ceph"; // 2. 上传指定的文件 swiftOperator.createObject(objName, "d:/test_swift_ceph.txt"); // 3. 从 ceph 下载文件到指定的门路上面 swiftOperator.retrieveObject(objName, "e:/test.txt"); System.out.println("complete"); } }
-
测试验证
测试思路步骤:先创立一个文件,并上传到 ceph 零碎,而后从 ceph 零碎下载到指定门路上面。
这里要留神,咱们默认的容器配置的是”user_datainfo“,从 ceph 零碎上传和下载的文件名称要统一,启动打印 ”complete”,无异样则代表执行胜利。
-
- *
本文由 mirson 创作分享,如需进一步交换,请加 QQ 群:19310171 或拜访 www.softart.cn
- *