技术标签: Linux ceph Ceph Ansible ansible
ceph-ansible离线部署ceph-nautilus版本
软件 | 版本 |
---|---|
CentOS | CentOS Linux release 7.9.2009 (Core) |
ceph | nautilus |
ansible | 2.9.25 |
主机名 | 主机地址 | CPU | 内存 | 角色 |
---|---|---|---|---|
node1.example.com | 192.168.174.143 | 8C | 8G | mon,mgr,osd,rgw,mds,ntp-server,ceph-ansible,ansible |
node2.example.com | 192.168.174.144 | 8C | 8G | mon,mgr,osd,rgw,mds |
node3.example.com | 192.168.174.145 | 8C | 8G | mon,mgr,osd,rgw,mds |
node4.example.com | 192.168.174.146 | 8C | 8G | osd,rgw,mds |
node5.example.com | 192.168.174.147 | 8C | 8G | osd,rgw,mds |
在node1主机解压安装
tar -xvf ansible-2.9.25.tar.gz
cd ansible
rpm -ivh *.rpm --force --nodeps
这里可通过CSDN下载Ansible-2.9.25安装包https://download.csdn.net/download/gswcfl/88040647?spm=1001.2014.3001.5503。
作用:ansible通过普通用户远程执行命令,配置用户有sudo权限
此步ansible主机使用root帐号对授控主机执行操作。
vim useradd.yml
---
- name: create users
hosts: all
tasks:
- name: create some users
user:
name: "alice"
password: "{
{'123456'|password_hash('sha512')}}"
state: present
comment: "Monitor and Maintenance account"
notify: add sudo
handlers:
- name: add sudo
copy:
content: "alice ALL=(ALL) NOPASSWD: ALL"
dest: /etc/sudoers.d/alice
执行增加用户
ansible-playbook useradd.yml
在下面的ansible远程执行中,将使用alice用户。
[alice@node1 ~]$ ssh-keygen
[alice@node1 ~]$ for i in 143 144 145 146 147 \
[alice@node1 ~]$ do \
[alice@node1 ~]$ ssh-copy-id [email protected].$i \
[alice@node1 ~]$ ssh-copy-id [email protected].$i \
[alice@node1 ~]$ done
创建hosts文件模板
vim hosts.j2
127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4
::1 localhost localhost.localdomain localhost6 localhost6.localdomain6
{
%for i in groups.all%}
{
{
hostvars[i].ansible_default_ipv4.address}} {
{
hostvars[i].ansible_fqdn}} {
{
hostvars[i].ansible_hostname}}
{
%endfor%}
执行hosts剧本
vim deploy-hosts.yml
---
- name: deploy new hosts
hosts: all
become: true
tasks:
- name: begin deploy new hosts
template:
src: hosts.j2
dest: /etc/hosts
执行剧本:
ansible-playbook deloy-hosts.yml
安装ansible角色
yum -y install rhel-system-roles
$ cp -rvf /usr/share/ansible/roles/rhel-system-roles.timesync/ roles/
部署chrony剧本
vim timesync.yml
---
- name: install chronyd
hosts: all
become: true
vars:
timesync_ntp_servers:
- hostname: 192.168.174.143
iburst: yes
roles:
- rhel-system-roles.timesync
tasks:
- name: Set chronyd server
lineinfile:
path: /etc/chrony.conf
line: "{
{item}}"
loop:
- "allow 192.168.174.0/24"
- "local stratum 8"
when: (ansible_default_ipv4.address == "192.168.174.143")
notify: restart chronyd
handlers:
- name: resetart chronyd
service:
name: chronyd
state: restarted
执行剧本
ansible-playbook timesync.yml
复制selinux角色文件
$ cp -rvf /usr/share/ansible/roles/rhel-system-roles.selinux/ roles/
部署selinux剧本
vim selinux.yml
---
- name: Configure selinux to disabled
hosts: all
vars:
selinux_policy: targeted
selinux_state: disabled
roles:
- rhel-system-roles.selinux
执行剧本:
ansible-playbook selinux.yml
执行完成后,重启所有主机。
此处省略基于镜像配置
安装ceph-ansible repo文件(能连外网的主机)
yum -y install epel-release centos-release-ceph-nautilus centos-release-openstack-stein
同步最新版本软件包
repotrack ceph-ansible -p /root/ceph-ansible/
制作本地源
cd /root
createrepo -v ceph-ansible/
将ceph-ansible仓库同步到node1主机
cd /root
zip -qvr ceph-ansible.zip ceph-ansible
scp ceph-ansible.zip root@node1:/opt/
配置repo文件(能连外网的主机)
vim /etc/yum.repos.d/ceph.repo
[x86_64]
name=x86_64
baseurl=http://mirrors.aliyun.com/ceph/rpm-nautilus/el7/x86_64
enabled=1
gpgcheck=0
[noarch]
name=noarch
baseurl=http://mirrors.aliyun.com/ceph/rpm-nautilus/el7/noarch
enabled=0
gpgcheck=0
同步最新版本软件包
mkdir -p /root/ceph-nautilus/rpm-nautilus/el7
cd /root/ceph-nautilus/rpm-nautilus/el7
reposync -n -r x86_64
reposync -n -r noarch
制作本地源
分别进行x86_64和noarch目录执行createrepo命令,如果没有此命令,执行yum -y install createrepo安装
createrepo -v .
下载key文件
mkdir /root/ceph-nautilus/keys
cd /root/ceph-nautilus/keys
wget http://mirrors.aliyun.com/ceph/keys/release.asc
将ceph仓库同步到node1主机
cd /root
zip -qvr ceph-nautilus.zip ceph-nautilus
scp ceph-nautilus.zip root@node1:/opt/
在node1主机上解压仓库文件
cd /opt
unzip ceph-nautilus.zip
unzip ceph-ansible.zip
通过nginx配置内网环境ceph仓库
[root@node1 ~]# yum -y install nginx
[root@node1 ~]# vim /etc/nginx/conf.d/ceph.conf
server {
listen 8088;
server_name localhost;
root /opt/ceph-ansible;
location / {
autoindex on;
autoindex_exact_size off;
autoindex_localtime on;
}
}
server {
listen 8089;
server_name localhost;
root /opt/ceph-nautilus;
location / {
autoindex on;
autoindex_exact_size off;
autoindex_localtime on;
}
}
[root@node1 ~]# chown nginx.nginx -R /opt/ceph-ansible
[root@node1 ~]# chown nginx.nginx -R /opt/ceph-nautilus
所有内网ceph主机上配置repo
[root@node1 ~]# vim /etc/yum.repos.d/ceph.repo
[ceph-ansible]
name=ceph-ansible
baseurl=http://192.168.174.143:8088
enabled=1
gpgcheck=0
[ceph-noarch]
name=ceph-noarch
baseurl=http://192.168.174.143:8089/rpm-nautilus/el7/noarch/
enabled=1
gpgcheck=0
[ceph-x86_64]
name=ceph-x86_64
baseurl=http://192.168.174.143:8089/rpm-nautilus/el7/x86_64/
enabled=1
gpgcheck=0
在node1还节点安装ceph-ansible
yum -y install ceph-ansible
配置hosts文件
[root@node1]# cd /usr/share/ceph-ansible/
[root@node1 ceph-ansible]# vim hosts
[mons]
node1
node2
node3
[mgrs]
node1
node2
node3
[osds]
node1
node2
node3
node4
node5
[rgws]
node1
node2
node3
node4
node5
[mdss]
node1
node2
node3
node4
node5
[grafana-server]
node1
配置镜像、网络、登陆信息
[root@node1 group_vars]# cd /usr/share/ceph-ansible/group_vars
[root@node1 group_vars]# cp all.yml.sample all.yml
[root@node1 group_vars]# vim all.yml
---
dummy:
configure_firewall: False
ntp_service_enabled: False
ceph_origin: repository
ceph_repository: community
ceph_mirror: http://192.168.174.143:8089
ceph_stable_key: http://192.168.174.143:8089/keys/release.asc
ceph_stable_release: nautilus
ceph_stable_repo: "{
{ ceph_mirror }}/"
rbd_cache: "true"
rbd_cache_writethrough_until_flush: "False"
rbd_client_directories: False # this will create rbd_client_log_path and rbd_client_admin_socket_path directories with proper permissions
monitor_interface: ens33
journal_size: 1024 # OSD journal size in MB
public_network: 192.168.174.0/24
cluster_network: "{
{ public_network }}"
dashboard_enabled: False
dashboard_port: 8443
dashboard_admin_user: admin
dashboard_admin_password: admin
grafana_admin_user: admin
grafana_admin_password: admin
配置osds
[root@node1 group_vars]# cp osds.yml.sample osds.yml
[root@node1 group_vars]# vim osds.yml
---
dummy:
devices:
- /dev/sdb
- /dev/sdc
osd_scenario: "collecated"
配置rgws
[root@node1 group_vars]# cp rgws.yml.sample rgws.yml
[root@node1 group_vars]# vim rgws.yml
---
dummy:
radosgw_interface: ens33
配置site
[root@node1]# cd /usr/share/ceph-ansible
[root@node1 ceph-ansible]# cp site.yml.sample site.yml
[root@node1 ceph-ansible]# vim site.yml
- hosts:
- mons
- osds
- mdss
- rgws
- nfss
- rbdmirrors
- clients
- mgrs
- iscsigws
- iscsi-gws # for backward compatibility only!
- grafana-server
- rgwloadbalancers
说明:此处的主机组名可以都不注释,根据hosts文件的组名进行安装,未在hosts文件中设置的不进行安装。
开始安装
[root@node1]# cd /usr/share/ceph-ansible
[root@node1 ceph-ansible]# ansible-playbook -i hosts site.yml
查看ceph版本
[root@node1 ~]# ceph --version
查看集群信息
[root@node1 ~]# ceph -s
集群健康状态报错信息:
[root@node1 ~]# ceph health detail
HEALTH_WARN 1 pools have too few placement groups; mons are allowing insecure global_id reclaim
POOL_TOO_FEW_PGS 1 pools have too few placement groups
Pool cephfs_data has 8 placement groups, should have 32
AUTH_INSECURE_GLOBAL_ID_RECLAIM_ALLOWED mons are allowing insecure global_id reclaim
mon.control has auth_allow_insecure_global_id_reclaim set to true
mon.node1 has auth_allow_insecure_global_id_reclaim set to true
mon.node2 has auth_allow_insecure_global_id_reclaim set to true
mon.node3 has auth_allow_insecure_global_id_reclaim set to true
解决办法:
设置资源池cephfs_data的pg数量为32
[root@node1 ~]# ceph osd pool set cephfs_data pg_num 32
禁止不安全模式
[root@node1 ~]# ceph config set mon auth_allow_insecure_global_id_reclaim false
文章浏览阅读2w次,点赞7次,收藏51次。四个步骤1.创建C++ Win32项目动态库dll 2.在Win32项目动态库中添加 外部依赖项 lib头文件和lib库3.导出C接口4.c#调用c++动态库开始你的表演...①创建一个空白的解决方案,在解决方案中添加 Visual C++ , Win32 项目空白解决方案的创建:添加Visual C++ , Win32 项目这......_c#调用lib
文章浏览阅读4.6k次。苹方字体是苹果系统上的黑体,挺好看的。注重颜值的网站都会使用,例如知乎:font-family: -apple-system, BlinkMacSystemFont, Helvetica Neue, PingFang SC, Microsoft YaHei, Source Han Sans SC, Noto Sans CJK SC, W..._ubuntu pingfang
文章浏览阅读159次。表单表单概述表单标签表单域按钮控件demo表单标签表单标签基本语法结构<form action="处理数据程序的url地址“ method=”get|post“ name="表单名称”></form><!--action,当提交表单时,向何处发送表单中的数据,地址可以是相对地址也可以是绝对地址--><!--method将表单中的数据传送给服务器处理,get方式直接显示在url地址中,数据可以被缓存,且长度有限制;而post方式数据隐藏传输,_html表单的处理程序有那些
文章浏览阅读1.2k次。使用说明:开启Google的登陆二步验证(即Google Authenticator服务)后用户登陆时需要输入额外由手机客户端生成的一次性密码。实现Google Authenticator功能需要服务器端和客户端的支持。服务器端负责密钥的生成、验证一次性密码是否正确。客户端记录密钥后生成一次性密码。下载谷歌验证类库文件放到项目合适位置(我这边放在项目Vender下面)https://github.com/PHPGangsta/GoogleAuthenticatorPHP代码示例://引入谷_php otp 验证器
文章浏览阅读4.3k次,点赞5次,收藏11次。matplotlib.plot画图横坐标混乱及间隔处理_matplotlib更改横轴间距
文章浏览阅读2.2k次。①Storage driver 处理各镜像层及容器层的处理细节,实现了多层数据的堆叠,为用户 提供了多层数据合并后的统一视图②所有 Storage driver 都使用可堆叠图像层和写时复制(CoW)策略③docker info 命令可查看当系统上的 storage driver主要用于测试目的,不建议用于生成环境。_docker 保存容器
文章浏览阅读834次,点赞27次,收藏13次。网络拓扑结构是指计算机网络中各组件(如计算机、服务器、打印机、路由器、交换机等设备)及其连接线路在物理布局或逻辑构型上的排列形式。这种布局不仅描述了设备间的实际物理连接方式,也决定了数据在网络中流动的路径和方式。不同的网络拓扑结构影响着网络的性能、可靠性、可扩展性及管理维护的难易程度。_网络拓扑csdn
文章浏览阅读1.8k次,点赞5次,收藏8次。IOS系统Date的坑要创建一个指定时间的new Date对象时,通常的做法是:new Date("2020-09-21 11:11:00")这行代码在 PC 端和安卓端都是正常的,而在 iOS 端则会提示 Invalid Date 无效日期。在IOS年月日中间的横岗许换成斜杠,也就是new Date("2020/09/21 11:11:00")通常为了兼容IOS的这个坑,需要做一些额外的特殊处理,笔者在开发的时候经常会忘了兼容IOS系统。所以就想试着重写Date函数,一劳永逸,避免每次ne_date.prototype 将所有 ios
文章浏览阅读5.3k次。方法一:用PLSQL Developer工具。 1 在PLSQL Developer的sql window里输入select * from test for update; 2 按F8执行 3 打开锁, 再按一下加号. 鼠标点到第一列的列头,使全列成选中状态,然后粘贴,最后commit提交即可。(前提..._excel导入pl/sql
文章浏览阅读83次。Git常用命令速查手册1、初始化仓库git init2、将文件添加到仓库git add 文件名 # 将工作区的某个文件添加到暂存区 git add -u # 添加所有被tracked文件中被修改或删除的文件信息到暂存区,不处理untracked的文件git add -A # 添加所有被tracked文件中被修改或删除的文件信息到暂存区,包括untracked的文件...
文章浏览阅读202次。分享119个ASP.NET源码总有一个是你想要的_千博二手车源码v2023 build 1120
文章浏览阅读1.8k次。版权声明:转载请注明出处 http://blog.csdn.net/irean_lau。目录(?)[+]1、缺省构造函数。2、缺省拷贝构造函数。3、 缺省析构函数。4、缺省赋值运算符。5、缺省取址运算符。6、 缺省取址运算符 const。[cpp] view plain copy_空类默认产生哪些类成员函数