Centoslsyncrsync-文件实时同步

5次阅读

共计 4818 个字符,预计需要花费 13 分钟才能阅读完成。

  web 服务在达到一定量级以后,服务器就会出现瓶颈,前不久就出现了这样的问题。

  我们的商城项目一直是单机模式 (单服务器运行),有次促销活动,结果服务器的 cpu 直接饱满,飙到了 100%,负载达到了 100 多,这就很恐怖了,长时间这样的话,随时都会宕机。

  鉴于这种情况,那就得上负载均衡了,然而负载均衡就是需要多服务器部署,首先要解决的问题就是服务器之间的代码同步问题,调研过很多方案,比如 Jenkins,Walle 等部署方式,要不就是太过于复杂,活着就是不稳定,总的来说我们只需要代码同步这一个功能,尽可能的简单,像 Jenkins 这样的工具,不是说不好,他确实好用,而且老牌的工具,只是现在我们还没达到那个量级,也不需要太复杂的东西,言归正传,现在就跟大家一步一步的说一下 lsync+rsync 这两个轻巧的工具。

准备环境:

系统环境: Centos 7.2

主 (master):192.168.0.113

备 (slave):192.168.0.114

备机操作

1. 安装 rsync
yum -y install xinetd rsync
2. 开启 rsync 守护进程
[root@slave ~]# vim /etc/xinetd.d/rsync

service rsync
{
        disable = no
        flags           = IPv4
        socket_type     = stream
        wait            = no
        user            = root
        server          = /usr/bin/rsync
        server_args     = --daemon
        log_on_failure  += USERID
}
3. 修改后启动服务并添加开机自启动
[root@slave ~]# service xinetd start
[root@slave ~]# systemctl enable xinetd.service
4. 配置同步存储路径
[root@slave ~]# vim /etc/rsyncd.conf
[web]
path = /data/www
hosts allow = 192.168.0.113
hosts deny = *
list = true
uid = root
gid = root
read only = false
5. 以 daemon 模式启动 rsync
[root@slave ~]# /usr/bin/rsync  --daemon

主机操作:

1. 新增 lsync 源, 并安装 (默认没有)
[root@master ~]# wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repo
[root@master ~]# yum install lsyncd rsync
2. 开启 lsyncd 配置文件
[root@master ~]# vim /etc/sysconfig/lsyncd

# Keep the space there for systemd. Don't nest variables without
# changing the systemd service file to use: /usr/bin/sh -c 'eval XXXX'
#
LSYNCD_OPTIONS="-pidfile /var/run/lsyncd.pid /etc/lsyncd.conf"(把 #去掉)#LSYNCD_OPTIONS=" "
#LSYNCD_USER=""
3. 增加 lsyncd 主配置
[root@master ~]# vim /etc/lsyncd.conf
注: 如有这条请将其注释,Centos7 默认是没有注释掉的 (前面加 -- 即注释)
-- sync{default.rsyncssh, source="/var/www/html", host="localhost", targetdir="/tmp/htmlcopy/"}


settings {
   --pidfile = "/var/run/lsyncd.pid",
   --nodaemon   = false,
   inotifyMode = "CloseWrite",
   maxProcesses = 8,
   statusFile = "/tmp/lsyncd.status",
   statusInterval = 1,
   logfile = "/var/log/lsyncd/lsyncd.log"
}



sync {
    default.rsync,
    source    = "/data/www",
    target    = "192.168.0.114::www",
    delete="running",
    excludeFrom = "/etc/rsync_exclude.lst",
    delay = 5,
    init = false,
    rsync     = {
        binary = "/usr/bin/rsync",
        perms = true,
        acls = true,
        xattrs = true,
        links = true,
        quiet = true,
        archive = true,
        compress = true,
        verbose   = true,
        --password_file = "/etc/rsync.pwd",
        _extra    = {"--bwlimit=200"}
        }
    }
lsyncd.conf 参数配置详解:
settings

里面是全局设置,-- 开头表示注释,下面是几个常用选项说明:logfile 定义日志文件
stausFile 定义状态文件
nodaemon=true 表示不启用守护模式,默认
statusInterval 将 lsyncd 的状态写入上面的 statusFile 的间隔,默认 10 秒
inotifyMode 指定 inotify 监控的事件,默认是 CloseWrite,还可以是 Modify 或 CloseWrite or Modify
maxProcesses 同步进程的最大个数。假如同时有 20 个文件需要同步,而 maxProcesses = 8,则最大能
看到有 8 个 rysnc 进程 maxDelays 累计到多少所监控的事件激活一次同步,即使后面的 delay
延迟时间还未到
sync

里面是定义同步参数,可以继续使用 maxDelays 来重写 settings 的全局变量。一般第一个参数指定 lsyncd 以什么模式运行:rsync、rsyncssh、direct 三种模式:default.rsync:本地目录间同步,使用 rsync,也可以达到使用 ssh 形式的远程 rsync 效果,或 daemon 方式连接远程 rsyncd 进程;default.direct:本地目录间同步,使用 cp、rm 等命令完成差异文件备份;default.rsyncssh:同步到远程主机目录,rsync 的 ssh 模式,需要使用 key 来认证

source 同步的源目录,使用绝对路径。target 定义目的地址. 对应不同的模式有几种写法:/tmp/dest:本地目录同步,可用于 direct 和 rsync 模式
192.168.0.114:/tmp/dest:同步到远程服务器目录,可用于 rsync 和 rsyncssh 模式,拼接的命令类似于 /usr/bin/rsync -ltsd --delete --include-from=- --exclude=* SOURCE TARGET,剩下的就是 rsync 的内容了,比如指定 username,免密码同步
192.168.0.114::module:同步到远程服务器目录,用于 rsync 模式
三种模式的示例会在后面给出。init 这是一个优化选项,当 init = false,只同步进程启动以后发生改动事件的文件,原有的目录即使有差异也不会同步, 默认是 true

delay 累计事件,等待 rsync 同步延时时间,默认 15 秒(最大累计到 1000 个不可合并的事件)。也就是 15s 内监
控目录下发生的改动,会累积到一次 rsync 同步,避免过于频繁的同步。(可合并的意思是,15s 内两次修改了同一文件,最后只同步最新的文件)excludeFrom 排除选项,后面指定排除的列表文件,如 excludeFrom = "/etc/lsyncd.exclude",如果是简单的排除,可以使用 exclude = LIST。这里的排除规则写法与原生 rsync 有点不同,更为简单:监控路径里的任何部分匹配到一个文本,都会被排除,例如 /bin/foo/bar 可以匹配规则 foo
如果规则以斜线 / 开头,则从头开始要匹配全部
如果规则以 / 结尾,则要匹配监控路径的末尾
? 匹配任何字符,但不包括 /
* 匹配 0 或多个字符,但不包括 /
** 匹配 0 或多个字符,可以是 /
delete 为了保持 target 与 souce 完全同步,Lsyncd 默认会 delete = true 来允许同步删除。它除了 false,还有 startup、running 值,请参考 Lsyncd 2.1.x ‖ Layer 4 Config ‖ Default Behavior。rsync(提示一下,delete 和 exclude 本来都是 rsync 的选项,上面是配置在 sync 中的,我想这样做的原因是为了减少 rsync 的开销)bwlimit 限速,单位 kb/s,与 rsync 相同(这么重要的选项在文档里竟然没有标出)compress 压缩传输默认为 true。在带宽与 cpu 负载之间权衡,本地目录同步可以考虑把它设为 false
perms 默认保留文件权限。其它 rsync 的选项
其它还有 rsyncssh 模式独有的配置项,如 host、targetdir、rsync_path、password_file,见后文示例。rsyncOps={"-avz","--delete"} 这样的写法在 2.1.* 版本已经不支持。lsyncd.conf 可以有多个 sync,各自的 source,各自的 target,各自的模式,互不影响。
4. 将需要过滤的目录或文件添加到 过滤配置文件列表里
[root@master ~]# vim /etc/rsync_exclude.lst

logs/
runtime/
5. 修改默认监控的文件数 (默认是 8192)
[root@master ~]# vim /etc/sysctl.conf
fs.inotify.max_user_watches = 2001192
[root@master ~]# sysctl -p
6. 未开启 lsyncd 前先验一下 rsync 功能是否可正常同步
[root@master ~]# chmod 600 /etc/rsync.pwd

root:root123

[root@master ~]# rsync -avz --delete --exclude-from=/etc/rsync_exclude.lst \
--password-file=/etc/rsync.pwd /data/www/ 192.168.0.114::www 
7. 启动 lsyncd 服务
[root@master ~]# lsyncd -pidfile /var/run/lsyncd.pid /etc/lsyncd.conf
[root@master ~]# ps xf |grep lsync
[root@master ~]# /etc/init.d/lsyncd status
[root@master ~]# systemctl start lsyncd
[root@master ~]# systemctl enable lsyncd
  1. 放行防火墙端口 873(rsync 默认端口)
 开机启动: systemctl enable firewalld

 重新启动: systemctl restart firewalld
 
 查看状态:systemctl status firewalld

 启动:  systemctl start firewalld
 
 停止:  systemctl stop firewalld

 禁用:systemctl disable firewalld

systemctl unmask firewalld
firewall-cmd --permanent --zone=public --add-port=873/tcp
firewall-cmd --reload

查看所有端口
firewall-cmd --permanent --zone=public --list-ports

致谢

感谢看到这里,希望本章可以帮到你。谢谢

正文完
 0