关于linux:最佳实践-源码编译安装配置-PostgresXC-集群并用-pgbasebackup-配置-Datanode-热备

23次阅读

共计 8624 个字符，预计需要花费 22 分钟才能阅读完成。

本文首发于 2016-03-15 19:56:52

留神：本篇文章成文时 Postgres-XC 还未改名为 Postgres-X2。

git clone git@github.com:postgres-x2/postgres-x2.git

对于 Ubuntu/Debian：

apt-get install -y git-core
apt-get install -y gcc g++
apt-get install -y ccache
apt-get install -y libreadline-dev
apt-get install -y bison flex
apt-get install -y zlib1g-dev
apt-get install -y openssl libssl-dev
apt-get install -y libpam-dev
apt-get install -y libcurl4-dev
apt-get install -y libbz2-dev
apt-get install -y python-dev
apt-get install -y ssh
 
apt-get install -y libcurl4-dev
Package libcurl4-dev is a virtual package provided by:
libcurl4-openssl-dev 7.38.0-4+deb8u2
libcurl4-nss-dev 7.38.0-4+deb8u2
libcurl4-gnutls-dev 7.38.0-4+deb8u2
 
apt-get install -y python-pip
 
pip install lockfile
pip install paramiko
pip install setuptools
pip install epydoc
pip install psi

Note: debian8 required pip install --pre psi

对于 CentOS：

yum install –y git.x86_64
yum install –y gcc.x86_64 gcc-c++.x86_64
yum install –y ccache.x86_64
yum install readline.x86_64 readline-devel.x86_64
yum install bison.x86_64 bison-devel.x86_64
yum install flex.x86_64 flex-devel.x86_64
yum install zlib.x86_64 zlib-devel.x86_64
yum install -y openssl.x86_64 openssl-devel.x86_64
yum install -y pam.x86_64 pam-devel.x86_64
yum install –y libcurl.x86_64 libcurl-devel.x86_64
yum install bzip2-libs.x86_64 bzip2.x86_64 bzip2-devel.x86_64
yum install libssh2.x86_64 libssh2-devel.x86_64
yum install python-devel.x86_64
yum install -y python-pip.noarch
 
# 接着执行：pip install lockfile
pip install paramiko
pip install setuptools
pip install epydoc
pip install psi
# 或者执行：yum install python-lockfile.noarch
yum install python-PSI.x86_64
yum install python-paramiko.noarch
yum install python-setuptools.noarch
yum install epydoc.noarch

$ cd postgres-x2
$ ./configure --prefix=/home/wslu/pgsql --enable-debug #其中 --prefix 指定编绎实现后将要装置的门路，必须应用全门路，wslu 为使用者。$ make #执行编绎
$ make install #执行装置

$ cd /home/wslu/pgsql

#设置 PTAH 变量
$ export PATH=/home/user/pgsql/bin:$PATH
#应用初始化 gtm 命令 initgtm
$ ./bin/initgtm -Z gtm -D data/gtm/

初始化所有数据库节点（CO、DN）：

# 应用初始化 db 命令 initdb
$ ./bin/initdb -U wslu -A trust --locale=C -D data/co1   # -U 使用者 -D 数据目录 / 节点
$ ./bin/initdb -U wslu -A trust --locale=C -D data/co2
$ ./bin/initdb -U wslu -A trust --locale=C -D data/dn1
$ ./bin/initdb -U wslu -A trust --locale=C -D data/dn2
$ ./bin/initdb -U wslu -A trust --locale=C -D data/dn3

编辑 data/co1/postgresql.conf：

# 默认值
gtm_port = 6666
# pgxc_node_name 不能反复
pgxc_node_name = co1

编辑 data/co2/postgresql.conf：

gtm_port = 6666
pgxc_node_name = co2

编辑 data/dn1/postgresql.conf：

gtm_port = 6666
pgxc_node_name = dn1

编辑 data/dn2/postgresql.conf：

gtm_port = 6666
pgxc_node_name = dn2

编辑 data/dn2/postgresql.conf：

gtm_port = 6666
pgxc_node_name = dn3

顺次启动 gtm、datanode、coordinator：

# ./bin/gtm_ctl start -S gtm -D data/gtm -l data/gtm/gtm.log  // 启动 gtm（因为切换为相对路径后找不到对应的文件夹，所以创立日志会失败）$ ./bin/gtm_ctl start -Z gtm -D data/gtm -l gtm.log  // 启动 gtm
# vim data/gtm/gtm.log # 应用日志查看 gtm 是否启动

$ ./bin/pg_ctl start -Z datanode -D data/dn1 -l data/dn1/postgresql.log  -o "-p 24071"   // 启动 datanode dn1，DN1_PORT=24071   依据须要自在设置
# vim data/dn1/postgresql.log # 同样应用日志查看是否启动

$ ./bin/pg_ctl start -Z datanode -D data/dn2 -l data/dn2/postgresql.log  -o "-p 24072"  // 启动 dn2，DN2_PORT=24072
$ ./bin/pg_ctl start -Z datanode -D data/dn3 -l data/dn3/postgresql.log  -o "-p 24073"  // 启动 dn3，DN3_PORT=24073

$ ./bin/pg_ctl start -Z coordinator -D data/co1 -l data/co1/postgresql.log  -o "-p 24076"   // 启动 coordinator co1，CO1_PORT=24076
$ ./bin/pg_ctl start -Z coordinator -D data/co2 -l data/co2/postgresql.log  -o "-p 24077"   // 启动 co2，CO2_PORT= 24077

指定动静库地位：

$ export LD_LIBRARY_PATH=/home/wslu/pgsql/lib:$LD_LIBRARY_PATH

配置集群节点：

# 进入 co1 创立节点，co1_port=24076
$ ./bin/psql -p 24076 postgres postgres

 CREATE NODE dn1 WITH (HOST = 'localhost', type = 'datanode', PORT = 24071, id = 1, content = 1); // 在协调器上注册节点，各端口号与下面统一
 CREATE NODE dn2 WITH (HOST = 'localhost', type = 'datanode', PORT = 24072, id = 2, content = 2);
 CREATE NODE dn3 WITH (HOST = 'localhost', type = 'datanode', PORT = 24073, id = 3, content = 3);
 CREATE NODE co1 WITH (HOST = 'localhost', type = 'coordinator', PORT = 24076, id = 4, content = 4);
 CREATE NODE co2 WITH (HOST = 'localhost', type = 'coordinator', PORT = 24077, id = 5, content = 5);
 SELECT pgxc_pool_reload();

至此，集群配置实现。

$ ./bin/pg_ctl stop -D data/co1 -m immediate
$ ./bin/pg_ctl stop -D data/co2 -m immediate
$ ./bin/pg_ctl stop -D data/dn1 -m immediate
$ ./bin/pg_ctl stop -D data/dn2 -m immediate
$ ./bin/pg_ctl stop -D data/dn3 -m immediate
$ ./bin/gtm_ctl stop -Z gtm -D data/gtm 
$ rm -f data/gtm/register.node

$ ./bin/gtm_ctl start -Z gtm -D data/gtm -p ./bin -l data/gtm/gtm.log 
$ ./bin/pg_ctl start -l data/dn1/postgresql.log -Z datanode -D data/dn1 -o "-p 24071"
$ ./bin/pg_ctl start -l data/dn2/postgresql.log -Z datanode -D data/dn2 -o "-p 24072"
$ ./bin/pg_ctl start -l data/dn3/postgresql.log -Z datanode -D data/dn3 -o "-p 24073"
$ ./bin/pg_ctl start -l data/co1/postgresql.log -Z coordinator -D data/co1 -o "-p 24076"
$ ./bin/pg_ctl start -l data/co2/postgresql.log -Z coordinator -D data/co2 -o "-p 24077"

如需革除数据，请先进行服务器集群，而后革除数据存储目录:

$ ./bin/pg_ctl stop -D data/co1 -m immediate
$ ./bin/pg_ctl stop -D data/co2 -m immediate
$ ./bin/pg_ctl stop -D data/dn1 -m immediate
$ ./bin/pg_ctl stop -D data/dn2 -m immediate
$ ./bin/pg_ctl stop -D data/dn3 -m immediate
$ ./bin/gtm_ctl stop -Z gtm -D data/gtm 
$ rm -f data/gtm/register.node 
$ rm -rf data

将上面两行的正文去掉：

$ vi data/co1/pg_hba.conf
host    replication     wslu        127.0.0.1/32            trust
host    replication     wslu        ::1/128                 trust

$ vi data/co2/pg_hba.conf
host    replication     wslu        127.0.0.1/32            trust
host    replication     wslu        ::1/128                 trust
 
$ vi data/dn1/pg_hba.conf
host    replication     wslu        127.0.0.1/32            trust
host    replication     wslu        ::1/128                 trust

$ vi data/dn2/pg_hba.conf
host    replication     wslu        127.0.0.1/32            trust
host    replication     wslu        ::1/128                 trust

$ vi data/dn3/pg_hba.conf
host    replication     wslu        127.0.0.1/32            trust
host    replication     wslu        ::1/128                 trust

此处为了测试不便，将校验形式设为 trust；理论生产中要改为 md5，即依据账户明码验证。

增加以下内容：

$ vi data/co1/postgresql.conf
listen_addresses = '*' 
log_line_prefix = '%t:%r:%u@%d:[%p]:'
#logging_collector = on
port = 24076
wal_level = archive
 
$ vi data/co2/postgresql.conf
listen_addresses = '*' 
log_line_prefix = '%t:%r:%u@%d:[%p]:'
#logging_collector = on    
port = 24077
wal_level = archive
 
$ vi data/dn1/postgresql.conf
hot_standby = on
#logging_collector = on
listen_addresses = '*' 
log_line_prefix = '%t:%r:%u@%d:[%p]:'
wal_keep_segments = 10
wal_level = hot_standby
max_wal_senders = 5 
include_if_exists = 'synchronous_standby_names.conf'
port = 24071
 
$ vi data/dn2/postgresql.conf
hot_standby = on
#logging_collector = on
listen_addresses = '*' 
log_line_prefix = '%t:%r:%u@%d:[%p]:'
wal_keep_segments = 10
wal_level = hot_standby
max_wal_senders = 5 
include_if_exists = 'synchronous_standby_names.conf'
port = 24072
 
$ vi data/dn3/postgresql.conf
hot_standby = on
#logging_collector = on
listen_addresses = '*' 
log_line_prefix = '%t:%r:%u@%d:[%p]:'
wal_keep_segments = 10
wal_level = hot_standby
max_wal_senders = 5 
include_if_exists = 'synchronous_standby_names.conf'
port = 24073

在数据库集群开启的前提下执行下列指令，以创立备 Datanode 目录：

$ pg_basebackup -D data/dn1s -Fp -Xs -v -P -h localhost -p 24071 -U wslu
$ pg_basebackup -D data/dn2s -Fp -Xs -v -P -h localhost -p 24072 -U wslu
$ pg_basebackup -D data/dn3s -Fp -Xs -v -P -h localhost -p 24073 -U wslu

$ vi dn1s/recovery.conf 
standby_mode = 'on'
primary_conninfo = 'user=wslu host=localhost port=24071 sslmode=disable sslcompression=1'
 
$ vi dn2s/recovery.conf 
standby_mode = 'on'
primary_conninfo = 'user=wslu host=localhost port=24072 sslmode=disable sslcompression=1'
 
$ vi dn3s/recovery.conf 
standby_mode = 'on'
primary_conninfo = 'user=wslu host=localhost port=24073 sslmode=disable sslcompression=1'

vi data/dn1/synchronous_standby_names.conf 
synchronous_standby_names='*'

这里以 co1 为例，co2 也要执行同样操作（对于反对热备的其余 pg 商用数据库，类型不是 datanode 而是 standby）：

$ ./bin/psql -p 24076 postgres postgres    // 进入 co1 创立节点，co1_port=24076
 CREATE NODE dn1s WITH (HOST = 'localhost', type = 'datanode', PORT = 34071, id = 6, content = 1); // 在协调器上注册节点，各端口号与下面统一
 CREATE NODE dn2s WITH (HOST = 'localhost', type = 'datanode', PORT = 34072, id = 7, content = 2);
 CREATE NODE dn3s WITH (HOST = 'localhost', type = 'datanode', PORT = 34073, id = 8, content = 3);

./bin/pg_ctl start -D data/dn1s -l data/dn1s/postgresql.log  -o "-p 34071"
./bin/pg_ctl start -D data/dn2s -l data/dn2s/postgresql.log  -o "-p 34072"
./bin/pg_ctl start -D data/dn3s -l data/dn3s/postgresql.log  -o "-p 34073"

相应的，进行所有备 DN 节点服务的指令为：

./bin/pg_ctl stop -D data/dn1s -m immediate
./bin/pg_ctl stop -D data/dn2s -m immediate
./bin/pg_ctl stop -D data/dn3s -m immediate

我并未实现胜利，但参照其余 PostgreSQL 的分布式数据库，步骤如下：

杀掉主 DN 过程，在备 DN 的目录下创立一个触发文件（例如：promote）文件。
通过 kill -SIGUSR1 备 DN 过程号 指令给备 DN 的 postmaster 过程发送一个 SIGUSR1 信号。
在主 CO 执行相似 alter node dn1s with(promote); 的指令。
退出 psql，再从新连入 psql。
此时，备 DN 就作为主 DN 运行了，可执行 DDL、DML 等所有操作。

也就是敞开 walsender 和 walreciever。

这就波及到源码级别了，个别做两步：

将主 DN 状态改为 OutSync（别的数据库的做法）。
在代码中将 SyncRepStandbyNames 设为 ""。

本教程对于配置备 DN 的形容只能对各个 DN 的数据做备份，并未胜利实现某个 DN 挂掉了主动切换到备 DN。

另外，我并未在 Postgres-XC（当初 github 改名为了 Postgres-X2）源码的回归测试中看到如何在 pgxc_nodes 零碎表创立备 DN 节点。

不过，GreenPlum（以 PostgreSQL 为根底开发的分布式数据库）有此性能，可做参考。

欢送关注我的微信公众号【数据库内核】：分享支流开源数据库和存储引擎相干技术。

题目	网址
GitHub	https://dbkernel.github.io
知乎	https://www.zhihu.com/people/…
思否（SegmentFault）	https://segmentfault.com/u/db…
掘金	https://juejin.im/user/5e9d3e…
开源中国（oschina）	https://my.oschina.net/dbkernel
博客园（cnblogs）	https://www.cnblogs.com/dbkernel

正文完

linux

发表至： linux

2021-09-25

0

关于linux:从DDR发展到DDR4内存核心频率指标其实基本上就没太大的进步

Apache运维基础2主配置文件说明

关于linux:故障分析看Linux如何判断系统死机

关于linux:Bash-Shell脚本中的数组使用实例

关于greenplum:特性分析-GreenPlum-PrimaryMirror-同步机制

关于linux:最佳实践-源码编译安装配置-PostgresXC-集群并用-pgbasebackup-配置-Datanode-热备

1. 下载源码

2. 装置依赖

3. 编译装置

4. 初始化、启动

4.1. 初始化 GTM

4.2. 初始化数据库节点

4.3. 编辑配置文件

4.4. 启动服务

5. 配置集群节点

6. 常见操作

6.1. 进行集群

6.2. 启动集群

6.3. 清理数据

7. 配置 Datanode 热备

7.1. 批改所有 CO 和 DN 的 pg_hba.conf

7.2. 批改所有 CO 和 DN 的 postgresql.conf

7.3. 创立备 DN

7.4. 在所有备 DN 新建 recovery.conf

7.5. 在所有主 DN 新建 synchronous_standby_names.conf

7.6. 在所有 CO 增加备 DN 节点

7.7. 启动所有备 DN 服务

8. Q&A

8.1. 如何晋升备 DN 为主 DN

8.2. 当备 DN 挂掉时，如何敞开主备 DN 之间的数据同步

补充

Just My Socks（注册教程内含优惠码）

关于linux:最佳实践-源码编译安装配置-PostgresXC-集群并用-pgbasebackup-配置-Datanode-热备

1. 下载源码

2. 装置依赖

3. 编译装置

4. 初始化、启动

4.1. 初始化 GTM

4.2. 初始化数据库节点

4.3. 编辑配置文件

4.4. 启动服务

5. 配置集群节点

6. 常见操作

6.1. 进行集群

6.2. 启动集群

6.3. 清理数据

7. 配置 Datanode 热备

7.1. 批改所有 CO 和 DN 的 pg_hba.conf

7.2. 批改所有 CO 和 DN 的 postgresql.conf

7.3. 创立备 DN

7.4. 在所有备 DN 新建 recovery.conf

7.5. 在所有主 DN 新建 synchronous_standby_names.conf

7.6. 在所有 CO 增加备 DN 节点

7.7. 启动所有备 DN 服务

8. Q&A

8.1. 如何晋升备 DN 为主 DN

8.2. 当备 DN 挂掉时，如何敞开主备 DN 之间的数据同步

补充

Just My Socks（注册教程 内含优惠码）

Just My Socks（注册教程内含优惠码）