关于mysql:技术分享-两个单机-MySQL-该如何校验数据一致性

作者：莫善

某互联网公司高级 DBA。

本文起源：原创投稿

* 爱可生开源社区出品，原创内容未经受权不得随便应用，转载请分割小编并注明起源。

业务有两个 MySQL 集群是通过 MQ 进行同步的，昨晚 MQ 出现异常，报了很多主键抵触，想请 dba 帮忙校验一下两个集群的数据是否统一。

当接到这个需要的时候并没当回事，隐约有点印象 pt-table-checksum 能通过 dsn 实现 MySQL 的数据校验，所以过后就应承下来了。未曾想，啪啪打脸，回想起来真是粗率了。

本文参考的是 pt-table-checksum 的校验逻辑，基于数据块去遍历每个表，而后比对 checksum 的值判断该块是否统一，本文次要是想聊聊我在实现数据校验脚本过程中遇到的问题以及解决思路，心愿对大家有帮忙。

利用线上的配置文件搭建一套主从环境。

搭建步骤略

本例应用 mysql 5.7.26 进行测试

本例应用 percona-toolkit-3.2.1 进行测试

这个用例将通过 dsn 形式连贯从库。

配置 dsn 过程略

$ ./bin/pt-table-checksum h='192.168.1.1',u='mydba',p='test123456',P=6666 --nocheck-replication-filters --replicate=test.checksums --no-check-binlog-format -d dbatest1  --recursion-method dsn=t=percona_schema.dsns
Checking if all tables can be checksummed ...
Starting checksum ...
            TS ERRORS  DIFFS     ROWS  DIFF_ROWS  CHUNKS SKIPPED    TIME TABLE
01-13T17:48:20      0      0        0          0       1       0   0.377 dbatest1.dbatest

能够看到测试通过，能失常做校验。

这个用例将通过 dsn 形式连贯从库，然而会将从库的复制链路 stop 掉，并清空复制信息。

mysql> stop slave;
Query OK, 0 rows affected (0.01 sec)

mysql> reset slave all;
Query OK, 0 rows affected (0.01 sec)

mysql>

$ ./bin/pt-table-checksum h='192.168.1.1',u='mydba',p='test123456',P=6666 --nocheck-replication-filters --replicate=test.checksums --no-check-binlog-format -d dbatest1  --recursion-method dsn=t=percona_schema.dsns
Checking if all tables can be checksummed ...
Starting checksum ...
Replica mysql2 is stopped.  Waiting.
Replica mysql2 is stopped.  Waiting.
Replica mysql2 is stopped.  Waiting.
Replica mysql2 is stopped.  Waiting.

间接翻车，能够看到校验会提醒从库【is stopped. Waiting】，这就难堪了，pt-table-checksum 竟然不反对非主从环境的数据校验，既然如此那只能另想他法了。

（1）查问索引生效，或者查问报错问题

相熟 pt-table-checksum 的敌人应该都晓得，该工具是基于主键 (非空惟一键) 进行扫描数据行，其实这个逻辑针对整型单列主键实现起来很简略，然而如果是联结主键且是字符型，如同就没那么简略了，有趣味的能够思考一下。上面我先说一下大抵的逻辑：

第一步：判断 _min_rowid 是否为空，为空就取该表的第一行，并记作 _min_rowid。

if [-z "${_min_rowid}" ]
then #拿出以后表的最小行 id, 每次拿数据的起始行
    _min_rowid="$(${mysql_comm} -NBe"select min(pk) from table")"
fi

第二步：依据 _min_rowid 作为条件进行扫描该表，取下一个数据块的数据，记录数据块的最初一行数据的主键值，记录 checksum 的值，并记下 _min_rowid。

select * from table where pk > ${_min_rowid} limit checksize #计算这个块的 checksum 值
_min_rowid="$(${mysql_comm} -NBe"select max(pk) from (select pk from table where pk > ${_min_rowid} order by pk limit checksize)a")" #记录下一个最小行 pk 值

第三步：判断_min_rowid 是否为空，非空反复第二步，为空退出查看。

if [-z "${_min_rowid}" ]
then
    break
else
    continue
fi

通过上述三个步骤能够看到，如果是单列整型的主键，实现起来很简略，然而问题来了，业务的表的主键形形色色，有的是联结主键，有的是字符型的联结主键，还有整型 + 字符型的联结主键，那么上述的实现形式显然是有问题的。所以实现起来须要多思考几个问题：

须要思考主键是否是联结主键。

如果是联结主键，在取数据块的时候查问条件就是 where pk1 > xxx and pk2 > yyy
须要思考主键字段的数据类型是否是整型或字符型。

如果主键字段是字符型，在取数据块的时候查问条件就是 where pk > ‘xxx’，否则查问将不会应用到索引。

鉴于存在上述两个问题，能够参考如下实现逻辑：

获取主键字段列表，放在数组里

pri_name=($(${mysql_comm} -NBe "select COLUMN_NAME from information_schema.columns where table_name ='table'and table_schema ='db'and COLUMN_KEY ='PRI';"))

依据主键字段名获取字段的数据类型，放在关联数组里

 for tmp in ${pri_name[@]}
 do #将各个主键字段的数据类型记录到字典, 后文会判断主键字段的类型是否是字符型, 如果是字符型就须要非凡解决(带引号)
     __="select DATA_TYPE from information_schema.columns where table_schema ='db'and table_name ='table'and COLUMN_KEY ='PRI'and COLUMN_NAME ='${tmp}'"pri_type["${tmp}"]="$(${mysql_comm} -NBe "${__}" 2>/dev/null)"
 done

依据字段的数据类型，如果是字符型就须要做非凡解决

for tmp in ${pri_name[@]}
do #这步次要是解决将主键弄清楚, 到底是单列主键还是多列, 到底是整型还是其余, 而后依据不同的类型拼接成一个字符串, 次要是用来作为前面取数是否要加单引号
   #因为整型取出来不必做非凡解决, 然而非整型须要加上单引号, 要不然作为 where 条件比照的时候必定有问题
    if ["$(grep -ic"int"<<<"${pri_type["${tmp}"]}")x" != "1x" ]
    then
        select_str_tmp="concat(\"'\",${tmp},\"'\")"
        pk_style="str"
    else
        select_str_tmp="${tmp}"
    fi

    if [-z "${select_str}" ]
    then
        select_str="${select_str_tmp}"
    else
        select_str="${select_str},${select_str_tmp}"
    fi
done

这步的作用是说在取每个块的数据，须要记录 _min_rowid 的时候会依据主键的类型记录不一样的值，比方 :

整型就记录成_min_rowid=1

字符型就记录成_min_rowid=’1′

整型 + 字符型的联结主键就记录成_min_rowid=1,’1′

字符型的联结主键就记录成_min_rowid=’1′,’2′

这样在每次取数据块的时候 where 前面的条件既能正确的应用索引，也不至于因为是整形而没有带上引号而报错。

（2）如何界定每个数据块的左区间的边界

如果有这么一个联结主键字段 primary key(a,b,c) 都是整型，该如何编写遍历 sql 呢？起初我的想法很简略，具体如下：

_min_rowid=(xxx,yyy,zzz)
select * from where 1 = 1 and a >= xxx and b >= yyy and c > zzz order by a,b,c limit checksize

乍一看如同逻辑没问题，然而理论跑脚本的时候发现这个逻辑不能齐全扫齐全表，起初通过屡次测试校验，得出上面的逻辑 sql

_min_rowid=(xxx,yyy,zzz)
select * from where 1 = 1 and ((a > xxx) or (a = xxx and b > yyy) or (a = xxx and b = yyy and c > zzz)) order by a,b,c limit checksize

至此在编写校验脚本过程遇到的两个问题就算告一段落了，剩下的就是各种逻辑解决了，不过多赘述，有趣味的能够自行浏览脚本文件。

本着最低水平影响业务，所以勾销加锁逻辑。然而又要保障该数据块的数据一致性，如果这个数据块是个热数据，以后正在变更，那么校验的时候难免会不统一。所以只能通过屡次校验实现，默认是校验 20 次，其中有一次校验后果是统一，就认为是统一的，如果前 5 次校验过程中，这个数据块的数据没有变动，也视为不统一（可能是因为提早，也可能是真的不统一）。

另外 checksum 状态是写到临时文件而非写到业务数据库。

pt-table-checksum 不校验表构造，改写时增加表构造的校验。

能够基于表的并行校验，可由用户指定并行数，然而脚本有个平安机制，如果用户指定的并行数大于以后 cpu 闲暇外围数，就会按以后（闲暇外围数 -1）作为并行数。

增加网络监控，由用户指定网络下限百分比，当网卡流量超过这个百分比就暂停工作，期待网卡流量低于阈值才会持续工作。这个次要是出于对于中间件（mycat）的场景或者分布式数据库（tidb）的场景。

反对定时工作性能，用户能够应用这个性能躲避业务顶峰，仅在业务低峰进行数据校验。

指定了时间段执行校验工作，如果当天没校验实现，等到次日会持续校验。

不仅限于主从节点的校验，只有指标对象反对 MySQL 的规范 SQL 语法就能做数据校验。

校验逻辑是通过 SQL 采集指标节点的数据库，如果指标数据库系统以后存在异样，无疑是雪上加霜，将会触发未知问题，所以增加超时机制，单次取数据块的阈值是 5s，超过 5 秒就放弃期待重试。测试发现，有时候即使触发超时了，然而 SQL 工作还是会在指标数据库的 processlist 中能看到，所以又增加了一个 kill 机制，超时后会触发一个 kill processlist id 的动作。另外为了防止 kill 错，在每个 SQL 对象增加了一个 32 位的 md5 值，每次 kill 的时候会校验这个 md5 值。

保留 threads_running 的监控，如果 threads_running 过大就会暂停校验，这部分监控逻辑是跟网络监控一起

本工具借鉴 pt-table-checksum 工具思路改写，能够查看随便两个 mysql（反对 mysql sql 语法的数据库）节点的数据一致性。

本工具仅供学习应用，如需查看线上的数据，请充沛测试

基于主键以一个块遍历数据表，比对 checksum 的值，块的大小可通过参数指定。
（1）获取该表的第一个数据块的查问 SQL。
（2）将两个指标节点的数据块的 checksum 的值，记录到临时文件，file1 file2。
（3）比对 file1 file2 是否统一。

不统一 : 反复（2）的操作，至少间断 20 次，还不统一会将该 SQL 记录到 table 目录

统一 : 跳到（4）

file1 为空 : 示意该表遍历实现，间接跳到（5）
（4）获取该表的下一个数据块的查问 SQL。
（5）查看通过就跳到（7），查看不通过调到（6）。
（6）读取 table 目录校验不通过的 SQL 进行再次校验。

本次校验通过也视为数据统一

如果校验不通过，会将不统一的局部记录到 diff 目录
（7）该表校验工作完结。

查看随便两个几点的数据一致性
反对表构造的校验
反对并发查看，基于表的并发
反对指定工夫，能够躲避业务高峰期
反对网络监控，如果网络超过阈值能够暂停校验
不反对无主键 (非空惟一键) 的表
不反对联结主键达到四个字段及以上的表

（1）下载

git clone https://gitee.com/mo-shan/check_data_for_mysql.git
cd check_data_for_mysql

（2）配置

编辑配置文件

cd /path/check_data_for_mysql
vim conf/check.conf

请结合实际状况依据正文提醒进行相干配置

批改工作门路

sed -i 's#^work_dir=.*#work_dir=\"/check_data_for_mysql_path\"#g' start.sh #将这里的 check_data_for_mysql_path 改成 check_data_for_mysql 的家目录的绝对路径

（1）目录介绍

moshan /data/git/check_data_for_mysql > tree -L 2
.
├── conf
│   └── check.conf
├── func
│   ├── f_check_diff_for_mysql.sh
│   ├── f_check_diff_for_row.sh
│   ├── f_logging.sh
│   └── f_switch_time.sh
├── log
├── manager.sh
├── README.en.md
├── README.md
└── start.sh

3 directories, 9 files
moshan /data/git/check_data_for_mysql >

conf 配置文件的目录，check.conf 是配置文件
log 日志目录
start.sh 主程序
manager.sh 网络监控脚本，工作状态的治理脚本
func 目录是寄存脚本的目录
- f_check_diff_for_mysql.sh 校验数据块的脚本
- f_check_diff_for_row.sh 校验数据行，这个脚本是将 f_check_diff_for_mysql.sh 校验不通过的后果做进一步校验

（2）帮忙手册

主程序

moshan /data/git/check_data_for_mysql > bash start.sh
Usage: start.sh

                 [-t check_table]             须要查看的表列表, 默认整库
                 [-T skip_check_table]        不须要查看的表, 默认不过滤
                 [-d check_db]                须要查看的库, 默认是除了零碎库以外的所有库
                 [-D skip_check_db]           不须要查看的库, 默认不过滤
                 [-w threads]                 最大并发数
                 [-l limit_time]              哪些时间段容许跑校验, 默认是所有工夫, 如需限度能够应用该参数进行限度, 多个工夫用英文逗号隔开
                                                1-5,10-15   示意 1 点到 5 点(蕴含 1 点和 5 点), 或者 10 点到 15 点能够跑, 须要留神都是闭区间的
                                                1,5,10,15   示意 1 点, 5 点, 10 点, 15 点能够跑
                 [-f true]                    是否执行 check 操作, 默认是 false, 只有为 true 的时候才会 check
                 [-h]                         帮忙信息

moshan /data/git/check_data_for_mysql >

能够依据需要进行参数应用， 如需躲避业务高峰期在低峰执行校验工作，请应用 - l 参数指定执行工夫，如 ’-l 1-5’ 示意凌晨 1 点到 5 点执行校验工作，如果当天六点前没校验实现，会等到次日凌晨 1 点持续校验

工作治理脚本

moshan /data/git/check_data_for_mysql > bash manager.sh -h

Usage: manager.sh

                 [-a start|stop|continue|pause]     监控工作的治理动作, 数据校验工作的治理动作
                                                      start : 启动网络监控
                                                      stop|pause|continue : 连同校验脚本一起停掉 | 暂停 | 持续

                 [-t eth0]                          网卡设施名, 默认是 eth0
                 [-n 50]                            网卡流量超过这个百分比就暂停, 等网卡流量小于这个就持续, 默认是 50
                 [-h]                               帮忙信息


moshan /data/git/check_data_for_mysql >

能够依据理论网卡信息针对该网卡进行监控，当流量达到指定的阈值就会临时暂停数据校验。这个脚本次要是针对应用了中间件，比方 mycat（mysql 到 mycat）。或者是 tidb（tikv 到 tidb），这种状况下回占用较多网络带宽。

 该脚本必须要求在整个工具的家目录下执行

（3）常用命令参考

治理脚本相干
- bash manager.sh -a start -t eth0 -n 30 启动 eth0 网卡的流量监控，流量达到 30% 就暂停数据校验
- bash manager.sh -a pause 暂停监控及暂停数据校验工作
- bash manager.sh -a continue 持续监控及持续数据校验
- bash manager.sh -a stop 进行监控及进行数据校验
主程序相干
- bash start.sh -f true -d dbatest -t test1 -l 0-5 仅校验 dbatest 库下的 test 表，且在 0 点到 5 点执行校验工作

（4）测试用例 - 校验通过场景

每次执行校验工作的时候强制要清空 log 目录，所以请做好校验后果的备份
执行校验工作的时候强烈建议开启 screen
有网卡监控需要，执行监控脚本时也强烈建议独自开启 screen 进行监控

第一步：先开启一个 screen 监控网络

moshan /data/git/check_data_for_mysql > screen -S check_net_3306
moshan /data/git/check_data_for_mysql > bash manager.sh -a start
[2022-01-18 11:55:34] [1000 Mb/s] [RX : 2    MB/S]  [TX : 2    MB/S]
[2022-01-18 11:55:35] [1000 Mb/s] [RX : 2    MB/S]  [TX : 4    MB/S]
[2022-01-18 11:55:36] [1000 Mb/s] [RX : 2    MB/S]  [TX : 2    MB/S]
[2022-01-18 11:55:37] [1000 Mb/s] [RX : 2    MB/S]  [TX : 3    MB/S]
[2022-01-18 11:55:38] [1000 Mb/s] [RX : 1    MB/S]  [TX : 2    MB/S]
[2022-01-18 11:55:39] [1000 Mb/s] [RX : 1    MB/S]  [TX : 2    MB/S]
[2022-01-18 11:55:41] [1000 Mb/s] [RX : 1    MB/S]  [TX : 2    MB/S]
[2022-01-18 11:55:42] [1000 Mb/s] [RX : 2    MB/S]  [TX : 8    MB/S]

第二步：新开启一个 screen 执行校验工作

moshan /data/git/check_data_for_mysql > screen -S check_data_3306
moshan /data/git/check_data_for_mysql > bash start.sh -d dba -t dbatest1 -f true 
[2022-01-17 20:32:19] [胜利] [192.168.1.1] [start.sh/start.sh] [f_prepare:130] [本次数据一致性查看开始]
[2022-01-17 20:32:19] [正告] [192.168.1.1] [start.sh/start.sh] [f_main:185] [本次数据一致性查看将查看如下库 : [dba] ]
[2022-01-17 20:32:19] [胜利] [192.168.1.1] [start.sh/start.sh] [f_main:203] [正在查看 dba 库]

[2022-01-17 20:32:19] [胜利] [192.168.1.1] [func/f_check_diff_for_mysql.sh] [f_check_diff_for_mysql:249] [dba.dbatest1] [表构造统一]

[2022-01-17 20:32:19] [胜利] [192.168.1.1] [func/f_check_diff_for_mysql.sh] [f_check_diff_for_mysql:491] [dba.dbatest1] [1,1] [00 d 00 h 00 m 00 s] [9.09%, (0:0)/1 ] [数据统一]
[2022-01-17 20:32:19] [胜利] [192.168.1.1] [func/f_check_diff_for_mysql.sh] [f_check_diff_for_mysql:491] [dba.dbatest1] [2,11] [00 d 00 h 00 m 00 s] [100.00%, (0:0)/1 ] [数据统一]
[2022-01-17 20:32:19] [胜利] [192.168.1.1] [func/f_check_diff_for_mysql.sh] [f_check_diff_for_mysql:504] [dba.dbatest1] [查看结束]

[2022-01-17 20:32:19] [胜利] [192.168.1.1] [start.sh/start.sh] [f_main:242] [本次数据一致性查看实现] [通过]

moshan /data/git/check_data_for_mysql >

查看完结后会提醒查看通过，否则就是查看不通过，如上面的用例。

（5）测试用例 - 校验不通过场景

执行校验工作的时候强烈建议开启 screen

moshan /data/git/check_data_for_mysql > screen -S check_data_3306
moshan /data/git/check_data_for_mysql > bash start.sh -d dbatest1 -f true 
[2022-01-17 20:32:09] [胜利] [192.168.1.1] [start.sh/start.sh] [f_prepare:130] [本次数据一致性查看开始]
[2022-01-17 20:32:09] [正告] [192.168.1.1] [start.sh/start.sh] [f_main:185] [本次数据一致性查看将查看如下库 : [dbatest1] ]
[2022-01-17 20:32:09] [胜利] [192.168.1.1] [start.sh/start.sh] [f_main:203] [正在查看 dbatest1 库]

[2022-01-17 20:32:09] [正告] [192.168.1.1] [func/f_check_diff_for_mysql.sh] [f_check_diff_for_mysql:242] [dbatest1.dbatest] [表构造不统一] [a_time name] [跳过该表的查看]


[2022-01-17 20:32:09] [谬误] [192.168.1.1] [start.sh/start.sh] [f_main:232] [本次数据一致性查看实现] [不通过]

[2022-01-17 20:32:09] [谬误] [192.168.1.1] [start.sh/start.sh] [f_main:237] [dbatest1.dbatest:table structure err]
moshan /data/git/check_data_for_mysql >

moshan /data/git/check_data_for_mysql > ls -l
total 444
-rw-r--r-- 1 root root 450389 Jan 18 11:56 info.log
drwxr-xr-x 2 root root    194 Jan 18 11:56 list
drwxr-xr-x 2 root root      6 Jan 18 11:56 md5
drwxr-xr-x 6 root root     72 Jan 18 11:56 pri
drwxr-xr-x 5 root root     42 Jan 18 11:52 res
-rw-r--r-- 1 root root     65 Jan 18 11:56 skip.log
moshan /data/git/check_data_for_mysql >

（1）info.log 文件

校验的日志，会将数据库的数据是否统一一一记录，如下是一行日志记录。

[2022-01-17 20:32:19] [胜利] [192.168.1.1] [func/f_check_diff_for_mysql.sh] [f_check_diff_for_mysql:491] [dba.dbatest1] [2,11] [00 d 00 h 00 m 00 s] [100.00%, (0:0)/1 ] [数据统一]

[2022-01-17 20:32:19] 第一段是记录日志的工夫

[胜利] 第二段是日志状态

[192.168.1.1] 第三段是产生日志的机器 ip

[func/f_check_diff_for_mysql.sh] 第四段是哪个文件产生的日志

[f_check_diff_for_mysql:491] 第五段是哪个函数: 行号产生的日志

[dba.dbatest1] 第六段是针对哪个 db 哪个表产生的日志

[2,11] 第七段是数据块的左右闭区间

[00 d 00 h 00 m 00 s] 第八段是针对该表的数据校验总执行的工夫

[100.00%, (0:0)/1 ] 第九段是执行进度，其中小括号局部示意：(校验通过的表个数: 校验不通过的表个数)/ 总共须要校验的表的个数

[数据统一] 第十段是数据统一状态。

（2）list 目录

-rw-r--r-- 1 root root  77 Jan 18 11:52 dba_ing.list
-rw-r--r-- 1 root root  77 Jan 18 11:56 dba.list

这个目录会针对每个 db 记录两个文件，一个是曾经校验通过的表，另一个是正在校验的表。

（3）md5 目录

保留数据块的 checksum 长期目录，能够疏忽

（4）pri 目录

这个目录会针对每个 db 都创立一个目录，而后记录每个表以后校验的数据块的最初一行数据的 pk(pk list)值

（5）res 目录

这个目录是记录校验后果的目录，会有三个子目录

drwxr-xr-x 2 root root 6 Jan 18 11:52 diff
drwxr-xr-x 2 root root 6 Jan 18 11:52 row
drwxr-xr-x 2 root root 6 Jan 18 11:56 table

table : f_check_diff_for_mysql.sh 脚本会将校验不通过的数据块的 SQL 记录在这里。这个目录会按 db 创立目录，将记录校验不通过的数据块的 SQL 语句格局如下：”table/db/table.log”

row : f_check_diff_for_row.sh 脚本会读取 table 目录的 SQL 语句进行再次校验，而后产生的的临时文件存在 row 目录，能够疏忽

diff : f_check_diff_for_row.sh 脚本会读取 table 目录的 SQL 语句进行再次校验，而后产生的再次校验不通过的局部存记录到这个目录，格局如下：”diff/db.table.num.diff”

这是 table 目录下记录某个数据块不统一的一个例子

set tx_isolation='REPEATABLE-READ';set innodb_lock_wait_timeout=1;SELECT '127d04065afd91d587bbb19bc16037a6:mobile_bind', COUNT(*) AS cnt, COALESCE(LOWER(CONV(BIT_XOR(CAST(CRC32(CONCAT_WS('#',`id`,`uid`,`count`,`score`,`timestamp`,`info`,`mobile_info`,`del`,CONCAT(ISNULL(`id`),ISNULL(`uid`),ISNULL(`count`),ISNULL(`score`),ISNULL(`timestamp`),ISNULL(`info`),ISNULL(`mobile_info`),ISNULL(`del`)))) AS UNSIGNED)), 10, 16)), 0) AS crc FROM (select * from tdb_spam_oltp.`mobile_bind` where 1 = 1 and id > 667930554 order by id limit 10000)a

如果校验某个数据块发现两个节点数据不统一会记录这个 SQL

一来是不便 f_check_diff_for_row.sh 脚本再次校验

二来是不便用户再次确认是真的不统一还是因为这是热数据，在校验的时候正在频繁被批改

这是 diff 目录下记录某个数据行不统一的一个例子

7974c7974
< 667930554    2    1642491495866595584    100    948895134572797275    2022-01-10 16:01:30    2022-01-11 10:45:04    {"dlvBoid":7877725947093058957}    -667930554
---
> 667930554    1    1642491495866595584    100    948895134572797275    2022-01-10 16:01:30    2022-01-10 16:32:01    {"dlvBoid":7877725947093058957}    -667930554

同一个主键，如果数据不统一会以这样的格局记录到 diff 目录

（6）skip.log 文件

查看不通过在 log 目录都会生成一个 skip.log 文件, 外面记录了哪些表被跳过查看及跳过起因，如果查看通过就不会有这个文件。

moshan /data/git/check_data_for_mysql > ls -l log/skip.log 
-rw-r--r-- 1 root root 37 Jan 17 20:35 log/skip.log
moshan /data/git/check_data_for_mysql > cat log/skip.log 
dbatest1.dbatest:table structure err
moshan /data/git/check_data_for_mysql >

本工具是参考了 pt-table-checksum 工具的一些思路并联合本身教训进行改写，尚有很多不足之处，仅做学习交换之用， 如有线上环境应用需要，请在测试环境充沛测试。

关于mysql:技术分享-两个单机-MySQL-该如何校验数据一致性

需要介绍

一、前言

二、测试 dsn

1、校验主从数据一致性

2、校验非主从数据一致性

三、开发工具遇到的问题

1、解决简单的联结主键问题

（1）查问索引生效，或者查问报错问题

（2）如何界定每个数据块的左区间的边界

四、数据校验工具做了哪些改变

1、勾销 for update

2、反对表构造校验

3、反对基于表的并行校验

4、反对网络监控

5、反对定时工作性能

6、反对任意两个节点的校验

7、增加超时机制及他杀机制

五、数据校验工具应用介绍

1、校验逻辑

2、性能介绍

3、装置教程

（1）下载

（2）配置

4、应用阐明

（1）目录介绍

（2）帮忙手册

（3）常用命令参考

（4）测试用例 - 校验通过场景

（5）测试用例 - 校验不通过场景

5、测试后果解读

六、写在最初

Just My Socks（注册教程内含优惠码）

关于mysql:技术分享-两个单机-MySQL-该如何校验数据一致性

需要介绍

一、前言

二、测试 dsn

1、校验主从数据一致性

2、校验非主从数据一致性

三、开发工具遇到的问题

1、解决简单的联结主键问题

（1）查问索引生效，或者查问报错问题

（2）如何界定每个数据块的左区间的边界

四、数据校验工具做了哪些改变

1、勾销 for update

2、反对表构造校验

3、反对基于表的并行校验

4、反对网络监控

5、反对定时工作性能

6、反对任意两个节点的校验

7、增加超时机制及他杀机制

五、数据校验工具应用介绍

1、校验逻辑

2、性能介绍

3、装置教程

（1）下载

（2）配置

4、应用阐明

（1）目录介绍

（2）帮忙手册

（3）常用命令参考

（4）测试用例 - 校验通过场景

（5）测试用例 - 校验不通过场景

5、测试后果解读

六、写在最初

Just My Socks（注册教程 内含优惠码）

Just My Socks（注册教程内含优惠码）