关于性能:性能优化下组织结构同步优化二全量同步增量同步断点续传实现方式
看到这一篇文章的 xdm ,应该对组织构造同步有一些想法了吧,如果没有,能够看后面两篇文章,能够通过如下地址查看一下: 【性能优化上】第三方组织构造同步优化一,你 get 到了吗?<!----> 坑爹,线上同步近 3w 个用户导致链路阻塞引入发的线上问题,你经验过吗?这类文章,次要是冀望能给 xdm 带来不一样的思考,如有表述不当的中央,还请不吝赐教,冀望对你有帮忙 这篇文章次要是论述将长期表中的用户组数据/用户数组,依照既定的步骤同步到咱们的正式表,过程中遇到异常中断,能够对咱们的正式平台无影响,可能保障下一次同步工作过去依然能够进行断点续传 首先全量同步和增量同步别离指什么? 全量同步简略了解,全量同步,咱们就是将对方所有的数据,全副同步到咱们外部零碎中,对于组织构造同步的时候,咱们没有必要每一次都是全量的,个别是第一次,无到有的时候会用到全量同步,能够了解为全量笼罩 增量同步那么增量同步就比拟好了解了,此处的增量同步指的是,第三方数据对于目前外部零碎数据来说,哪一些是减少或者变动的数据,那么就同步这一部分数据到外部零碎中 那么对于咱们本次同步组织构造来说,就看外部零碎是否曾经存在了 /IDaaS 组,如果存在了,那么就走增量同步,如果不存在,则走全量同步 全量同步根本流程全量同步的根本流程比较简单,再来回顾一下之前文章的一张总体图 能够看到全量同步和增量同步在咱们整个同步流程的第四个阶段,到这个阶段的时候,第三方组织构造的数据曾经全副正确的写入到了咱们的长期表中 这个时候,咱们就须要将长期表中的数据依照咱们的逻辑和步骤写入到正式表中 此处阶段,显示判断是否有 /IDaaS 组,如果没有,则在同步记录表中写入 同步类型为 full 全量同步,如果有 /IDaaS 组,则记录同步类型为 incr 增量同步 全量同步比较简单,总共分成两个阶段,一个阶段是全量同步组 full_sync_group,一个是全量同步用户 full_sync_user 序号步骤含意1full_sync_group全量同步长期表中的组到正式表2full_sync_user全量同步长期表中的用户到正式表此处比较简单,同步用户之前,天然是先要将组给同步过去,齐全分分明,对于正式表中,数据是从无到有,所以步骤绝对就简略一些 开始全量同步 在进行全量同步前,依然还是查看以后的同步状态是否是 sync_in,且同步步骤是否是sync_temp_user,若不是则不解决 查看用户数量是否超过平台最大限度 若过程中呈现 error,则敞开当前任务,不进行同步,并且将同步记录中同步状态设置为同步中断 sync_interrupt,同步记录表中重试次数 +1查看长期表无效用户 + 已有正式表中未删除用户的数量是否超过平台最大限度(个别平台会有对于一个租户最多包容多少用户的限度),更新同步状态为同步失败 sync_fail,并且清空长期数据,告诉其余服务解决失败,且敞开当前任务<!----> 校验以后同步步骤是 sync_temp_user 或者 full_sync_group ,则开始正式将长期表的组信息同步到正式表中,并将以后的同步步骤批改为 full_sync_group这次这样进行判断,如果是 sync_temp_user 阐明第一次解决到这里,如果是 full_sync_group 步骤,阐明这个步骤之前被中断了,此刻须要断点续传获取长期表中的组深度,且获取依照深度排序的组列表依照由浅到深的将组数据写入到正式表中删除长期用户表如果过程中呈现 error,则在该租户的同步记录中,同步状态标记为 sync_interrupt当同步步骤是 full_sync_group 或者 full_sync_user 的时候,则开始将用户从长期表退出到正式用户表中,且将同步步骤批改为 full_sync_user同理,此处这样的解决逻辑,也是为了断点续传,逻辑之外,对于一个步骤中数据库的解决都是开启事务的一层一层的去增加用户,先从长期表中查问同一个深度下对应的所有用户从正式表中读取曾经存在的用户从长期表中依照例如 1000 条每次去读取数据(无效非法用户),写到到正式表中,校验如果用户曾经存在于正式表中,则记录抵触用户,且不录入该用户,反之亦然删除长期表中曾经插入到正式表中的用户数据,并在长期表中更新指定用户是非法的如果过程中呈现 error,则在该租户的同步记录中,同步状态标记为 sync_interrupt同步完结,则将同步状态设为 sync_success ,同步步骤设置为 sync_end,同时将长期表中非法的组,非法的用户全副读书进去,将非法数据传出去最终革除长期用户组表,和长期用户表 ,在 redis 中记录下一次须要同步的工夫增量同步根本流程增量同步的话,绝对步骤就会多一些,看起来可能会感觉简单,实际上依照如下步骤走的话,会很清晰并不简单 ...