涛思数据|肖波

随着容器化的风行,越来越多的我的项目采取了容器化计划来设计架构、施行部署。

作为时序数据引擎外围的TDengine,在部署时个别倡议采纳FQDN(Fully Qualified Domain Name,齐全限定域名)来进行节点之间的通信。很多客户在进行容器化架构设计时,通信形式均采纳IP地址寻址,而且因为这些容器的IP、容器名(也就是hostname)会随着容器的生命周期变动而变动,这就给TDengine采纳hostname作为FQDN寻址进行通信带来了艰难。

本文将结合实际,尝试给出一最佳实际倡议,以实现以下两个需要:

  1. TDengine集群节点采纳IP地址寻址
  2. 利用端无需配置集群节点IP/FQDN地址,而仅采纳LoadBalancer域名作为firstEP实现集群寻址

假如TDengine集群由两个节点组成,IP别离为172.16.31.1和172.16.31.2。

在深刻之前,心愿读者先对TDengine的整体架构有所理解,能够参考TDengine技术文档。

咱们再来强调TDengine中的几个概念:

  1. 物理节点(pnode): pnode是一独立运行、领有本人的计算、存储和网络能力的计算机,能够是装置有OS的物理机、虚拟机或Docker容器。物理节点由其配置的 FQDN来标识。
  2. 数据节点(dnode): dnode 是 TDengine 服务器侧执行代码 taosd 在物理节点上的一个运行实例,一个工作的零碎必须有至多一个数据节点。dnode蕴含零到多个逻辑的虚构节点(VNODE),零或者至少一个逻辑的治理节点(mnode)。dnode在零碎中的惟一标识由实例的End Point (EP )决定。EP是dnode所在物理节点的FQDN和零碎所配置的网络端口号(Port)的组合。
  3. 治理节点(mnode): 一个虚构的逻辑单元,负责所有数据节点运行状态的监控和保护,以及节点之间的负载平衡。同时,治理节点也负责元数据(包含用户、数据库、表、动态标签等)的存储和治理。

客户端初始化的根本流程是:利用通过taosc原生接口拜访TDengine,须要通过firstEP找到集群,获取到集群的元数据(meta-data),也就是集群所有节点列表(FQDN 或 IP列表)。客户端驱动一旦取得列表后,即可按列表与集群对应的节点进行通信了。默认的通信形式是:15K以下的数据走UDP协定,15K以上的走TCP协定。

了解了以上流程,咱们就能够利用负载均衡器LoadBalancer的相干特点帮忙咱们实现去hostname的容器化部署了。当然,本计划也同样能够用在非容器化部署,但心愿采纳IP地址部署TDengine的场景。

在这个计划里,firstEP指向LoadBalancer的域名及对应的端口(默认为6030)。咱们假如LoadBalancer的域名是lb.taosdata.com。TDengine集群节点寻址采纳IP地址作为FQDN:172.16.31.1/172.16.31.2。

利用通过客户端驱动去连贯firstEP:lb.taosdata.com:6030。LoadBalancer收到申请后,依据事后设定好的负载平衡策略,将申请转发给预设的TDengine节点——172.16.31.1:6030 或 172.16.31.2:6030,收到该音讯的节点将meta-data音讯原路返回给请求者(如以后节点不是mnode主节点,会触发重定向,后续流程相似),最终利用/客户端利用驱动刷新取得了meta-data列表。

之后,利用须要建设与集群任一节点的通信时,无需通过LoadBalancer,将间接通过已取得的IP列表发动连贯,实现通信。

最初一点,也是最重要的一点:如果实现以上步骤不能胜利通信,那么有可能是您的LB不反对UDP,或UDP丢包率过高导致。解决办法很简略,关上所有节点(包含所有客户端和服务端)的rpcForceTCP开关,将所有发动的通信转为TCP通信而不再采纳UDP通信,确保穿透LoadBalancer的通信均走TCP实现。


流动举荐: