有限用户散发因群成员数量多、业务需求量大面临音讯散发量激增、音讯状态多样等多种挑战。
为了保障超级群在超大规模用户散发上的极致性能，融云超级群从设计阶段便综合思考了服务部署模型、音讯投递形式以及资源隔离等外围难题的解决方案。
本文次要分享融云超级群有限用户散发的架构设计和实施方案。
有限用户散发 面临的技术挑战
- 每个用户上行发送的每条音讯，都须要实时分发给所有用户。即便指标用户不在线，也须要转成推送，触达这个用户。
有限用户可能过于形象，咱们以领有 1000 万用户的一个群为例，一个用户发送的每条音讯都会变成 1000 万的上行散发。在面对突发峰值，特地是群内有爆点音讯或大规模成员被带起节奏的时候，数据的存储和网络的散发压力会急剧回升。
- 超级群内成员可能面对海量信息。无论是客户端的性能或者用户的心力，都是有瓶颈的。
成员量宏大的超级群会产生不同于一般聊天室的独特需要：用户心愿既能够在有须要的时候不脱漏信息，又能在无关的时候不要被打搅。
所以，哪些音讯、哪些场景须要推送，会话和音讯以什么频率和聚合的形式告诉到客户端，须要有一个微小的可定制空间。
也就是说，作为一个通信平台，在海量信息和实时聊天之间，须要把能力形象，并赋予 APP 弹性调整的能力。
- 因为超级群中的信息量太大，须要反对将群宰割为不同的频道，相似传统的 topic 或 channel。即便雷同的群和群成员，通过不同的频道，依然能将会话、音讯、未读数分门别类聚合。用户能够更关注本人感兴趣的局部，晋升用户粘性。
- 将信息和聊天联合的场景，个别都有多端的需要。不同的平台，比方 Android、iOS、Web 等，在海量音讯的网络申请和存储方面都有不同的技术特点，甚至同平台不同厂商的推送通道个性也不同，这些都须要一一思考。
当然，有限用户群，还须要为每个用户提供寰球的优质网络接入，保障客户端和服务器之间音讯不重不丢不乱序。
在这方面，融云平台每天承载亿级用户和千亿的音讯散发，曾经提供了松软的根底，毋庸特地思考。
计架构和实施方案 服务散发分层架构
融云超级群从设计阶段便综合思考了服务部署模型、音讯投递形式、以及资源隔离等外围问题。
无限的扩散模型：
主节点负责外围校验，扩散节点则负责数据读写，保障主节点高可用和扩散节点分组内高可用，确保强数据一致性
低劣的资源隔离：
反对私有云、专有云，分级的资源隔离，精准的流控策略
动静的投递模型：
依据群类型抉择音讯投递模型，多级音讯缓存构造，在线状态联动，多种音讯定向投递策略
存储和散发
对于底层存储而言，群成员无下限和有下限区别很大，有下限咱们能够依据下限进行设计。
比方，一般群的音讯，通常能够抉择写扩散，能够在实时投递中取得比拟好的速度和并发性。联合半写扩散（援用散发）的机制，能够在工夫和空间上做肯定的均衡。
然而超级群的场景，为了升高读写压力，默认采纳读扩散的形式进行优化。原则上 1 写 N 读，通过上下行节点拆散和一致性 hash 的特点，能够对读和写别离进行特定优化。针对热点数据引入内存级音讯环和二级 LRU 缓存，保障读写性能。
散发模式
面对海量音讯，用户心愿既能够在有须要的时候不脱漏信息，又能在无关的时候不要被打搅。
对这些业务状态进行剖析和实现，落到散发模型上，能够分为两大类。
一类是音讯驱动型，比方 Telegram，一个用户实时接管所有会话的音讯，会话状态、未读数、告诉揭示其实都是由音讯驱动的。
另一类是会话驱动，比方 Discord，用户有选择性地接管某些会话的音讯，关注度低的会话，仅须要接管会话状态、未读数、@ 信息等告诉就能够。和第一类联合起来，还能够做到订阅式的会话驱动。
散发机制决定了群的治理节点、会话节点、音讯散发节点都必须是独自的高可用逻辑单元。
音讯投递形式
用户不在线的状况下，超级群依然反对给用户进行推送。然而，思考到用户体验，APP 能够设置按工夫聚合，或者仅推送 @ 等关联度较高的音讯，也能够让用户自行抉择，设置全局、群组级别、频道级别的免打搅，缩小对用户的打搅。
用户在线的状况下，IM 长连贯个别有间接推送、告诉拉取、聚合告诉等形式。超级群的音讯和会话，会动静地联合这几种形式。协定层反对 QoS 并保障每条音讯都有惟一值，客户端能够通过增量工夫戳的形式，进行同步和弥补。
用户离线再上线的状况下，客户端会首先增量同步超级群会话信息，并通过会话和音讯的 merge 和音讯断档机制，同时保障音讯的疾速获取和信息的齐备性。
局部操作内化
一般群场景下，大部分的状态、未读数、正在输出等会话信息，默认交给客户端进行解决，以保障灵活性。
但在超级群场景下，因为海量的历史音讯和多端的特点，这些信息的存储和获取，须要内化在超级群的通信模型中。
针对音讯的变更，融云超级群也提供了一系列扩大和内化的能力，比方音讯发送时、发送后的扩大信息，并反对音讯的撤回、删除、批改、援用批改等操作。
而针对 APP 罕用的告诉或者管制信令的场景，融云也提供在线音讯等形式，保障在线用户的触达并升高散发量。
流控和资源隔离
因为超级群的模型非常灵活且峰值很高，作为一个通信平台，融云会在超级群的上行节点，提供 APP、群组、信令级别的流控，保障平台的稳定性，且反对专有云的独自调整。
通过以上形式，融云超级群得以在有限用户场景中保障音讯传输的可靠性，不会呈现音讯失落、音讯提早、音讯乱序等问题；音讯高并发状况下，用户不论是离线还是在线，都能有序接管推送或音讯，不会呈现卡顿，无奈拉取等问题。同时，通过内化局部操作的形式加重了客户端的性能压力。