作者：翁智华
出处：https://www.cnblogs.com/wzh2010/
背景
单位每年都会举办运动会，有一个 2000m 短跑的我的项目，大概每年报名人员为男选手 40 人，女选手 20 人，只有一条橡胶跑道。一次较量 10 人齐跑，所以至多须要 6 场较量。
2000 米的实现工夫要求是 20 分钟，超过 20 分钟不计数，所以较量耗时咱们计算为 20 分钟，加上较量前的动员组织，较量后的清场，咱们假设每场较量耗时 30 分钟。
当初咱们预估下耗时：
1、60 人 /10 人每场 = 6 场，至多须要举办 6 场
2、总耗时 = 6 场 * 0.5h = 3h
所以每年把这个较量安顿在下午 3 点到 6 点，是最初一个比赛项目，早晨 7 点举办颁奖晚会。这个预估容量也算正当。
然而往年比拟特地，勾销了 4000 米的短跑，所以 2000 米报名人员激增 50 人。工夫还是下午 3 点到 6 点，
这个就有问题了，最初为了保障晚会的失常进行，一半的人员的较量工夫推延到另外一周的周末，搞得怨声四起，大骂举办的行政部门不讲武德。
这个是咱们单位实在的故事，这就是设计容量，当你的业务场景的容量产生了变动时候，没有预估到他的变动，以及变动可能产生的影响，没有依照这个影响及时的做调整
（比方将较量工夫提前，拉长整个较量的过程工夫，或者减少较量跑到，同时进行两场较量），就会造成劫难。
概念
何为设计容量，从技术上说就是使用一些策略对系统容量进行预估的过程。容量设计是架构师必备的技能之一。
他要求咱们剖析零碎设计容量要求，尽可能给出具体数据形容的：数据量、并发量、带宽、注册用户规模、沉闷用户规模、在线用户规模、音讯长度，图片大小、网盘空间容量，内存 CPU 容量等。
上面的内容，咱们以 并发 为例子，看看看具体的剖析过程。
剖析过程
了解一些原理
TPS（Transactions Per Second）：每秒事务数
QPS（Query Per Second）：每秒申请数，QPS 其实是掂量吞吐量的一个罕用指标，就是说服务器在一秒的工夫内解决了多少个申请。
并发数：并发数是指零碎同时能解决的申请数量，这个也是反馈了零碎的负载能力。
峰值 QPS 计算：
1、原理：每天 80% 的拜访集中在 20% 的工夫里，这 20% 工夫叫做峰值工夫
2、公式：(总 PV 数 80% ) / (每天秒数 20% ) = 峰值工夫每秒申请数(QPS)
PV（Page View）：页面访问量，即页面浏览量或点击量，用户每次刷新即被计算一次
UV（Unique Visitor）：独立访客，统计 1 天内拜访某站点的用户数(以 cookie 为根据)
吐吞量：吞吐量是指零碎在单位工夫内解决申请的数量
响应工夫（RT）：响应工夫是指系统对申请作出响应的工夫，个别取均匀响应工夫
QPS（每秒查问数）、TPS（每秒事务数）是吞吐量的罕用量化指标，另外还有 HPS（每秒 HTTP 申请数）。
QPS（TPS）、并发数、响应工夫它们三者之间的关系是：
1、QPS（TPS）= 并发数 / 均匀响应工夫
2、并发数 = QPS * 均匀响应工夫
零碎容量评估机会
次要在三种业务场景下须要及时思考对系统容量进行评估。
1、长期的流量变动：比方 618、双 11，新年大促搞流动等场景，预估咱们的流量会大涨，甚至到原来的数倍。这时候要做好应答的措施。
2、初始零碎容量评估：假如咱们开发了某个零碎，这个零碎初始上线，咱们预估他的容量和负载会是多少。
3、容量基数的变动：比方某个零碎，他的功能模块越来越多，数据流量越来越大，日活指数越来越高，迎来了第二波的增长曲线。咱们原来定好的零碎容量慢慢的不满足咱们的需要，这时候咱们也要从新评估和扩容。
咱们零碎容量评估包含数据量、并发量、带宽、CPU、MEMORY、DISK 等。以并发量为案例，咱们来阐明零碎容量评估的办法和步骤。
评估的步骤
1、剖析日总访问量
剖析可能的日访问量，个别零碎零碎都会提供比拟实在的访问量数值，基于此，咱们须要评估一个流动的访问量；如果是一个新上线的零碎，咱们也要评估可能的 PV、UV 值。
产品、经营部门也须要给出可能的拜访预期值。
举个例子：
咱们流动期间 (9 点~10 点) 会推送 2000W 的利用音讯，假如用户理论点进去查看的比列为 1 /10，那么这个流动期间 (1 小时) 新增的访问量就有 2000W * 1/10= 200W
2、评估均匀访问量 QPS
QPS 是每秒申请量, 假如咱们一天失常流动工夫个别是 11 个小时多一点, 那一天的工夫长度以秒为单位:606011 ≈ 4W, 咱们再应用日拜访工夫再去除以 4W 总工夫即可.
举个例子：
咱们下面说的两个小时的流动工夫, 理论的总访问量最初的确是 200W,
那么均匀访问量 QPS 为:200W/(60*60)=555.5 QPS.
一个成熟零碎日 QPS 也能够预估 , 比方 百度首页的日 PV 数量为 5000W, 依照咱们说的惯例流动工夫 4W 秒算, 就是 5000W / 4W = 1250 QPS.
3、评估顶峰区间的 QPS
咱们在做零碎容量布局时，不仅仅是思考均匀 QPS，最重要的是要接受住顶峰区间的 QPS，这个数据能够依据业务流量监控的曲线和 28 法令来评估, 咱们来看下具体是怎么做的?
3.1 业务流量监控的曲线
以上面这个云零碎作为例子：
日均 QPS 为 2900，业务拜访趋势图如下图，咱们来对峰值 QPS 做一下预估
从图中能够看出，峰值 QPS 大略是均值 QPS 的 2.58 倍，日均 QPS 为 2900，于是评估出峰值 QPS 为 2900*2.58=7482。
这种是日常流量状况, 如果遇到很特地的业务, 比方竞拍 \ 抢订 \ 秒杀状况, 流量幅度还是比拟大的.
3.2 应用二八法令计算
何为二八法令:80% 的业务根本都是产生在 20% 的工夫外面, 所以有如下:
峰值 QPS 公式：(总 PV 数 80% ) / (每天秒数 20% ) = 峰值工夫每秒申请数(QPS)
4、评估单实例极限接受的 QPS
能够应用压测 (nGrinder 或者 jmeter) 形式来获取单个零碎实例的 QPS 极限值, 咱们团队的规范是当申请响应工夫超过 2S 的时候, 曾经达到了瓶颈值，并影响应用, 须要进行优化和扩容。
咱们在一个零碎上线前，一般来说是须要进行压力测试, 理解她理论的极限值在哪个中央，以咱们下面流量图为例子（日均匀 QPS 为 2900，峰值 QPS 为 7500），这个零碎的架构可能是这样的：
1、经由 APP 和 Web 的的申请，会通过 Nginx 平衡到多台 Web 站点下来。
2、Web 集群会调用并落地到 Service 集群上
3、Service 集群向数据层申请数据，失常状况下其中 90% 会落到 Cache 集群中
4、Cache 集群中不存在（假如 10%），会进入 DB 集群去拜访数据库。
咱们通过压测数据发现，web 层是瓶颈，tomcat 压测单个实例只能反对 2500 的 QPS。
Cache 集群和 DB 集群足够强悍，可能轻松应答峰值 7500 的 QPS，按比例别离是 75000.9=6750 和 75000.1=750.
所以咱们失去了 web 单实例极限的 QPS 是 2500。这边须要下调，因为咱们不倡议让申请响应时长靠近 2S，最好是 1S 以内。所以下调至 2000。
5、依据线上冗余度最终确认
通过下面的计算，咱们曾经失去了峰值 QPS 是 7500，单个实例可能顺畅承载 QPS 是 2000，那么 Web 集群中至多有 4 个实例可能承接这样的申请洪峰。
除此之外，其余类型的的容量预估，如数据量、带宽、CPU、MEMORY、DISK 等都能够采纳相似策略。
案例剖析
联合我的项目：如何计算图书零碎的 QPS、峰值 QPS、N 个实例和并发数
1、图书预约零碎的并发数计算：
1.1、二八法令定理：80% 的业务根本都是产生在 20% 的工夫外面，如零碎有早中晚顶峰，历经 9 个小时（早上 10 点到早晨 19 点），9*3600=32400。
1.2、获取峰值 QPS：公式：(总 PV 数 80% ) / (每天秒数 20% ) = 峰值工夫每秒申请数(QPS)
即 (1500000 80% ) / (32400 20% ) = 600000/6480≈185/ 秒
1.3、并发数 = QPS 均匀响应工夫 = 0.5185 = 92.5，改正为 100
1.4、利用 343 估算法断定 154，向上改正为 200
| Pessimism 乐观 | 30% | 80 |
|---|---|---|
| Normal 规范 | 40% | 100 |
| Optimism 乐观 | 30% | 300 |
最初提供给性能测试 QA 的测试规范数据是 倡议反对并发 200+，QA 最终的测试后果是 该并发下响应工夫在 50~100ms
总结
零碎设计容量评估机会：
1、长期的流量变动：比方 618、双 11，新年大促搞流动等场景，预估咱们的流量会大涨，甚至到原来的数倍。这时候要做好应答的措施。
2、初始零碎容量评估：假如咱们开发了某个零碎，这个零碎初始上线，咱们预估他的容量和负载会是多少。
3、容量基数的变动：比方某个零碎，他的功能模块越来越多，数据流量越来越大，日活指数越来越高，迎来了第二波的增长曲线。咱们原来定好的零碎容量慢慢的不满足咱们的需要，这时候咱们也要从新评估和扩容。
零碎设计容量评估的步骤：
1、剖析日总访问量：产品、经营的评估和线上数据的收集
2、评估日均匀访问量 QPS：评估经营工夫内的均匀 QPS
3、评估顶峰区间的 QPS：流量曲线计算 或 28 法令估算
4、性能压力测试：评估实例可能接受的极限吞吐量
5、依据线上冗余度，与理论的差值进行调整，评估出能承载容量的理论后果值
显然，结尾的运动会如果子报名完结后可能依据报名的人数比照，从新做容量设计，提前做好筹备，状况就不会那么蹩脚。
近期热文举荐：
1.1,000+ 道 Java 面试题及答案整顿(2021 最新版)
2. 终于靠开源我的项目弄到 IntelliJ IDEA 激活码了，真香！
3. 阿里 Mock 工具正式开源，干掉市面上所有 Mock 工具！
4.Spring Cloud 2020.0.0 正式公布，全新颠覆性版本！
5.《Java 开发手册（嵩山版）》最新公布，速速下载！
感觉不错，别忘了顺手点赞 + 转发哦！