简介：让人厌恶的 CPU 限流影响容器运行，有时人们不得不就义容器部署密度来防止 CPU 限流呈现。本文介绍的 CPU Burst 技术能够帮忙您既能保障容器运行服务质量，又不升高容器部署密度。文章分为高低两篇，该文为上篇，下篇将分析应用 CPU Burst 和其余防止限流伎俩的区别，以及如何配置 CPU Burst 性能以达到最佳成果。
在 K8S 容器调度中，容器的 CPU 资源下限是由 CPU limits 参数指定。设置 CPU 资源下限能够限度个别容器耗费过多的 CPU 运行工夫，并确保其余容器拿到足够的 CPU 资源。CPU limits 限度在 Linux 内核中是用 CPU Bandwidth Controller 实现的，它通过 CPU 限流限度 cgroup 的资源耗费。所以当一个容器中的过程应用了超过 CPU limits 的资源的时候，这些过程就会被 CPU 限流，他们应用的 CPU 工夫就会受到限制，过程中一些要害的提早指标就会变差。
面对这种状况，咱们应该怎么办呢？个别状况下，咱们会联合这个容器日常峰值的 CPU 利用率并乘以一个绝对平安的系数来设置这个容器的 CPU limits，这样咱们既能够防止容器因为限流而导致的服务质量变差，同时也能够兼顾 CPU 资源的利用。举个简略的例子，咱们有一个容器，他日常峰值的 CPU 使用率在 250% 左右，那么咱们就把容器 CPU limits 设置到 400% 来保障容器服务质量，此时容器的 CPU 利用率是 62.5%（250%/400%）。
然而生存真的那么美妙么？显然不是！CPU 限流的呈现比预期频繁了很多。怎么办？仿佛看上去咱们只能持续调大 CPU limits 来解决这个问题。很多时候，当容器的 CPU limits 被放大 5~10 倍的时候，这个容器的服务质量才失去了比拟好的保障，相应的这时容器的总 CPU 利用率只有 10%~20%。所以为了应答可能的容器 CPU 应用顶峰，容器的部署密度必须大大降低。
历史上人们在 CPU Bandwidth Controller 中修复了一些 BUG 导致的 CPU 限流问题，咱们发现以后非预期限流是因为 100ms 级别 CPU 突发应用引起，并且提出 CPU Burst 技术容许肯定的 CPU 突发应用，防止均匀 CPU 利用率低于限度时的 CPU 限流。在云计算场景中，CPU Burst 技术的价值有：
不进步 CPU 配置的前提下改善 CPU 资源服务质量；
容许资源所有者不就义资源服务质量升高 CPU 资源配置，晋升 CPU 资源利用率；
升高资源老本（TCO, Total Cost of Ownership）。
你看到的 CPU 利用率不是全副假相
秒级 CPU 利用率不能反映 Bandwidth Controller 工作的 100ms 级别 CPU 应用状况，是导致非预期 CPU 限流呈现的起因。
Bandwidth Controller 实用于 CFS 工作，用 period 和 quota 治理 cgroup 的 CPU 工夫耗费。若 cgroup 的 period 是 100ms quota 是 50ms，cgroup 的过程每 100ms 周期内最多应用 50ms CPU 工夫。当 100ms 周期的 CPU 应用超过 50ms 时过程会被限流，cgroup 的 CPU 应用被限度到 50%。
CPU 利用率是一段时间内 CPU 应用的均匀，以较粗的粒度统计 CPU 的应用需要，CPU 利用率趋势稳固；当察看的粒度变细，CPU 应用的突发特色更显著。以 1s 粒度和 100ms 粒度同时观测容器负载运行，当观测粒度是 1s 时 CPU 利用率的秒级均匀在 250% 左右，而在 Bandwidth Controller 工作的 100ms 级别观测 CPU 利用率的峰值曾经冲破 400%。
image.gif 依据秒级察看到的 CPU 利用率 250% 设置容器 quota 和 period 别离为 400ms 和 100ms，容器过程的细粒度突发被 Bandwidth Controller 限流，容器过程的 CPU 应用受到影响。
如何改善
咱们用 CPU Burst 技术来满足这种细粒度 CPU 突发需要，在传统的 CPU Bandwidth Controller quota 和 period 根底上引入 burst 的概念。当容器的 CPU 应用低于 quota 时，可用于突发的 burst 资源累积下来；当容器的 CPU 应用超过 quota，容许应用累积的 burst 资源。最终达到的成果是将容器更长时间的均匀 CPU 耗费限度在 quota 范畴内，容许短时间内的 CPU 应用超过其 quota。
image.gif 如果用 Bandwidth Controller 算法来治理休假，假期治理的周期（period）是一年，一年里假期的额度是 quota，有了 CPU Burst 技术之后往年修不完的假期能够放到当前来休了。
应用 CPU Burst 之后
在容器场景中应用 CPU Burst 之后，测试容器的服务质量显著晋升。察看到 RT 均值降落 68%（从 30+ms 降落到 9.6ms）；99% RT 降落 94.5%（从 500+ms 降落到 27.37ms）。image.gif
如果容器运行负载是提早敏感类型，又有配置 quota 引起的 CPU 限流，无妨试试应用 CPU Burst 技术对提早进行优化。CPU Burst 批改已合入 Linux 5.14，Alibaba Cloud Linux 也曾经反对 CPU Burst 技术。
对于作者
常怀鑫（一斋），阿里云内核组工程师，善于 CPU 调度畛域。
原文链接
本文为阿里云原创内容，未经容许不得转载。