译者：为之漫笔
起源：http://www.zcfy.cc/article/10…
原文：https://www.nginx.com/blog/10…
一个网站到底多快才行？页面加载每花 1 秒钟，就有大概 4% 的用户走掉。排名最靠前的电商站点的首次交互工夫为 1 至 3 秒，这个区间的转换率最高。不言而喻，Web 利用性能的重要性一劳永逸。
晋升性能其实不难，难的是怎么看到后果。本文给出可能晋升大概 10 倍网站性能的 10 个倡议供大家参考。如此全面地涵盖各种性能优化技术，这还是头一回，但这些倡议可能须要 NGINX 的一点反对。除了性能，这些倡议也会波及晋升安全性。
倡议一：应用反向代理服务器让利用更快更平安
如 果你的 Web 利用只跑在一台机器上，那要晋升其性能非常简单：换一台更快的，多配几个处理器，多加几条内存，磁盘阵列也要高速的。换了当前，这台机器上跑的 WordPress 服务器、Node.js 或 Java 利用速度都会放慢。（要是利用还会拜访另一台数据库服务器，那也简略：找两台更快的机器，用更快的网络连起来就行了。）
麻烦在于，机器速度并不是问题。很多时候 Web 利用慢，是因为要在各种工作之间切换，一会儿要解决数千个连贯上的用户申请，一会儿要向磁盘读写文件，一会儿又要运行利用的代码，一会儿又要去干别的。应用服务器因而可能呈现各种情况，耗尽内存、交换文件，或者让很多申请期待一个硬盘 I / O 之类的工作。
▼
除了降级硬件，其实你还能够抉择另外一种齐全不同的办法：加一台反向代理服务器，分担上述一些工作。反向代理服务器位于运行利用的机器之前，负责解决来自外网的申请。反向代理服务器间接连到互联网，它与应用服务器通信应用的是疾速的外部网络。
反向代理服务器能够让应用服务器专一于构建页面，而后交给反向代理向外网发送，而不用理睬用户与利用的交互。因为不用期待客户端的响应，应用服务器的运行速度能达到靠近最优的程度。
减少反向代理服务器同时也能够为 Web 服务器削减灵活性。比方，假如执行某种工作的服务器过载了，那随时能够再减少一台同类服务器；而如果这台服务器挂了，替换它也很容易。
▼
鉴于这种灵活性，反向代理服务器往往也是其余性能优化伎俩的先决条件，比方：
- 负载平衡（参见“倡议二”），反向代理服务器上运行负载平衡服务，把流量平均分配给几台应用服务器。有了负载平衡，增加应用服务器基本不须要批改利用。
- 缓存动态文件（参见“倡议三”），图片或代码之类的能够间接申请的文件，都能够保留在反向代理服务器中，以便间接发给客户端。这样不仅能够更快地响应申请，还能加重应用服务器的累赘，放慢其运行速度。
- 保障站点平安，能够配置反向代理服务器晋升其安全级别，通过它监控来疾速辨认和响应攻打，从而保留应用服务器平安。
NGINX 专门为应用反向代理服务器做了设计，使其人造反对上述优化。因为应用事件驱动的解决机制，NGINX 比传统服务器效率更高。NGINX Plus 则减少了更高端的反向代理性能，如利用体检、特有的申请路由、高级缓存和售后反对。
传统服务器与 NGINX Worker 的比拟
倡议二：减少负载平衡服务器
增 加负载平衡服务器绝对简略，但却能显著晋升站点性能和安全性。通过它把流量调配给多个服务器，就能够不用降级 Web 服务器了。就算利用自身写得不太好，或者难以扩大，负载平衡都能够在不做其余扭转的状况下晋升用户体验。
负载平衡服务器首先是一个反向代理服务器（参见“倡议一”），负责把来自互联网的申请转发给其余服务器。这里关键在于负载平衡服务器能够反对两台以上的应用服务器，应用一种抉择算法在不同的服务器间调配申请。最简略的负载平衡算法是循环调度，即把新申请顺次转发给可用服务器中的下一台服务器。其余算法还有把申请发给流动连贯起码的服务器。NGINX Plus 反对一种性能，就是把用户会话放弃在同一台服务器上，叫做会话放弃。
▼
负载平衡服务器能够防止一台服务器过载而其余服务器过闲，从而极大晋升性能。同时，有了它还能够让 Web 服务器扩容更简略，因为能够选用比拟便宜的服务器，同时保障物尽其用。
能够通过负载平衡调度的协定包含 HTTP、HTTPS、SPDY、HTTP/2、WebSocket、FastCGI、SCGI、uwsgi、memcached，以及其余一些利用模式，包含基于 TCP 的利用和其余第四层的协定。为此，首先要剖析 Web 利用，看性能短板在哪里，而后再确定应用哪一个。
同一台服务器或用于负载平衡的服务器也能够承当其余工作，比方 SSL 终止、视客户端不同反对 HTTP/1/ x 或 HTTP/2、缓存动态文件。
NGINX 常常被用来做负载平衡，更多信息请参考咱们以前发的介绍性文章、无关配置的文章、电子书和相干的在线视频，当然还有文档。咱们的商业版本 NGINX Plus 反对更多的负载平衡性能，如基于服务器响应工夫路由负载和反对微软 NTLM 协定的负载平衡。
倡议三：缓存动态及动静内容
缓 存能晋升 Web 利用性能，因为能够更快地把内容交付给客户端。缓存的策略包含预处理内容、在较快的设施上存储内容、把内容保留在凑近客户端的中央，以及同时使用这些策略。
缓存有两种。
- 动态内容缓存，不常变动的文件，如图片（JPEG、PNG）和代码（CSS、JavaScript），能够保留在边缘服务器中，以便疾速从内容或磁盘中获取。
- 动静内容缓存，很多 Web 利用会为每个页面申请生成全新的 HTML，把生成的每个 HTML 都缓存一小段时间，可能显著缩小须要生成的页面总数，同时又能够保障交付的内容足够陈腐。
假如一个页面每秒被查看 10 次，而你缓存它 1 秒，那么 90% 针对这个页面的申请都将来自在缓存。如果你独自缓存动态内容，那么即便全新生成的页面，很可能大部分都来自缓存的内容。
▼
缓存 Web 利用生成内容的技术次要分三种。
- 把内容放到离用户近的中央。离用户近，传输工夫少。
- 把内容放到较快的机器上。机器快，检索速度快。
- 把内容从适度应用的机器中拿走。有时候机器会比在专一执行特定工作时慢很多，那是因为太多任务让它们分心。这时候把内容拿到其余机器上，不仅对缓存的内容有益处，对非缓存的内容同样无利，因为托管它们的主机的累赘加重了。
Web 利用的缓存能够在 Web 应用服务器外部或内部实现。首先，思考缓存动静内容，以加重应用服务器的负载。其次，缓存用于动态内容（包含那些动静生成内容的长期正本），进一步加重应用服务器的累赘。而后，思考把缓存转移到其余更快或更凑近用户的机器，给应用服务器减负，缩短传输工夫。
用好缓存能显著放慢利用的响应速度。对很多网页来说，大图片之类的静态数据，往往占据一半以上的内容。不必缓存，查问和传输这类数据可能会花好几秒钟，而用缓存，则可能只有花几分之一秒。
▼
能够举一个例子来阐明怎么应用缓存，NGINX 和 NGINX Plus 通过两个指令来设置缓存：proxy_cache_path 和 proxy_cache 指定缓存的地位和大小、最长缓存工夫以及其余参数。应用第三个（也是很受欢迎的)指令 proxy_cache_use_stale，甚至能够通知缓存在原本应该提供陈腐内容的服务器太忙或宕机时，提供原来的旧文件，对客户端来说，拿到内容总比拿不到强。从用户角度看，这样也能够建立你的站点或利用十分稳固的形象。
NGINX Plus 反对高级缓存性能，包含缓存污染（caching purging）和通过控制板以可视化的模式展现缓存状态，实现实时监控。
要理解 NGINX 中对于缓存的更多信息，能够看看参考文档和 NGINX Plus Admin Guide 中的 NGINX Content Caching。
留神: 缓存波及开发、决策和运维，欠缺的缓存策略，比方本文提到的这些，可能体现从 DevOps 角度思考的价值。也说是说，开发人员、架构师、运维人员此时携手，独特保障一个网站的性能、响应工夫、平安和业务指标。
倡议四：压缩数据
压 缩同样能极大晋升性能。图片、视频、音乐等文件都有十分成熟和高效的压缩规范（JPEG 和 PNG、MPEG-4、MP3），任何一个规范都能够把文件大小放大一个数量级甚至更多。
文本文件，包含 HTML（纯文本和 HTML 标签）、CSS 和 JavaScript 代码，常常在不压缩的状况下传输。压缩这些数据对晋升 Web 利用的感知性能有时候特地显著，尤其是移动用户的网络很慢又不稳固的状况下。
因为文本数据通过对于页面交互可能起到必要的声援作用，而多媒体数据则更多是精益求精的作用。聪慧的内容压缩能够把 HTML、JavaScript、CSS 等文本内容的放大 30% 以上，因而可能相应地缩小加载工夫。
如果你应用 SSL，压缩又能够缩小必须通过 SSL 编码的数据量，从而弥补了压缩这些数据的 CPU 工夫。
压缩数据的办法十分多。比方，倡议六中对于 HTTP/ 2 的局部就形容了一个新鲜的压缩思路，特地适宜首部数据压缩。还有一个对于文本压缩的例子，就是能够在 NGINX 中开启 GZIP 压缩。预压缩文本数据之后，能够应用 gzip_static 指令间接发送.gz 文件。
倡议五：优化 SSL/TLS
越 来越多的网站在应用 Secure Sockets Layer（SSL）及起初的 Transport Layer Security（TLS）协定。SSL/TLS 通过加密从源服务器发送给用户的数据来晋升网站安全性。Google 会晋升应用 SSL/TLS 的网站的搜索引擎排名，将无力地推动这一过程。
只管采用率越来越高，但 SSL/TLS 造成的性能损失也困扰着很多网站。SSL/TLS 拖慢网站的起因有两个。
1、每次关上新连贯的首次握手都必须创立加密密钥，而浏览器应用 HTTP/1.x 对每个 2、服务器建设多个连贯的形式进一步加剧了这个问题。
服务器端加密数据和客户端解密数据的操作同样也是开销。
▼
为了激励人们应用 SSL/TLS，HTTP/ 2 和 SPDY（参见倡议六）的作者将这两个协定设计为只让浏览器针对一次会话建设一个连贯。这样就把 SSL 导致性能升高的两个次要起因之一毁灭掉了。然而，说到优化 SSL/TLS 性能，还是有很多事件可做。
优化 SSL/TLS 的办法因 Web 服务器而异。以 NGINX 为例，NGINX 应用 OpenSSL，运行于一般机器上，可能提供靠近定制机器的性能。NGINX SSL performance 具体介绍了如何将 SSL/TLS 加密和解密的开销降至最低。
此外，这里还有一篇文章，介绍了很多种晋升 SSL/TLS 性能的办法。简略总结一下，波及的技术次要有如下几种。
- 会话缓存。应用 ssl_session_cache 指令开启缓存，缓存每次 SSL/STL 连贯时用到的参数。
- 会话票或 ID。把特定 SSL/TLS 会话的信息保留为一个会话票或 ID，以便连贯重用，而不用从新握手。
- OCSP 封套。通过缓存 SSL/TLS 证书信息缩小握手工夫。
NGINX 和 NGINX Plus 都能够来终止 SSL/TLS，即解决客户端信息的加密和解密，同时与其余服务器放弃明文通信。在 NGINX 或 NGINX Plus 中设置解决 SSL/TLS 终止能够采取这几个步骤。而对于在承受 TCP 连贯的服务器上应用 NGINX Plus 而言，能够参考这里的设置步骤。
倡议六：实现 HTTP/ 2 或 SPDY
已 经应用 SSL/TLS 的站点，如果再应用 HTTP/ 2 或 SPDY 则很可能晋升性能，因为一个连贯只有一次握手。尚未应用 SSL/TLS、HTTP/ 2 和 SPDY 的站点切换到 SSL/TLS（通常会升高性能），从响应速度方面看，可能是一次倒退。点击这里理解 HTTP/ 2 详解。
谷歌 2012 年开始 SPDY 我的项目，致力于在 HTTP/1.x 之上实现更快的速度。HTTP/ 2 则是 IETF 最近批准的基于 SPDY 的规范。SPDY 失去了广泛支持，但很快就将被 HTTP/ 2 取代。
SPDY 和 HTTP/ 2 的关键在于只用一个连贯，而非多个连贯。这一个连贯是多路复用的，因而能够同时承载多个申请和响应。
只维持一个连贯，能够省掉多个连贯所需的设置和治理耗费。而且一个连贯对 SSL 特地重要，因为能够将 SSL/TLS 建设平安连贯所需的握手工夫降至起码。
SPDY 协定要求应用 SSL/TLS，HTTP/ 2 并没有正式要求，但目前所有反对 HTTP/ 2 的浏览器都只会在启用 SSL/TLS 的状况下才会应用它。换句话说，反对 HTTP/ 2 的浏览器只有在网站应用 SSL 且服务器承受 HTTP/ 2 流量的状况下才会应用 HTTP/2。否则，浏览器会基于 HTTP/1.x 通信。
实现了 SPDY 或 HTTP/ 2 之后，域名分片、资源合并、图片精灵等之前针对 HTTP 的性能优化措施就用不着了。因而也能够简化代码和部署。对于 HTTP/ 2 会带来哪些变动，能够参考咱们的这个白皮书。
NGINX 很早就开始反对 SPDY，而且明天应用 SPDY 的大多数站点都在运行 NGIN
X。NGINX 同样率先反对了 HTTP/2，2015 年 9 月，NGINX 开源和 NGINX Plus 开始反对 HTTP/2。
随着时间推移，NGINX 心愿大多数站点启用 SSL 并迁徙到 HTTP/2。这样不仅能够让网站更平安，而且随着新的优化技术不断涌现，也能够通过简略的代码实现更高的性能。
倡议七：降级软件
提 升利用性能的一个简略的办法，就是依据可靠性及性能抉择软件。此外，高质量组件的开发者更可能一直晋升性能和修复问题，因而应用最新的稳固版本是划算。新公布的版本会失去开发者和用户更多的关注，同时也会利用新的编译器优化技术，包含针对新硬件的调优。
绝对旧版本，新公布的稳固版本显著性能更高。保持降级，也能够保障在调优、问题修复和平安警报方面与时俱进。
不降级软件也会障碍利用新能力。比方，HTTP/ 2 目前要求 OpenSSL 1.0.1。从 2016 年下半年开始，HTTP/ 2 会要求 OpenSSL 1.0.2，该版本公布于 2015 年 1 月。
NGINX 用户能够从 NGINX 开源软件的最新版本或 NGINX Plus 开始，它们反对套接字共享、线程池（参见下文），而且都会继续优化性能。因而，检查一下本人的软件，尽量把它们降级到最新的版本。
倡议八：调优 Linux
Linux 是明天大多数 Web 服务器的底层操作系统，作为所有基础设施的根底，Linux 对晋升性能至关重要。默认状况下，很多 Linux 零碎都比拟激进，仅以桌面办公为需要，以占用大量资源为调优指标。对于 Web 利用而言，为达到性能最佳，必定须要从新调优。
Linux 优化因 Web 服务器而异。以 NGINX 为例，能够从以下几方面思考。
存量队列。如果发现有一些连贯得不到解决，能够增大 net.core.somaxconn，即期待 NGINX 解决的最大连接数。如果这个连接数限度过小，应该能够看到谬误音讯，能够逐步提高这个值，直到谬误音讯不再呈现。
- 文件描述符。NGINX 对每个连贯最多应用两个文件描述符。如果零碎服务于很多连贯，可能须要增大 sys.fs.file_max 这个对描述符的零碎级限度，以及 nofile 这个用户文件描述符限度，以反对增大后的负载。
- 长期端口。在作为代理应用时，NGINX 会为每个上游服务器创立长期端口。能够设置 net.ipv4.ip_local_port_range，增大端口值的范畴，以减少可用的端口量。此外，还能够减小 net.ipv4.tcp_fin_timeout 的值，它管制非流动端口开释重用的等待时间，放慢周转。
- 对 NGINX 而言，请参考 NGINX 性能调优指南，理解如何不费吹灰之力将你的 Linux 系统优化为可能反对更大的吞吐量。
倡议九：调优 Web 服务器
无 论应用什么 Web 服务器，都须要针对利用对其调优。以下倡议实用于任何 Web 服务器，但会给出只有 NGINX 的设置阐明。
- 拜访日志。不要每个申请的日志都马上写到磁盘，能够在内存里做个缓存，而后批量定入。对 NGINX 而言，将 buffer=_size_参数增加到 access_log 指令，等内存缓冲区写满后再把日志写到磁盘。如果你增加了 **flush=_time_** 参数，那么缓冲区的内容也会依照指定工夫写入磁盘。
- 缓冲。缓冲用于在内存里保留局部响应，直到缓冲区被填满，能够实现对客户端更无效的响应。无奈写入内存的响应会被写到磁盘，从而升高性能。在 NGINX 的缓冲启用时，能够应用 proxy_buffer_size 和 proxy_buffers 指令来治理它。
- 客户端流动连贯。流动连贯能够缩小工夫耗费，特地是在应用 SSL/TLS 的情下。对 NGINX 而言，能够针对客户端进步 keepalive_requests 的数值，默认值为 100；也能够增大 keepalive_timeout 的值，让流动连贯持续时间更长，从而让后续申请失去更快响应。
- 上游流动连贯。上游连贯，即连贯到应用服务器、数据库服务器的连贯，同样能够从流动连贯的设置中取得益处。对上游连贯来说，能够减少流动连贯，也就是每个工作过程可用的闲暇流动连贯的数量。这样能够增进连贯重用，缩小重开连贯。对于流动连贯的更多信息，请参考这篇博客。
- 限度。限度客户端应用的资源能够晋升性能和安全性。对 NGINX 而言，limit_conn 和 limit_conn_zone 指令限度指定源的连接数，而 limit_rate 限度带宽。这些设置能够避免非法用户“侵吞”资源，同时也有助于避免攻打。limit_req 和 limit_req_zone 指令限度客户端申请。对于到上游服务器的连贯，能够在上游配置区的服务器指令中应用 max_conns 参数，它限度对上游服务器的连贯，避免过载。相干的队列指令会创立一个队列，在 max_conns 限度达到后将指定的申请数保留指定的工夫。
- 工作过程。工作过程负责解决申请。NGINX 采纳基于事件的模型和 OS 相干的机制无效地在工作过程间调配申请。倡议将 worker_processes 的值设置为每个 CPU 一个工作过程。如果须要，大多数零碎都反对进步 worker_connections 的值（默认为 512）。能够通过试验找到最适宜你零碎的这个值。
- 套接字分片。通常，一个套接字监听器向所有工作过程散发新连贯。套按字分片则为每个工作过程都创立一个套接字监听器，由内核在套接字监听器可用时为其指定连贯。这样能够缩小锁争用，晋升多核零碎上的性能。要启用套接字分片，在 listen 指令中蕴含 reuseport 参数。
- 线程池。一个费时的操作会阻塞任何计算机过程。对 Web 服务器软件来说，磁盘拜访可能妨碍很多较快的操作，比方内存中的计算和复制。在应用线程池的状况下，慢操作会被指定给一组独立的工作，而主解决循环会持续运行较快的操作。磁盘操作实现后，后果会返回到主解决循环。在 NGINX 中，read()零碎调用和 sendfile()被转载到了线程池。
提醒 批改任何操作系统及周边设备的设置时，每次只批改一项，而后测试性能。如果该项批改导致了问题，或者并未晋升性能，再改回去。
倡议十：监控实时动静以发现问题和瓶颈
保 存利用高性能的要害是实时监控利用性能。必须实时监控特定设施及相应 Web 基础设施中利用的动静。
监控站点流动少数状况下是被动的，它只通知你产生了什么，至于如何发现和解决问题，则是你本人的事件。
监控能够捕捉以下几种问题：
1、服务器停机
2、服务器不稳，漏解决连贯
3、服务器呈现大面积缓存生效
4、服务器发送的内容不对
New Relic 或 Dynatrace 等全局性的性能监控工具，能够帮咱们监控近程加载页面的工夫，而 NGINX 则能够帮你监控利用交付这一端。利用的性能数据能够通知你优化伎俩什么时候真正给用户带去了不同的体验，以及什么时候须要扩容以满足越来越多的流量。
为了帮忙用户尽快发现问题，NGINX Plus 减少了应用程序体检性能，会报告常常反复呈现的问题。NGINX Plus 还具备 session draining 个性，会在已有工作实现前阻止新连贯，以及慢启动容量，从而让复原的服务器在负载平衡集群中达到应有的速度。应用切当的状况下，衰弱体检会在问题显著影响用户体验之前帮你定位问题，而 session draining 和慢启动则让你替换服务器时不影响感知的性能和在线工夫。这张图展现了 NGINX Plus 内置的实时流动监控的控制板，涵盖了服务器、TCP 连贯和缓存。
论断：10 倍性能晋升
性 能晋升因 Web 利用不同会有微小差别。理论的晋升取决于估算、工夫，以及现有实现的与现实性能的差距。那么怎么让你的利用取得 10 倍的性能晋升呢？
为了帮大家了解每项优化倡议的潜能，上面再针对之前的倡议给出一些施行方针，心愿大家各取所需。
- 反向代理服务器及负载平衡。没有负载平衡或池负载平衡，可能导致极低的性能。增加一个反向代理服务器，比方 NGINX，能够缩小 Web 利用在内存和磁盘之间的往返。负载平衡能够把工作从过载的服务器转移到闲暇的服务器，也便于扩大。这些扭转能极大地晋升性能，与原有的部署形式最差的时候相比，10 倍性能晋升是很轻松的事，即便不到 10 倍那也在总体上有了质的飞跃。
- 缓存动静和动态内容。如果你的 Web 服务器同时又充当了应用服务器，那么通过缓存动静内容就能够达到高峰期 10 倍的性能晋升。缓存动态内容也能够有几倍的性能晋升。
- 压缩数据。应用 JPEG、PNG、MPEG- 4 以及 MP3 等压缩格局能显著晋升性能。如果这些伎俩都用上了，那么压缩的文本数据（代码及 HTML）能够将初始页面加载工夫晋升两倍。
- 优化 SSL/TLS。平安握手对性能有很大影响，因而对其进行优化能够让首次响应放慢两倍，对于文本内容较多的网站尤其如此。优化 SSL/TLS 下的媒体文件带来的性能晋升很小。
- 施行 HTTP/ 2 和 SPDY。在应用 SSL/TLS 的状况下，这两个协定有可能晋升网站的整体性能。
- 调优 Linux 和 Web 服务器。应用优化的缓冲策略、应用流动连贯，将耗时的工作转载至独立的线程池，能够显著晋升性能。比方线程池能够将磁盘操作密集性工作的性能晋升至多一个数量级。
心愿大家本人多尝试以上技术，也心愿大家分享本人在性能改良方面的心得。