关于php:在-Swoole-服务器程序中如何实现压力反馈

服务端程序在遇到高并发申请时，一旦超过程序所能解决的极限，可能会导致解体，引发线上服务的大规模雪崩。压力反馈（Back Pressure）是一种由服务端被动告知客户端本身资源有余，无奈提供服务的一种伎俩。在 Web 服务中能够返回 HTTP 503（Service Unavailable）告知客户端以后服务器处于比拟高的负载状态。这时客户端能够抉择：

期待肯定工夫后进行重试
切换其余负载较低的节点或者服务器上
临时停止使用此服务，对相干的业务进行降级解决

在传统 Nginx+PHP-FPM 服务端程序中，底层有 3 个要害的配置影响压力反馈：

php-fpm.conf 中 pm.max_chindren 配置的最大过程数，如配置为 200 示意最大启动 200 个过程，一旦超过最大过程数，新的申请将不会被 Accept，而是进入到 Listen Backlog 队列中进行排队，直到有闲暇过程才会从队列弹出一个新的申请进行解决
php-fpm.conf 中 listen.backlog 配置 Listen Backlog 队列长度，如配置为 512，则示意若没有闲暇过程时，最大容许有 512 个申请排队
内核参数 net.core.somaxconn，listen.backlog 设置的数值不肯定是无效的，这取决于内核参数 net.core.somaxconn 的设置，理论队列长度为 min(listen.backlog, net.core.somaxconn)，例如 net.core.somaxconn=128、listen.backlog=512，理论的队列长度为 128 而不是 512

因而在 Nginx+PHP-FPM 程序中，最大并发为 pm.max_chindren + min(listen.backlog, net.core.somaxconn)，一旦超过之后，就会回绝新的申请，返回 502 谬误，向客户端反馈压力。理论我的项目中，该当设置为一个适合的值，不宜过大或过小。否则就出产生客户端等工夫过长，低负载拒绝请求两种问题。

Nginx 无奈辨别 502 和 503 谬误，这是一个毛病

因为 Swoole 是齐全异步的架构，并发能力更强，在机器资源未耗尽的前提下，是能够有限承受、解决申请的。相比 Nginx+PHP-FPM 不好实现压力反馈，个别须要框架层面或者应用层代码中自行抛出 503 谬误。Swoole 底层提供了多项配置能够解决一部分问题。

限度最大连接数，超过最大连接数之后，会回绝新的连贯。返回 502 谬误给 Gateway

限度最大过程数，Swoole 会在接管到客户端申请时创立一个新的协程进行解决，超过最大协程数之后，就会向客户端发送 HTTP 503 谬误

限度最大并发 HTTP 申请数，以后正在解决的申请数超过 max_concurrency 后，底层会立刻向客户端发送 HTTP 503 谬误，并敞开连贯。

use Swoole\Http\Server;

$http = new Server('127.0.0.1', 9501);

$http->set([
    'max_connection' => 10000,
    'max_coroutine' => 50000,
    'max_concurrency' => 500,
]);

$http->on('start', function ($server) {echo "Swoole http server is started at http://127.0.0.1:9501\n";});

$http->on('request', function ($request, $response) {Co::sleep(0.1); // sleep 100ms 模仿申请解决的过程
    $response->header('Content-Type', 'text/plain');
    $response->end('Hello World');
});

$http->start();

启动服务器后应用 ab 或 wrk 压测。

wrk -c 1000 -d 5s http://127.0.0.1:9501/
Running 5s test @ http://127.0.0.1:9501/
  2 threads and 1000 connections
  Thread Stats   Avg      Stdev     Max   +/- Stdev
    Latency    70.89ms  132.48ms   1.10s    95.39%
    Req/Sec     7.99k     3.68k   13.03k    66.32%
  77521 requests in 5.09s, 5.41MB read
  Socket errors: connect 0, read 55182, write 0, timeout 0
  Non-2xx or 3xx responses: 55182
Requests/sec:  15242.49
Transfer/sec:      1.06MB

能够看到 5 秒 之内，共发送了 77521 个申请，然而有 55182 个申请返回了 503。这部分申请就是超过负载后压力反馈的后果。

关于php:在-Swoole-服务器程序中如何实现压力反馈

为什么要反馈压力

PHP-FPM 如何反馈压力

Swoole 程序如何反馈压力

max_connection

max_coroutine

max_concurrency