关于go-zero:gozero-组件分析之-Breaker

概述

熔断机制是一种微服务爱护机制。当某个微服务呈现故障或者异样时，通过熔断机制，能够避免故障或异样扩散到整个微服务零碎中，从而防止整个微服务零碎被拖垮，熔断机制的大抵流程是（以下流程基于 go-zero 熔断器为背景）：

1. 指标采集：熔断器通过一直监测服务的申请和响应来收集指标，这些指标蕴含但不限于响应工夫，错误率，超时率等。
2. 阈值设定：熔断器通过指标来计算出阈值，当指标超过阈值时，熔断器会关上。
3. 熔断状态管制：个别熔断器都有 3 个状态，熔断开启，熔断复原，熔断半开：
   3.1 熔断开启：当服务的指标超过设定的阈值时，熔断机制将服务切换到熔断状态。在熔断状态下，服务将进行接管新的申请，并立刻返回谬误响应，而不会进行理论的业务逻辑解决。
   3.2 熔断复原：一旦服务进入熔断状态，熔断机制会设定一个复原工夫窗口，在该窗口内不再接管新的申请。在这段时间内，零碎能够尝试修复服务或期待服务主动复原。
   3.3 半开状态：在熔断复原工夫窗口完结后，熔断机制将服务切换到半开状态。在半开状态下，零碎会尝试发送一部分申请给服务，以检测其是否曾经恢复正常。如果这些申请胜利响应，那么服务将被认为是恢复正常，并持续接管新的申请。否则，服务将从新进入熔断状态。
   但在 go-zero 中并非齐全如此，go-zero 中只有熔断敞开，熔断触发开启状态，为什么是熔断触发开启，在 go-zero 中，熔断指标达到设定阈值后，并不是间接拦挡所有申请，而是有肯定的概率拦挡申请，这并不是说他就没有熔断复原和熔断半开状态，只是 go-zero 中熔断器将这 2 个状态奇妙的用滑动窗口来实现了。

go-zero 熔断器时序图

源码解析

在 go-zero 中，Breaker 是一个接口，其接口定义如下：

Breaker interface {Name() string
   Allow() (Promise, error)
   Do(req func () error) error
   DoWithAcceptable(req func () error, acceptable Acceptable) error
   DoWithFallback(req func () error, fallback func (err error) error) error
   DoWithFallbackAcceptable(req func () error, fallback func (err error) error, acceptable Acceptable) error
}

Breaker 接口定义了 6 个办法，提供了 2 中对熔断器管制执行的机制：

1. Allow 办法抛出了一个 Promise 句柄，容许用户自行对熔断指标进行管制，采集指标能够依据用户需要抉择申请时延、错误码等，且熔断触发后须要执行的逻辑也有用户自行管制。如 go-zero
   中 rest 中熔断中间件的用法：

   func BreakerHandler(method, path string, metrics *stat.Metrics) func(http.Handler) http.Handler {brk := breaker.NewBreaker(breaker.WithName(strings.Join([]string{method, path}, breakerSeparator)))
    return func(next http.Handler) http.Handler {return http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {promise, err := brk.Allow()// 熔断执行逻辑，用户自行管制
            if err != nil {metrics.AddDrop()
                logx.Errorf("[http] dropped, %s - %s - %s",
                    r.RequestURI, httpx.GetRemoteAddr(r), r.UserAgent())
                w.WriteHeader(http.StatusServiceUnavailable)
                return
            }
   
            cw := &response.WithCodeResponseWriter{Writer: w}
            defer func() {// 熔断指标采集，用户自行管制
                if cw.Code < http.StatusInternalServerError {promise.Accept()
                } else {promise.Reject(fmt.Sprintf("%d %s", cw.Code, http.StatusText(cw.Code)))
                }
            }()
            next.ServeHTTP(cw, r)
        })
    }
   }

2. DoXxx 办法则是另一个中熔断器管制机制，其只能通过错误码来进行指标采集，当然，用户是能够依据错误码来管制哪些错误码是要退出到指标外面的，除此外，
   函数执行体也是用用户告知到熔断器中，熔断器会在熔断未触发的状况下执行函数体，如果熔断触发，则会执行熔断器中的逻辑。如返回熔断谬误。

DoXxx 办法在底层逻辑最终都是调用一个根底办法，只是依据入参的不同而裸露了不同的函数：

doReq(req func() error, fallback func(err error) error, acceptable Acceptable) error

咱们来看一下 doReq 办法的一个流程图：

func (b *googleBreaker) doReq(req func() error, fallback func(err error) error, acceptable Acceptable) error {
    // 判断熔断器是否开启
    if err := b.accept(); err != nil {
        if fallback != nil {return fallback(err)
        }

        return err
    }

    // 函数异样退出，上报失败指标
    defer func() {if e := recover(); e != nil {b.markFailure()
            panic(e)
        }
    }()

    // 执行用户函数，并通过函数执行返回的错误信息由用户判断是否为可承受的谬误
    // 上报指标
    err := req()
    if acceptable(err) {b.markSuccess()
    } else {b.markFailure()
    }

    return err
}

熔断器状态判断

判断熔断器是否开启是依据以后窗口的历史指标来计算的，这里采纳了 google SRE 外面的抛弃比例算法，当抛弃比例为 0 时，则无需触发熔断，否则
随机触发熔断机制。

func (b *googleBreaker) accept() error {accepts, total := b.history()
    weightedAccepts := b.k * float64(accepts)
    // https://landing.google.com/sre/sre-book/chapters/handling-overload/#eq2101
    dropRatio := math.Max(0, (float64(total-protection)-weightedAccepts)/float64(total+1))
    if dropRatio <= 0 {return nil}

    if b.proba.TrueOnProba(dropRatio) {return ErrServiceUnavailable}

    return nil
}

func (b *googleBreaker) history() (accepts, total int64) {b.stat.Reduce(func(b *collection.Bucket) {accepts += int64(b.Sum)
      total += b.Count
   })

    return
}

指标上报

指标上报是将用户执行后的申请谬误返回给用户，用户能够依据错误码指定改错误码是否纳入失败指标

// 标记胜利一次
func (b *googleBreaker) markSuccess() {b.stat.Add(1)
}

// 标记失败一次
func (b *googleBreaker) markFailure() {b.stat.Add(0)
}

总结

熔断器的实现起始就是一个指标采集 + 指标计算的过程，而后用户能够依据指标计算结果来决定是否触发熔断，其中难点还是在于指标统计过程，这个过程是用滑动窗口来进行指标采集的，对于滑动窗口算法这里就不做过多的介绍了。