关于go:gozero微服务实战系列七请求量这么高该如何优化

前两篇文章咱们介绍了缓存应用的各种最佳实际，首先介绍了缓存应用的根本姿态，别离是如何利用 go-zero 主动生成的缓存和逻辑代码中缓存代码如何写，接着解说了在面对缓存的穿透、击穿、雪崩等常见问题时的解决方案，最初还重点解说了如何保障缓存的一致性。因为缓存对于高并发服务来说切实是太重要了，所以这篇文章咱们还会持续一起学习下缓存相干的常识。

本地缓存

当咱们遇到极其热点数据查问的时候，这个时候就要思考本地缓存了。热点本地缓存次要部署在应用服务器的代码中，用于阻挡热点查问对于 Redis 等分布式缓存或者数据库的压力。

在咱们的商城中，首页 Banner 中会放一些广告商品或者举荐商品，这些商品的信息由经营在治理后盾录入和变更。这些商品的申请量十分大，即便是 Redis 也很难扛住，所以这里咱们能够应用本地缓存来进行优化。

在 product 库中先建一张商品经营表 product_operation，为了简化只保留必要字段，product_id 为推广经营的商品 id，status 为经营商品的状态，status 为 1 的时候会在首页 Banner 中展现该商品。

CREATE TABLE `product_operation` (
  `id` bigint unsigned NOT NULL AUTO_INCREMENT,
  `product_id` bigint unsigned NOT NULL DEFAULT 0 COMMENT '商品 id',
  `status` int NOT NULL DEFAULT '1' COMMENT '经营商品状态 0- 下线 1- 上线',
  `create_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '创立工夫',
  `update_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '更新工夫',
  PRIMARY KEY (`id`),
  KEY `ix_update_time` (`update_time`)
) ENGINE=InnoDB  DEFAULT CHARSET=utf8mb4 COMMENT='商品经营表';

本地缓存的实现比较简单，咱们能够应用 map 来本人实现，在 go-zero 的 collection 中提供了 Cache 来实现本地缓存的性能，咱们间接拿来用，反复造轮子从来不是一个理智的抉择，localCacheExpire 为本地缓存过期工夫，Cache 提供了 Get 和 Set 办法，应用非常简单

localCache, err := collection.NewCache(localCacheExpire)

先从本地缓存中查找，如果命中缓存则间接返回。没有命中缓存的话须要先从数据库中查问经营位商品 id，而后再聚合商品信息，最初回塞到本地缓存中。具体代码逻辑如下：

func (l *OperationProductsLogic) OperationProducts(in *product.OperationProductsRequest) (*product.OperationProductsResponse, error) {opProducts, ok := l.svcCtx.LocalCache.Get(operationProductsKey)
  if ok {return &product.OperationProductsResponse{Products: opProducts.([]*product.ProductItem)}, nil
  }

  pos, err := l.svcCtx.OperationModel.OperationProducts(l.ctx, validStatus)
  if err != nil {return nil, err}
  var pids []int64
  for _, p := range pos {pids = append(pids, p.ProductId)
  }
  products, err := l.productListLogic.productsByIds(l.ctx, pids)
  if err != nil {return nil, err}
  var pItems []*product.ProductItem
  for _, p := range products {
    pItems = append(pItems, &product.ProductItem{
      ProductId: p.Id,
      Name:      p.Name,
    })
  }
  l.svcCtx.LocalCache.Set(operationProductsKey, pItems)
  return &product.OperationProductsResponse{Products: pItems}, nil
}

应用 grpurl 调试工具申请接口，第一次申请 cache miss 后，前面的申请都会命中本地缓存，等到本地缓存过期后又会从新回源 db 加载数据到本地缓存中

~ grpcurl -plaintext -d '{}' 127.0.0.1:8081 product.Product.OperationProducts
{
  "products": [
    {
      "productId": "32",
      "name": "电风扇 6"
    },
    {
      "productId": "31",
      "name": "电风扇 5"
    },
    {
      "productId": "33",
      "name": "电风扇 7"
    }
  ]
}

留神，并不是所有信息都实用于本地缓存，本地缓存的特点是申请量超高，同时业务上可能容许肯定的不统一，因为本地缓存个别不会被动做更新操作，须要等到过期后从新回源 db 后再更新。所以在业务中要视状况而定看是否须要应用本地缓存。

自动识别热点数据

首页 Banner 场景是由经营人员来配置的，也就是咱们能提前晓得可能产生的热点数据，但有些状况咱们是不能提前预知数据会成为热点的。所以就须要咱们能自适应地主动的辨认这些热点数据，而后把这些数据晋升为本地缓存。

咱们保护一个滑动窗口，比方滑动窗口设置为 10s，就是要统计这 10s 内有哪些 key 被高频拜访，一个滑动窗口中对应多个 Bucket，每个 Bucket 中对应一个 map，map 的 key 为商品的 id，value 为商品对应的申请次数。接着咱们能够定时的 (比方 10s) 去统计以后所有 Buckets 中的 key 的数据，而后把这些数据导入到大顶堆中，轻而易举的能够从大顶堆中获取 topK 的 key，咱们能够设置一个阈值，比方在一个滑动窗口工夫内某一个 key 拜访频次超过 500 次，就认为该 key 为热点 key，从而主动地把该 key 降级为本地缓存。

缓存应用技巧

上面介绍一些缓存应用的小技巧

• key 的命名要尽量易读，即见名知意，在易读的前提下长度要尽可能的小，以缩小资源的占用，对于 value 来说能够用 int 就尽量不要用 string，对于小于 N 的 value，redis 外部有 shared_object 缓存。
• 在 redis 应用 hash 的状况下进行 key 的拆分，同一个 hash key 会落到同一个 redis 节点，hash 过大的状况下会导致内存以及申请散布的不平均，思考对 hash 进行拆分为小的 hash，使得节点内存平均防止单节点申请热点。
• 为了防止不存在的数据申请，导致每次申请都缓存 miss 间接打到数据库中，进行空缓存的设置。
• 缓存中须要存对象的时候，序列化尽量应用 protobuf，尽可能减少数据大小。
• 新增数据的时候要保障缓存务必存在的状况下再去操作新增，应用 Expire 来判断缓存是否存在。
• 对于存储每日登录场景的需要，能够应用 BITSET，为了防止单个 BITSET 过大或者热点，能够进行 sharding。
• 在应用 sorted set 的时候，防止应用 zrange 或者 zrevrange 返回过大的汇合，复杂度较高。
• 在进行缓存操作的时候尽量应用 PIPELINE，但也要留神防止汇合过大。
• 防止超大的 value。
• 缓存尽量要设置过期工夫。
• 慎用全量操作命令，比方 Hash 类型的 HGETALL、Set 类型的 SMEMBERS 等，这些操作会对 Hash 和 Set 的底层数据结构进行全量扫描，如果数据量较多的话，会阻塞 Redis 主线程。
• 获取汇合类型的全量数据能够应用 SSCAN、HSCAN 等命令分批返回汇合中的数据，缩小对主线程的阻塞。
• 慎用 MONITOR 命令，MONITOR 命令会把监控到的内容继续写入输入缓冲区，如果线上命令操作很多，输入缓冲区很快就会溢出，会对 Redis 性能造成影响。
• 生产环境禁用 KEYS、FLUSHALL、FLUSHDB 等命令。

结束语

本篇文章介绍了如何应用本地热点缓存应答超高的申请，热点缓存又分为已知的热点缓存和未知的热点缓存。已知的热点缓存比较简单，从数据库中提前加载到内存中即可，未知的热点缓存咱们须要自适应的辨认出热点的数据，而后把这些热点的数据降级为本地缓存。最初介绍了一些理论生产中缓存应用的一些小技巧，在生产环境中要活灵便用尽量避免问题的产生。

心愿本篇文章对你有所帮忙，谢谢。

每周一、周四更新

代码仓库: https://github.com/zhoushuguang/lebron

我的项目地址

https://github.com/zeromicro/go-zero

欢送应用 go-zero 并 star 反对咱们！

微信交换群

关注『微服务实际 』公众号并点击 交换群 获取社区群二维码。