处理高并发的一般思路

前言
今天看见有人聊目前系统有2亿的PV,该如何优化?当我看到这个话题的时候,突然在想自己工作中也遇到了不少高并发的场景了,所以即兴发挥,在这里简单总结和分享下,欢迎指正和补充。
正文
读操作
关于读,我们一般遵循如下优先级:

优先级
技术方案
说明
示例

最高
尽可能静态化
对实时性要去不高的数据,尽可能全走CDN
例如获取基础商品信息


就近使用内存
优先级服务器内存、远程内存服务
例如秒杀、抢购库存(优先分配库存到服务器内存,其次远程内存服务<又涉及额外网络IO>)

极低
数据库(能不读就不要读)
连接池、sql优化
常见业务

写操作
关于写,我们一般会按照数据的一致性要求级别来看:

数据一致性要求
技术方案

不高
先写内存(优先级从服务器内存到远程内存服务) 再异步储存


同步完成最关键的任务 异步保证其他任务最终成功

削峰限流
从简单到复杂:

简单程度
技术方案

最简单
百分比流量拒绝(随机、没有先到先得不够公平)

简单
原子操作限流(优先级使用服务器内存、其次远程内存服务)

稍麻烦
队列限流(先到先得,公平)

服务稳定性
在高并发的场景,有时候为了保证核心业务的正常进行,我们需要对一些次要的业务进行服务降级。简单的降级方案如下:

配置开关降级:手动进行配置开关降级
定时开关降级:自动定时降级

系统架构
关于系统架构,不用想的太复杂,简单的拆离此业务即可。
运维架构
部署层面,尽可能的把此类服务单独部署。
武器
“工欲善其事,必先利其器”,处理高并发我们当然少不了好的武器。以下是高并发“三剑客”:

技术名词
说明

异步
异步回调,层层回调似灾难(Promise也是很臃肿的链式代码)

epoll
IO多路复用,nginx/redis方案

协程
轻量,用户态调度高并发能力

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

这个站点使用 Akismet 来减少垃圾评论。了解你的评论数据如何被处理