简介
分布式锁在分布式系统中非常常见,比如对公共资源进行操作,如卖车票,同一时刻只能有一个节点将某个特定座位的票卖出去;如避免缓存失效带来的大量请求访问数据库的问题
设计
这非常像一道面试题:如何实现一个分布式锁?在简介中,基本上已经对这个分布式工具提出了一些需求,你可以不着急看下面的答案,自己思考一下分布式锁应该如何实现?
首先我们需要一个简单的答题套路:需求分析、系统设计、实现方式、缺点不足
需求分析
1. 能够在高并发的分布式的系统中应用 2. 需要实现锁的基本特性:一旦某个锁被分配出去,那么其他的节点无法再进入这个锁所管辖范围内的资源;失效机制避免无限时长的锁与死锁 3. 进一步实现锁的高级特性和 JUC 并发工具类似功能更好:可重入、阻塞与非阻塞、公平与非公平、JUC 的并发工具(Semaphore,CountDownLatch, CyclicBarrier)
系统设计
转换成设计是如下几个要求:
1. 对加锁、解锁的过程需要是高性能、原子性的 2. 需要在某个分布式节点都能访问到的公共平台上进行锁状态的操作所以,我们分析出系统的构成应该要有锁状态存储模块、连接存储模块的连接池模块、锁内部逻辑模块
锁状态存储模块
分布式锁的存储有三种常见实现,因为能满足实现锁的这些条件:高性能加锁解锁、操作的原子性、是分布式系统中不同节点都可以访问的公共平台:
1. 数据库(利用主键唯一规则、MySQL 行锁)2. 基于 Redis 的 NX、EX 参数 3.Zookeeper 临时有序节点
由于锁常常是在高并发的情况下才会使用到的分布式控制工具,所以使用数据库实现会对数据库造成一定的压力,连接池爆满问题,所以不推荐数据库实现;我们还需要维护 Zookeeper 集群,实现起来还是比较复杂的。如果不是原有系统就依赖 Zookeeper,同时压力不大的情况下。一般不使用 Zookeeper 实现分布式锁。所以缓存实现分布式锁还是比较常见的,因为缓存比较轻量、缓存的响应快、吞吐高、还有自动失效的机制保证锁一定能释放。
连接池模块
可使用 JedisPool 实现,如果后期性能不佳,可考虑参照 HikariCP 自己实现
锁内部逻辑模块
基本功能:加锁、解锁、超时释放高级功能:可重入、阻塞与非阻塞、公平与非公平、JUC 并发工具功能
实现方式
存储模块使用 Redis,连接池模块暂时使用 JedisPool,锁的内部逻辑将从基本功能开始,逐步实现高级功能,下面就是各种功能实现的具体思路与代码了。
加锁、超时释放
NX 是 Redis 提供的一个原子操作,如果指定 key 存在,那么 NX 失败,如果不存在会进行 set 操作并返回成功。我们可以利用这个来实现一个分布式的锁,主要思路就是,set 成功表示获取锁,set 失败表示获取失败,失败后需要重试。再加上 EX 参数可以让该 key 在超时之后自动删除。
下面是一个阻塞锁的加锁操作,将循环去掉并返回执行结果就能写出非阻塞锁(就不粘出来了):
public void lock(String key, String request, int timeout) throws InterruptedException {
Jedis jedis = jedisPool.getResource();
while (timeout >= 0) {
String result = jedis.set(LOCK_PREFIX + key, request, SET_IF_NOT_EXIST, SET_WITH_EXPIRE_TIME, DEFAULT_EXPIRE_TIME);
if (LOCK_MSG.equals(result)) {
jedis.close();
return;
}
Thread.sleep(DEFAULT_SLEEP_TIME);
timeout -= DEFAULT_SLEEP_TIME;
}
}
但超时时间这个参数会引发一个问题,如果超过超时时间但是业务还没执行完会导致并发问题,其他进程就会执行业务代码,至于如何改进,下文会讲到。
解锁
最常见的解锁代码就是直接使用 jedis.del() 方法删除锁,这种不先判断锁的拥有者而直接解锁的方式,会导致任何客户端都可以随时进行解锁,即使这把锁不是它的。
比如可能存在这样的情况:客户端 A 加锁,一段时间之后客户端 A 解锁,在执行 jedis.del() 之前,锁突然过期了,此时客户端 B 尝试加锁成功,然后客户端 A 再执行 del() 方法,则将客户端 B 的锁给解除了。
所以我们需要一个具有原子性的方法来解锁,并且要同时判断这把锁是不是自己的。由于 Lua 脚本在 Redis 中执行是原子性的,所以可以写成下面这样:
public boolean unlock(String key, String value) {
Jedis jedis = jedisPool.getResource();
String script = “if redis.call(‘get’, KEYS[1]) == ARGV[1] then return redis.call(‘del’, KEYS[1]) else return 0 end”;
Object result = jedis.eval(script, Collections.singletonList(LOCK_PREFIX + key), Collections.singletonList(value));
jedis.close();
return UNLOCK_MSG.equals(result);
}
来用测试梭一把
此时我们可以来写个测试来试试有没有达到我们想要的效果,上面的代码都写在 src/main/java 下的 RedisLock 里,下面的测试代码需要写在 src/test/java 里,因为单元测试只是测试代码的逻辑,无法测试真实连接 Redis 之后的表现,也没办法体验到被锁住带来的紧张又刺激的快感,所以本项目中主要以集成测试为主,如果你想试试带 Mock 的单元测试,可以看看这篇文章。
那么集成测试会需要依赖一个 Redis 实例,为了避免你在本地去装个 Redis 来跑测试,我用到了一个嵌入式的 Redis 工具以及如下代码来帮我们 New 一个 Redis 实例,尽情去连接吧 ~ 代码可参看 EmbeddedRedis 类。另外,集成测试使用到了 Spring,是不是倍感亲切?相当于也提供了一个集成 Spring 的例子。
@Configuration
public class EmbeddedRedis implements ApplicationRunner {
private static RedisServer redisServer;
@PreDestroy
public void stopRedis() {
redisServer.stop();
}
@Override
public void run(ApplicationArguments applicationArguments) {
redisServer = RedisServer.builder().setting(“bind 127.0.0.1”).setting(“requirepass test”).build();
redisServer.start();
}
}
对于需要考虑并发的代码下的测试是比较难且比较难以达到检测代码质量的目的的,因为测试用例会用到多线程的环境,不一定能百分百通过且难以重现,但本项目的分布式锁是一个比较简单的并发场景,所以我会尽可能保证测试是有意义的。
我第一个测试用例是想测试一下锁的互斥能力,能否在 A 拿到锁之后,B 就无法立即拿到锁:
@Test
public void shouldWaitWhenOneUsingLockAndTheOtherOneWantToUse() throws InterruptedException {
Thread t = new Thread(() -> {
try {
redisLock.lock(lock1Key, UUID.randomUUID().toString());
} catch (InterruptedException e) {
e.printStackTrace();
}
});
t.start();
t.join();
long startTime = System.currentTimeMillis();
redisLock.lock(lock1Key, UUID.randomUUID().toString(), 3000);
assertThat(System.currentTimeMillis() – startTime).isBetween(2500L, 3500L);
}
但这仅仅测试了加锁操作时候的互斥性,但是没有测试解锁是否会成功以及解锁之后原来等待锁的进程会继续进行,所以你可以参看一下 testLockAndUnlock 方法是如何测试的。不要觉得写测试很简单,想清楚测试的各种情况,设计测试情景并实现并不容易。然而以后写的测试不会单独拿出来讲,毕竟本文想关注的还是分布式锁的实现嘛。
超时释放导致的并发问题
问题:如果 A 拿到锁之后设置了超时时长,但是业务执行的时长超过了超时时长,导致 A 还在执行业务但是锁已经被释放,此时其他进程就会拿到锁从而执行相同的业务,此时因为并发导致分布式锁失去了意义。
如果可以通过在 key 快要过期的时候判断下任务有没有执行完毕,如果还没有那就自动延长过期时间,那么确实可以解决并发的问题,但是超时时长也就失去了意义。所以个人认为最好的解决方式是在锁超时的时候通知服务器去停掉超时任务,但是结合上 Redis 的消息通知机制不免有些过重了
所以这个问题上,分布式锁的 Redis 实现并不靠谱。本人在 Redisson 中也没有找到解决方式。或者使用 Zookepper 将超时消息发送给客户端去执行超时情况下的业务逻辑。
单点故障导致的并发问题
建立主从复制架构,但是还是会由于主节点挂掉导致某些数据还没同步就已经丢失,所以推荐多主架构,有 N 个独立的 master 服务器,客户端会向所有的服务器发送获取锁的操作。
可以继续优化的地方
实现类似 JUC 中的 Semaphore、CountDownLatch、公平锁非公平锁、读写锁功能,可参考 Redisson 的实现参考 RedLock 方案,提供多主配置方式与加锁解锁实现使用订阅解锁消息与 Semaphore 代替 Thread.sleep() 避免时间浪费,可参考 Redisson 中 RedissonLock 的 lockInterruptibly 方法