深入理解 Redis 缓存击穿(热点 Key)问题的产生原因,详解互斥锁和逻辑过期两种解决方案的原理、优缺点对比及完整代码实现。

缓存击穿问题以及解决思路
11 mins
2265 words
Loading views

什么是缓存击穿h2

缓存击穿问题也叫热点 Key 问题,就是一个被高并发访问并且缓存重建业务较复杂的 key 突然失效了,无数的请求访问会在瞬间给数据库带来巨大的冲击。

image.png

逻辑分析:假设线程1在查询缓存之后,本来应该去查询数据库,然后把这个数据重新加载到缓存的,此时只要线程1走完这个逻辑,其他线程就都能从缓存中加载这些数据了。但是假设在线程1没有走完的时候,后续的线程2、线程3、线程4同时过来访问当前这个方法,那么这些线程都不能从缓存中查询到数据,那么他们就会同一时刻来访问查询缓存,都没查到,接着同一时间去访问数据库,同时的去执行数据库代码,对数据库访问压力过大。

重建缓存触发场景

缓存过期:缓存数据设置了过期时间,当过期时间到达后,缓存失效,需要重建。比如在 Redis 中,设置了某个 key 的过期时间为 1 小时,1 小时后该 key 对应的缓存数据就会失效,需要重新从数据库获取数据并写入缓存。

解决方案h2

方案一:互斥锁h3

使用互斥锁,确保同一时间只有一个线程重建缓存

因为锁能实现互斥性。假设线程过来,只能一个人一个人的来访问数据库,从而避免对于数据库访问压力过大,但这也会影响查询的性能,因为此时会让查询的性能从并行变成了串行,我们可以采用 tryLock 方法 + double check 来解决这样的问题。

假设现在线程1过来访问,他查询缓存没有命中,但是此时他获得到了锁的资源,那么线程1就会一个人去执行逻辑,假设现在线程2过来,线程2在执行过程中,并没有获得到锁,那么线程2就可以进行到休眠,直到线程1把锁释放后,线程2获得到锁,然后再来执行逻辑,此时就能够从缓存中拿到数据了。

image.png

方案二:逻辑过期h3

采用逻辑过期的方式,在缓存中存储数据时附加一个过期时间,当查询到缓存过期时,先返回旧数据,同时异步重建缓存

方案分析:我们之所以会出现这个缓存击穿问题,主要原因是在于我们对 key 设置了过期时间,假设我们不设置过期时间,其实就不会有缓存击穿的问题,但是不设置过期时间,这样数据不就一直占用我们内存了吗,我们可以采用逻辑过期方案。

我们把过期时间设置在 Redis 的 value 中,注意:这个过期时间并不会直接作用于 Redis,而是我们后续通过逻辑去处理。假设线程1去查询缓存,然后从 value 中判断出来当前的数据已经过期了,此时线程1去获得互斥锁,那么其他线程会进行阻塞,获得了锁的线程他会开启一个线程去进行以前的重构数据的逻辑,直到新开的线程完成这个逻辑后,才释放锁,而线程1直接进行返回,假设现在线程3过来访问,由于线程2持有着锁,所以线程3无法获得锁,线程3也直接返回数据,只有等到新开的线程2把重建数据构建完后,其他线程才能走返回正确的数据。

这种方案巧妙在于,异步的构建缓存,缺点在于在构建完缓存之前,返回的都是脏数据。

image.png

方案对比h3

方案优点缺点
互斥锁数据一致性好,实现简单,无额外内存消耗存在死锁风险,串行执行影响性能
逻辑过期线程无需等待,性能好数据一致性差(可能返回脏数据),实现复杂
image.png

互斥锁方案实现h2

核心思路:相较于原来从缓存中查询不到数据后直接查询数据库而言,现在的方案是进行查询之后,如果从缓存没有查询到数据,则进行互斥锁的获取,获取互斥锁后,判断是否获得到了锁,如果没有获得到,则休眠,过一会再进行尝试,直到获取到锁为止,才能进行查询。

如果获取到了锁的线程,再去进行查询,查询后将数据写入 Redis,再释放锁,返回数据,利用互斥锁就能保证只有一个线程去执行操作数据库的逻辑,防止缓存击穿。

image.png

锁操作工具方法h3

核心思路就是利用 Redis 的 SETNX 方法来表示获取锁,该方法含义是 Redis 中如果没有这个 key,则插入成功,返回1,在 stringRedisTemplate 中返回 true;如果有这个 key 则插入失败,返回0,在 stringRedisTemplate 返回 false。我们可以通过 true 或者 false 来表示是否有线程成功插入 key,成功插入 key 的线程我们认为他就是获得到锁的线程。

private boolean tryLock(String key) {
Boolean flag = stringRedisTemplate.opsForValue().setIfAbsent(key, "1", 10, TimeUnit.SECONDS);
return BooleanUtil.isTrue(flag);
}
private void unlock(String key) {
stringRedisTemplate.delete(key);
}

完整实现代码h3

public Shop queryWithMutex(Long id) {
// 从 Redis 查询商铺缓存
String shopKey = CACHE_SHOP_KEY + id;
String shopJson = stringRedisTemplate.opsForValue().get(shopKey);
// 判断是否存在
if (StrUtil.isNotBlank(shopJson)) {
// 存在,直接返回
return JSONUtil.toBean(shopJson, Shop.class);
}
// 判断命中的是否是空值
if (shopJson != null) {
return null;
}
// 缓存未命中,获取锁,成功则查询数据库,失败则休眠重试
String lockKey = LOCK_SHOP_KEY;
Shop shop = null;
try {
boolean isLock = tryLock(lockKey);
if (!isLock) {
// 失败,休眠并重试
Thread.sleep(50);
return queryWithMutex(id);
}
// 成功,根据 id 查询数据库
// 模拟耗时
Thread.sleep(200);
shop = getById(id);
// 判断是否为空
if (shop == null) {
// 将空值写入 Redis
stringRedisTemplate.opsForValue().set(shopKey, "", CACHE_NULL_TTL, TimeUnit.MINUTES);
return null;
}
// 存在,写入 Redis
stringRedisTemplate.opsForValue().set(shopKey, JSONUtil.toJsonStr(shop), RedisConstants.CACHE_SHOP_TTL, TimeUnit.MINUTES);
} catch (InterruptedException e) {
throw new RuntimeException(e);
} finally {
// 释放锁
unlock(lockKey);
}
// 返回
return shop;
}

逻辑过期方案实现h2

需求:修改根据 id 查询商铺的业务,基于逻辑过期方式来解决缓存击穿问题。

思路分析:当用户开始查询 Redis 时,判断是否命中,如果没有命中则直接返回空数据,不查询数据库,而一旦命中后,将 value 取出,判断 value 中的过期时间是否满足,如果没有过期,则直接返回 Redis 中的数据,如果过期,则在开启独立线程后直接返回之前的数据,独立线程去重构数据,重构完成后释放互斥锁。

image.png

现在 Redis 中存储的数据的 value 需要带上过期时间,此时要么你去修改原来的实体类,要么你新建一个实体类

步骤一:创建 RedisData 实体类h3

我们采用第二个方案,这个方案对原来代码没有侵入性。

@Data
public class RedisData {
private LocalDateTime expireTime;
private Object data;
}

步骤二:实现逻辑过期查询h3

ShopServiceImpl 中新增以下方法:

private static final ExecutorService CACHE_REBUILD_EXECUTOR = Executors.newFixedThreadPool(10);
public Shop queryWithLogicalExpire(Long id) {
// 从 Redis 查询商铺缓存
String shopKey = CACHE_SHOP_KEY + id;
String shopJson = stringRedisTemplate.opsForValue().get(shopKey);
// 判断是否存在
if (StrUtil.isBlank(shopJson)) {
// 缓存未命中,直接返回 null
return null;
}
// 命中,判断缓存是否过期
RedisData redisData = JSONUtil.toBean(shopJson, RedisData.class);
LocalDateTime expireTime = redisData.getExpireTime();
JSONObject data = (JSONObject) redisData.getData();
Shop shop = JSONUtil.toBean(data, Shop.class);
if (expireTime.isAfter(LocalDateTime.now())) {
// 未过期,直接返回店铺信息
return shop;
}
// 过期,缓存重建
// 获取锁
String lockKey = LOCK_SHOP_KEY + id;
boolean isLock = tryLock(lockKey);
if (isLock) {
// 双重检查:再次验证缓存是否已经更新
String shopJson2 = stringRedisTemplate.opsForValue().get(shopKey);
RedisData redisData2 = JSONUtil.toBean(shopJson2, RedisData.class);
LocalDateTime expireTime2 = redisData2.getExpireTime();
if (expireTime2.isAfter(LocalDateTime.now())) {
// 如果已更新,则不再重建缓存
unlock(lockKey);
return shop;
}
// 获取成功,开启独立线程,实现缓存重建
CACHE_REBUILD_EXECUTOR.submit(() -> {
// 重建缓存
try {
saveShop2Redis(id, 20L);
} catch (Exception e) {
throw new RuntimeException(e);
} finally {
// 释放锁
unlock(lockKey);
}
});
}
// 获取失败,返回旧数据
return shop;
}
/**
* 重建缓存数据
* @param id 商铺 ID
* @param expireSeconds 逻辑过期时间(秒)
*/
public void saveShop2Redis(Long id, Long expireSeconds) throws InterruptedException {
// 查询店铺数据
Shop shop = getById(id);
// 模拟重建延迟
Thread.sleep(200);
// 创建逻辑过期时间
RedisData redisData = new RedisData();
redisData.setData(shop);
redisData.setExpireTime(LocalDateTime.now().plusSeconds(expireSeconds));
// 写入 Redis
stringRedisTemplate.opsForValue().set(CACHE_SHOP_KEY + id, JSONUtil.toJsonStr(redisData));
}

总结h2

缓存击穿是高并发场景下常见的问题,选择哪种方案需要根据业务场景权衡:

  • 对数据一致性要求高:选择互斥锁方案
  • 对性能要求高,允许短暂数据不一致:选择逻辑过期方案

评论