性能不够,缓存来凑
一个高并发系统肯定少不了缓存的身影,为了保证缓存服务的高可用,我们通常采用 Redis Cluster 集群模式。
描述:
集群部署采用了 3主3从 拓扑结构,数据读写访问master节点, slave节点负责备份。
随便登录一台 redis 节点,都可以看到集群的slot的槽位分步区间,以及对应的主从节点映射关系。
:> cluster slots
1) 1) (integer)
2) (integer)
3) 1) ""
2) (integer)
3) "6c574c9d1323c69ebc73a5977bcbd3d4c073a4d4"
4) 1) ""
2) (integer)
3) "123d0b157078925743ac1deb96be8c3395d7d038"
2) 1) (integer) 0
2) (integer)
3) 1) ""
2) (integer)
3) "99bc05e81ef0035a4ab2d13cbae2599425b7ed7d"
4) 1) ""
2) (integer)
3) "402e900ef364ce9382beddf92747cf28e3ea9c2f"
3) 1) (integer)
2) (integer)
3) 1) ""
2) (integer)
3) "fda6a9e49205a52418c0bca4c66c981066017a3c"
4) 1) ""
2) (integer)
3) "24a1e23f6cbfb761234970b66043d562e79e3d9c"
人为模拟,master-1 机器意外宕机
docker stop c1dff012392d
此时,Redis Cluster 集群能自动感知,并自动完成主备切换,对应的slave会被选举为新的master节点
看下 redis cluster 集群最新的主从关系
看似也没什么问题,一切正常
此时 Spring Boot 应用依然在线服务,当我们再尝试操作缓存时,会报错
问题边界还是非常清晰的。
Redis Cluster 集群已经完成了切换。
但是 Spring Boot 客户端没有动态感知到 Redis Cluster 的最新集群信息
原因分析:
SpringBoot 2.X 版本, Redis默认的连接池采用 Lettuce
当Redis 集群节点发生变化后,Letture默认是不会刷新节点拓扑
解决方案:
将 Letture 二方包仲裁掉
org.springframework.boot
spring-boot-starter-data-redis
.RELEASE
io.lettuce
lettuce-core
然后,引入 Jedis 相关二方包
redis.clients
jedis
编译代码,并重新启动 SpringBoot 微服务,万事俱备,只欠再次验证
重新模拟将 : master 节点宕机,看看系统的日志
[ :::] - master /: used as slave
[ :::] - slave redis://: removed for slot ranges: [[]]
[ :::] - 1 connections initialized for /:
[ :::] - /: master and related slaves: [addr=redis://:] removed
[ :::] - connections initialized for /:
[ :::] - 1 connections initialized for /:
[ :::] - master: redis://: added for slot ranges: [[]]
[ :::] - connections initialized for /:
从打印的日志来看,客户端已经感知到了主备切换,并与最新的主节点 : 初始化了 个连接。
然后,回归业务功能,读写缓存 数据也都是操作最新的主节点。
还有一种方案:刷新节点拓扑视图
Lettuce 官方描述:
https://github.com/lettuce-io/lettuce-core/wiki/Redis-Cluster#user-content-refreshing-the-cluster-topology-view
Lettuce 处理 Moved 和 Ask 永久重定向,由于命令重定向,必须刷新节点拓扑视图。而自适应拓扑刷新(Adaptive updates)与定时拓扑刷新(Periodic updates)默认关闭
解决方案:
- 调用 RedisClusterClient.reloadPartitions
- 后台基于时间间隔的周期刷新
- 后台基于持续的断开 和 移动、重定向 的自适应更新
编写代码
@Bean(destroyMethod = "destroy")
public LettuceConnectionFactory lettuceConnectionFactory() {
//开启 自适应集群拓扑刷新和周期拓扑刷新
ClusterTopologyRefreshOptions clusterTopologyRefreshOptions = ClusterTopologyRefreshOptions.builder()
// 开启自适应刷新。否则,Redis集群变更后将会导致连接异常
.enableAllAdaptiveRefreshTriggers()
// 自适应刷新超时时间(默认秒)
.adaptiveRefreshTriggersTimeout(Duration.ofSeconds())
// 开周期刷新
.enablePeriodicRefresh(Duration.ofSeconds())
.build();
ClientOptions clientOptions = ClusterClientOptions.builder()
.topologyRefreshOptions(clusterTopologyRefreshOptions)
.build();
LettuceClientConfiguration clientConfig = LettucePoolingClientConfiguration.builder()
.poolConfig(genericObjectPoolConfig(redisProperties.getJedis().getPool()))
.clientOptions(clientOptions)
.commandTimeout(redisProperties.getTimeout()) //默认RedisURI.DEFAULT_TIMEOUT
.build();
List clusterNodes = redisProperties.getCluster().getNodes();
Set nodes = new HashSet();
clusterNodes.forEach(address -> nodes.add(new RedisNode(address.split(":")[0].trim(), Integer.valueOf(address.split(":")[1]))));
RedisClusterConfiguration clusterConfiguration = new RedisClusterConfiguration();
clusterConfiguration.setClusterNodes(nodes);
clusterConfiguration.setPassword(RedisPassword.of(redisProperties.getPassword()));
clusterConfiguration.setMaxRedirects(redisProperties.getCluster().getMaxRedirects());
LettuceConnectionFactory lettuceConnectionFactory = new LettuceConnectionFactory(clusterConfiguration, clientConfig);
// 是否允许多个线程操作同一个缓存连接,默认true,false 每个操作都将创建新的连接
// lettuceConnectionFactory.setShareNativeConnection(false);
// 重置底层共享连接, 在接下来的访问时初始化
// lettuceConnectionFactory.resetConnection();
return lettuceConnectionFactory;
}