分布式缓存重建并发冲突问题以及zookeeper分布式锁解决方案（7）

浅浅的花香味﹌ 2022-05-31 14:22 246阅读 0赞

# 分布式重建缓存的并发冲突问题 #

**重建缓存**：比如我们这里，数据在所有的缓存中都不存在了（LRU算法弄掉了），就需要重新查询数据写入缓存，重建缓存

分布式的重建缓存，在不同的机器上，不同的服务实例中，去做上面的事情，就会出现多个机器分布式重建去读取相同的数据，然后写入缓存中

分布式重建缓存的并发冲突问题。。。。。。

## 1、流量均匀分布到所有缓存服务实例上 ##

应用层nginx，是将请求流量均匀地打到各个缓存服务实例中的，可能咱们的eshop-cache那个服务，可能会部署多实例在不同的机器上

## 2、应用层nginx的hash，固定商品id，走固定的缓存服务实例 ##

分发层的nginx的lua脚本，是怎么写的，怎么玩儿的，搞一堆应用层nginx的地址列表，对每个商品id做一个hash，然后对应用nginx数量取模

将每个商品的请求固定分发到同一个应用层nginx上面去

在应用层nginx里，发现自己本地lua shared dict缓存中没有数据的时候，就采取一样的方式，对product id取模，然后将请求固定分发到同一个缓存服务实例中去

## 3、源信息服务发送的变更消息，需要按照商品id去分区，固定的商品变更走固定的kafka分区，也就是固定的一个缓存服务实例获取到 ##

缓存服务，是监听kafka topic的，一个缓存服务实例，作为一个kafka consumer，就消费topic中的一个partition

所以你有多个缓存服务实例的话，每个缓存服务实例就消费一个kafka partition

所以这里，一般来说，你的源头信息服务，在发送消息到kafka topic的时候，都需要按照product id去分区

也就时说，同一个product id变更的消息一定是到同一个kafka partition中去的，也就是说同一个product id的变更消息，一定是同一个缓存服务实例消费到的

我们也不去做了，其实很简单，kafka producer api，里面send message的时候，多加一个参数就可以了，product id传递进去，就可以了

## 4、问题是，自己写的简易的hash分发，与kafka的分区，可能并不一致！！！ ##

我们自己写的简易的hash分发策略，是按照crc32去取hash值，然后再取模的

关键你又不知道你的kafka producer的hash策略是什么，很可能说跟我们的策略是不一样的

拿就可能导致说，数据变更的消息所到的缓存服务实例，跟我们的应用层nginx分发到的那个缓存服务实例也许就不在一台机器上了

这样的话，在高并发，极端的情况下，可能就会出现冲突

## 5、分布式的缓存重建并发冲突问题发生了。。。 ##

## 6、基于zookeeper分布式锁的解决方案 ##

分布式锁，如果你有多个机器在访问同一个共享资源，那么这个时候，如果你需要加个锁，让多个分布式的机器在访问共享资源的时候串行起来

那么这个时候，那个锁，多个不同机器上的服务共享的锁，就是分布式锁

分布式锁当然有很多种不同的实现方案，redis分布式锁，zookeeper分布式锁

zk，做分布式协调这一块，还是很流行的，大数据应用里面，hadoop，storm，都是基于zk去做分布式协调

zk分布式锁的解决并发冲突的方案

（1）变更缓存重建以及空缓存请求重建，更新redis之前，都需要先获取对应商品id的分布式锁  
（2）拿到分布式锁之后，需要根据时间版本去比较一下，如果自己的版本新于redis中的版本，那么就更新，否则就不更新  
（3）如果拿不到分布式锁，那么就等待，不断轮询等待，直到自己获取到分布式的锁

来自龙果学院讲师：中华石杉

发表评论取消回复

表情：

评论列表（有 0 条评论，246人围观）

还没有评论，来说两句吧...

相关阅读

相关分布式缓存下—缓存架构设计常见问题以及解决方案

文章目录 1.缓存架构设计 2.缓存常见的文图 2.1 数据一致性场景以及解决方案 2.2 缓存穿透、缓存击穿

拼搏现实的明天。/ 2023年10月11日 17:09/ 0 赞/ 100 阅读

相关分布式锁原理——redis分布式锁，zookeeper分布式锁

首先分布式锁和我们平常讲到的锁原理基本一样，目的就是确保，在多个线程并发时，只有一个线程在同一刻操作这个业务或者说方法、变量。在一个进程中，也就是一个jvm 或者说应用中，

r囧r小猫/ 2023年02月23日 08:19/ 0 赞/ 162 阅读

相关亿级流量电商详情页系统实战-31.分布式缓存重建并发冲突问题以及zookeeper分布式锁解决方案

1.前言如果缓存服务在本地的ehcache中都读取不到数据，这个时候就意味着，需要重新到源头的服务中去拉去数据，拉取到数据之后，赶紧先给nginx的请求返回，同时将数据

缺乏、安全感/ 2022年10月29日 05:17/ 0 赞/ 167 阅读

相关 zookeeper分布式锁

分布式锁介绍分布式锁主要用于在分布式环境中保护跨进程、跨主机、跨网络的共享资源实现互斥访问，以达到保证数据的一致性。本文主要谈的是Zookeeper

本是古典何须时尚/ 2022年09月05日 01:41/ 0 赞/ 392 阅读

相关 zookeeper分布式锁以及集群

推荐zookeeper信息查看工具：zooInspector 一、zookeeper分布式锁 zookeeper分布式锁往往可以作为主从的管理方案，mycat

叁歲伎倆/ 2022年06月09日 02:13/ 0 赞/ 241 阅读

相关分布式缓存重建并发冲突问题以及zookeeper分布式锁解决方案（7）

分布式重建缓存的并发冲突问题重建缓存：比如我们这里，数据在所有的缓存中都不存在了（LRU算法弄掉了），就需要重新查询数据写入缓存，重建缓存分布式的重建缓存，在不同的

浅浅的花香味﹌/ 2022年05月31日 14:22/ 0 赞/ 247 阅读

相关 7.7 zookeeper分布式锁原理图

![70][] 1，每个文件节点都创建一个锁的概念的文件，文件是以sequential自增序列令名 2，每次选择执行节点的时候，都会获取最小的节点来执行 3，执行的节点执

╰半夏微凉°/ 2022年05月21日 07:26/ 0 赞/ 237 阅读

相关分布式锁原理-redis分布式锁，zookeeper分布式锁

首先分布式锁和我们平常讲到的锁原理基本一样，目的就是确保，在多个线程并发时，只有一个线程在同一刻操作这个业务或者说方法、变量。在一个进程中，也就是一个jvm 或者说应

一时失言乱红尘/ 2022年02月23日 06:04/ 0 赞/ 587 阅读

相关 Zookeeper分布式锁

> 大多数互联网系统都是分布式部署的，分布式部署确实能带来性能和效率上的提升，但为此，我们就需要多解决一个分布式环境下，数据一致性的问题在单机环境中，我们可以通过java提供

红太狼/ 2022年01月20日 01:59/ 0 赞/ 436 阅读

相关 Redis - 分布式锁实现以及相关问题解决方案

文章目录 Redis - 分布式锁实现以及相关问题解决方案 1.分布式锁是什么？ 1.1 分布式锁设计目的 1

青旅半醒/ 2021年12月19日 03:53/ 0 赞/ 353 阅读