如何理解和解决高并发

朴灿烈づ我的快乐病毒、 2023-10-10 23:06 125阅读 0赞

#### 如何理解高并发 ####

*  高并发指的两方面
 *  提升硬件
 *  负载均衡
 *  使用缓存
 *   *  缓存一致性如何保证
 *  限流
 *  DNS负载均衡
 *  线程池和分布式锁
 *  总结

## 高并发指的两方面 ##

1.  **同一时刻**有大量的请求访问系统。
2.  有大量的请求**并行**访问系统。

当大量请求短时间内涌入系统的时候，我们第一时间应该能想到的是**提升机器的性能**。

## 提升硬件 ##

单机性能：比如说从8核提升到16核，从8G提升到16G。

## 负载均衡 ##

但是这样的提升有限，我们可以部署多台机器来分担压力。这就需要**负载均衡**的帮助，同时要求你的程序支持负载均衡的部署。

比如引入redis来统一存储session。

## 使用缓存 ##

如果单机能承载的请求能力有限，远远达不到上限该怎么办？  
这时我们就需要解决一些性能瓶颈，比如数据库，大部分应用的瓶颈都在数据库。

所以我们一般会采用**读写分离**、**分库分表**、**多主多从架构**等方式提升数据库的能力。但是数据库毕竟是对磁盘的操作，速度远远慢于CPU运转的速度。所以，我们需要将数据尽可能存储在内存当中。

虽然内存速度也慢于CPU速度，但是远远大于磁盘的速度，这时候就需要引入缓存机制。先访问缓存，缓存没有则访问数据库，然后存入缓存。

### 缓存一致性如何保证 ###

缓存一致性的问题该如何解决？  
我们可以通过**订阅binlog日志**或者**MQ**的方式保证其数据最终一致性。

**Redis虽然单机性能很高，但为了支持高并发，我们一般都将其部署为集群**。到这里，系统已经具备很高的处理能力了。

## 限流 ##

不管怎么样，一个业务假设最大处理能力就一秒一万，但是有一秒百万的请求过来怎么办？  
这时候就想到了mq。

**先把请求放入mq，大家排着队来，出口处根据能力来消费**。当然结果往往是需要用户等待一会。比如支付场景、抢购场景、秒杀场景等。这种我们一样叫做高并发解决方案。

同样的思路，如果我的系统处理能力有限，只能做到承载一万的流量，但是有百万的请求怎么办？  
我们说限流，让流量一万一万地过来即可。

## DNS负载均衡 ##

这时候又有人问了，因为用户访问的入口往往是统一的，入口扛不住怎么办？这就需要使用DNS负载均衡。将同一个域名访问分发到不同的服务区处理。

那么除了上述方案，还有一些，比如CDN, 我们将静态资源放入CDN中加快访问，并且不消耗应用服务器的性能。比如搜索用ES，比如架构设计，微服务架构中将系统进行拆分，每个模块独立部署网关集群化、组件集群化等等的思路。

## 线程池和分布式锁 ##

当然代码方面也有，我们可以通过开多个线程的方式提高系统的处理能力。通过连接池的方式降低数据库的连接。远程调用连接频繁创建的开销。如果遇到同一时刻的请求有资源竞争的情况，也就是说有线程安全的问题，这时候可以使用分布式锁。使用分布式锁是为了适应集群环境。当然有时候锁的方式会影响性能，同样可以使用mq的方式来进行避免锁的使用。

## 总结 ##

缓存、队列、拆分、加钱、池化等等方式。

**参考资料**：[应该如何理解高并发，我提供一个思路，助力大家从容应对面试][Link 1]

[Link 1]: https://www.bilibili.com/video/BV1zT41137xy/?spm_id_from=333.880.my_history.page.click&vd_source=a1af903e57688df870625021f7f3a7eb

发表评论取消回复

表情：

评论列表（有 0 条评论，125人围观）

还没有评论，来说两句吧...

相关阅读

相关并发控制问题：理解和解决MySQL高并发场景下的并发控制挑战

在MySQL高并发场景下，并发控制是关键挑战。以下是一些主要的并发控制问题以及解决方案： 1. **事务隔离级别不当**： - 如果并发执行SQL语句时，使用了不恰当的

你的名字/ 2024年12月23日 14:39/ 0 赞/ 156 阅读

相关深入理解高并发编程 - Callable 和 Future

在 Java 中，Callable 和 Future 是用于处理多线程编程的两个关键接口，它们位于 java.util.concurrent 包下。 1、Callable：

ゝ一纸荒年。/ 2023年10月14日 12:39/ 0 赞/ 34 阅读

相关如何理解和解决高并发

如何理解高并发高并发指的两方面提升硬件负载均衡使用缓存缓存一致性如何保证限流 DNS负载均衡线程池和分

朴灿烈づ我的快乐病毒、/ 2023年10月10日 23:06/ 0 赞/ 126 阅读

相关 java高并发解决方案(高并发的解决方案)

Java线程并发协作是什么？ \ Java线程：并发协作-死锁 \ @author Administrator 2009-11-4 22:06:13 public c

亦凉/ 2023年09月26日 15:24/ 0 赞/ 223 阅读

相关如何解决高并发

高并发（high concurrency）是互联网分布式系统架构中必须要考虑的一个因素，主要是指通过设计保证系统能够同时并行处理很多请求。主要是有很多的用户同时访问同一个API

太过爱你忘了你带给我的痛/ 2023年05月30日 12:58/ 0 赞/ 21 阅读

相关并发和高并发

并发和高并发并发包含了高并发，并发有可能发生在单个机器上，也有可能发生在分布式的场景下，发生在分布式场景下的一般就是高并发了。Java并发包下的java.util.conc

绝地灬酷狼/ 2023年02月17日 05:30/ 0 赞/ 140 阅读

相关 Java并发编程和高并发解决方案

目录图示思维导图：并发和高并发基础概念并发基础 1.CPU多级缓存（缓存一致性，乱序执行优化） 2.Java内存模型

拼搏现实的明天。/ 2022年12月18日 12:55/ 0 赞/ 375 阅读

相关高并发是什么和如何解决

之前我将高并发的解决方法误认为是线程或者是队列可以解决，因为高并发的时候是有很多用户在访问，导致出现系统数据不正确、丢失数据现象，所以想到的是用队列解决，其实队列解决的方式也

墨蓝/ 2022年06月18日 03:19/ 0 赞/ 386 阅读

相关高并发和大流量解决方案

并发：在操作系统中，是指一个时间段中有几个程序都处于已启动运行到运行完毕之间，且这几个程序都是在同一个处理机上运行，但任意一个时刻上只有一个程序在处理机上运行。我们说的

梦里梦外;/ 2022年06月01日 13:55/ 0 赞/ 433 阅读

相关 java并发编程和高并发解决方案

一、并发和高并发是什么并发：指同时拥有两个或多个线程；如果程序在单核处理运行，多个线程将交替换入或者换出内存，这些线程是同时存在的，每个线程都处于执行过程中的某个状态；如

傷城~/ 2022年03月18日 10:05/ 0 赞/ 463 阅读