< 返回技术文档列表

线上商城系统高并发优化的方法教程

发布时间:2021-11-07 03:04:01⊙投诉举报

本篇内容介绍了“线上商城系统高并发优化的方法教程”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!

项目简要情况概述

该项目为基于 SSM 架构的商城类单体架构项目,其中有一个秒杀重磅模块,如下为当前线上环境的简要架构部署图。

线上商城系统高并发优化的方法教程

大致描述一下:

  • 项目为 SSM 架构。

  • 服务器类别:1 台负载均衡服务器(F5),3 台运用程序服务器,1 台计时器服务器,1 台 Redis 服务器,1 台图片服服务器和 1 台基于 Pass  架构的 MySQL 主从服务器(微软云)。

  • 调用逻辑:上图为简要调用逻辑。

何为单体架构项目

线上商城系统高并发优化的方法教程

从架构发展角度,软件项目经历了如下阶段的发展:

  • 单体架构:可理解为传统的前后端未分离的架构。

  • 垂直架构:可理解为前后端分离架构。

  • SOA 架构:可理解为按服务类别,业务流量,服务间依赖关系等服务化的架构,如以前的单体架构 ERP  项目,划分为订单服务,采购服务,物料服务和销售服务等。

  • 微服务:可理解为一个个小型的项目,如之前的 ERP  大型项目,划分为订单服务(订单项目),采购服务(采购项目),物料服务(物料项目)和销售服务(销售项目),以及服务之间调用。

本 SSM 项目引发的线上问题

①当秒杀的时候,CPU 暴增

该系统每天秒杀分为三个时间端:10 点,13 点和 20 点,如下为秒杀的简要页面:

线上商城系统高并发优化的方法教程

线上商城系统高并发优化的方法教程

线上商城系统高并发优化的方法教程

②单台运用服务器 CPU

线上商城系统高并发优化的方法教程

③单台运用服务器请求数

线上商城系统高并发优化的方法教程

④rdis 连接数(info clients)

这个未保存截图,记得是 600 左右:

connected_clients:600

⑤MySQL 请求截图

线上商城系统高并发优化的方法教程

排查过程及分析

排查思路

根据服务部署和项目架构,从如下几个方面排查:

  • 运用服务器:排查内存,CPU,请求数等。

  • 文件图片服务器:排查内存,CPU,请求数等。

  • 计时器服务器:排查内存,CPU,请求数等。

  • Redis 服务器:排查内存,CPU,连接数等。

  • DB 服务器:排查内存,CPU,连接数等。

排查过程

在秒杀后 30 分钟内:

①运用程序服务器 CPU 暴增,内存暴增,造成 CPU 和内存暴增的根本原因是请求数过高,单台运用服务器达到 3000 多。

线上商城系统高并发优化的方法教程

②Redis 请求超时,如下图:

线上商城系统高并发优化的方法教程

③JDBC 连接超时,如下图:

线上商城系统高并发优化的方法教程

④通过 GC 查看,发现 24 小时内,FullGC 发生了 152 次,如下图:

线上商城系统高并发优化的方法教程

⑤再看看堆栈,发现有一些线程阻塞和死锁。

jstat -l pid,也可以通过 VisualVM 分析:

线上商城系统高并发优化的方法教程

⑥发现有 2000 多个线程请求无效资源,如下图:

线上商城系统高并发优化的方法教程

造成本次系统异常主要因素分析

造成本次系统异常主要因素分析如下:

  • 在秒杀时,请求量过高,导致运用服务器负载过高。

  • Redis 连接池满,获取不到连接,connot get a connection from thread pool。

  • JDBC 连接池满,获取不到连接和超时。

  • 存在大对象代码,如向 List 集合中不停添加对象,不能及时回收对象导致内存增加,频繁发生 Full GC。

  • Tomcat 并发参数,JVM 优化参数,Jedis 配置参数,JDBC 配置参数不合理。

  • 未对请求量进行削峰和限流。

  • 资源连接未及时释放,如 Redis 连接,JDBC 连接未及时释放。

最终解决方案

①增加运用服务,做流量削峰和分流

由于该项目未增加 MQ,因此只能采用硬负载,增加服务器水平扩展方式来实现流量削峰和流量分流:

线上商城系统高并发优化的方法教程

②优化 JVM 参数,如下为本次优化后的参数:

JAVA_OPTS="-server -Xmx9g -Xms9g -Xmn3g -Xss500k -XX:+DisableExplicitGC -XX:MetaspaceSize=2048m -XX:MaxMetaspaceSize=2048m -XX:+UseConcMarkSweepGC -XX:+CMSParallelRemarkEnabled -XX:LargePageSizeInBytes=128m -XX:+UseFastAccessorMethods -XX:+UseCMSInitiatingOccupancyOnly -XX:CMSInitiatingOccupancyFraction=70 -Dfile.encoding=UTF8 -Duser.timezone=GMT+08"

关于这个 JVM 参数的优化,JVM 理论是怎样的,官方建议是怎样的,实战是怎样的,将在下篇文章中分析。

③优化 Tomcat 并发相关参数

主要是两方面:

  • 修改 bio 协议为 nio2 。

  • 根据服务器配置,业务场景,业务流量等合理设置相关参数,尽量达到最优。

线上商城系统高并发优化的方法教程

关于 Tomcat 相关参数优化,在接下来的文章中分析。

④Redis 和 JDBC 参数优化

由于涉及到安全性问题,这里不列出。

⑤代码优化

代码优化如下:

  • 优化掉大对象。

  • 优化未及时释放的对象和连接资源。

⑥解决 000 多个线程请求无效资源问题:

在conf/context.xml增大缓存 <Resource     cachingAllowed = "true"     cacheMaxSize = "102400" />

最终优化结果

经过几天观察,系统平稳。

基本监控,如下图:

线上商城系统高并发优化的方法教程

GC,如下图:

线上商城系统高并发优化的方法教程

抽样器 CPU 和内存:

线上商城系统高并发优化的方法教程

线上商城系统高并发优化的方法教程

“线上商城系统高并发优化的方法教程”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注血鸟云网站,小编将为大家输出更多高质量的实用文章!


/template/Home/Zkeys/PC/Static