项目压测优化实践思路

发布时间：2024年01月16日
  • 👏作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家
  • 📕系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术
  • 🔥如果感觉博主的文章还不错的话，请👍三连支持👍一下博主哦
  • 🍂博主正在努力完成2023计划中：源码溯源，一探究竟
  • 📝联系方式：nhs19990716，加我进群，大家一起学习，一起进步，一起对抗互联网寒冬👀

文章目录

项目性能优化

性能问题分析

01-性能优化的终极目标是什么？

用户体验 = 产品设计(非技术) + 系统性能 ≈ 系统性能 = 快？

应用性能是产品用户体验的基石，性能优化的终极目标是优化用户体验。当我们谈及性能，最直观能想到的一个词是“快”，哪到底怎么才是快呢？如何又为慢！

02-什么样的体验叫快呢？

  • 3S定理：Strangeloop在对众多的网站做性能分析之后得出了一个著名的3s定律“页面加载速度超过3s，57%的访客会离开”。
  • SEO排名：速度在Google、百度等搜索引擎的PR评分中也占有一定的比例，会影响到网站的SEO排名。

03-怎么让系统快起来呢？

性能优化

04-应用性能调优是个大工程

  • 后端：RT、TPS、并发数 。TPS和RT的影响因素：数据库读写、RPC、网络IO、逻辑计算复杂度、JVM
  • Web端：首屏时间、白屏时间、可交互时间、完全加载时间…
  • 移动端：端到端响应时间、Crash率、内存使用率、FPS…

首屏时间是指从用户打开网页开始到浏览器第一屏渲染完成的时间，是最直接的用户感知体验指标，也是性能领域公认的最重要的核心指标。

首屏时间 = DNS时间 + 建立连接时间 + 后端响应时间 + 网络传输时间 + 首屏页面渲染时间

FPS是体现页面顺畅程度的一个重要指标。

端到端响应时间是衡量一个API性能的关键指标，比纯后端响应时间更全面，它会受到DNS、网络带宽、网络链路、HTTP Payload等多个因素的影响。

端到端响应时间 = DNS解析时间 + 网络传输时间 + 后端响应时间。

05-影响性能的关键要素

产品设计：产品逻辑、功能交互、动态效果、页面元素

12306购票案例查询按钮的设计

基础网络：网络 = 连接介质 + 计算终端
  • 连接介质：电缆、双绞线、光纤、微波、载波或通信卫星。
  • 计算终端：PC、手机、可穿戴设备、家具家电…
  • 基础网络设施，互联网，局域网(LAN)、城域网(MAN)、广域网(WAN)
代码质量&架构
  • 架构不合理
  • 研发功底和经验不足
  • 没有性能意识：只实现了业务功能不注意代码性能，新功能上线后整体性能下降，或当业务上量后系统出现连锁反应，导致性能问题叠加，直接影响用户体验。
移动端环境
硬件及云服务
  • 架构不合理：业务发展超越架构支撑能力而导致系统负荷过载，进而导致出现系统奔溃、响应超时等现象。另外不合理的架构如：单点、无cache、应用混部署、没有考虑分布式、集群化等也都会影响性能。
  • 研发功底和经验不足：开发的App、Server效率和性能较低、不稳定也是常见的事情。
  • 没有性能意识：只实现了业务功能不注意代码性能，新功能上线后整体性能下降，或当业务上量后系统出现连锁反应，导致性能问题叠加，直接影响用户体验。
  • 多数的性能问题发生在数据库上。由慢SQL、过多查询等原因造成的数据库瓶颈，没有做读写分离、分库分表等。

在这里插入图片描述

压力测试

主机环境

在这里插入图片描述

阿里云：5台4C8G机器，4台压力机2C4G

服务器环境：1台压力机，1台应用服务主机，1台数据库与缓存服务器，1CICD服务器

  • hero01：CICD服务器4C8G：Nginx、JMeter、CICD

内网ip：172.17.187.81（I/O优化）25Mbps峰值

  • hero02：数据库与缓存服务器4C8G：MySQL、Redis、MQ、ES

内网ip：172.17.187.78（I/O优化）25Mbps峰值

  • hero03：应用服务器01-4C8G：Application

内网ip：172.17.187.79（I/O优化）25Mbps峰值

  • hero04：监控服务器02-4C8G：Grafana、Prometheus、InfluxDB

内网ip：172.17.187.80（I/O优化）25Mbps峰值

网络中的Mbps和MBps，及两者的换算关系

Mbps = Megabit per second (Mbit/s or Mb/s)

MBps = Megabyte per second

1 Mbps = 0.125 MB/s

25Mbps = 3.125 MB/s

什么是压力测试？

什么是压测？

压力测试（英语：Stress testing）是针对特定系统或是组件，为要确认其稳定性而特意进行的严格测试。会让系统在超过正常使用条件下运作，然后再确认其结果。

压力测试是对系统不断施加压力，来预估系统服务能力的一种测试。

为什么对系统压测呢？有没有必要。压不压测要看场景！

一般而言，只有在系统基础功能测试验证完成、系统趋于稳定的情况下，才会进行压力测试。

目的是什么？

  1. 当负载逐渐增加时，观察系统各项性能指标的变化情况是否有异常
  2. 发现系统的性能短板，进行针对性的性能优化
  3. 判断系统在高并发情况下是否会报错，进程是否会挂掉
  4. 测试在系统某个方面达到瓶颈时，粗略估计系统性能上限

压测性能指标有哪些？

在这里插入图片描述

以上主要的四种性能指标【响应时间、并发用户数、吞吐量、资源使用率】它们之间存在一定的相关性，共同反映出性能的不同方面。

在这里插入图片描述

在这个图中，定义了三条曲线、三个区域、两个点以及三个状态描述。

三条曲线：

  • 吞吐量的曲线（紫色）
  • 利用率（绿色）
  • 响应时间曲线（深蓝色）

三个区域：

  • 轻负载区（Light Load）
  • 重负载区（Heavy Load）
  • 塌陷区（Buckle Zone）

两个点：

  • 最优并发用户数（The Optimum Number of Concurrent Users）
  • 最大并发用户数（The Maximum Number of Concurrent Users）

三个状态描述：

  • 资源饱和（Resource Saturated）
  • 吞吐下降（Throughput Falling）
  • 用户受影响（End Users Effected）

常用压测工具：

  1. Apache JMeter : 可视化的测试工具
  2. Apache的ab压力测试
  3. nGrinter 韩国研发
  4. PAS 阿里测试工具
  5. MeterSphere ：国内持续测试的开源平台
  6. 等等

JMeter压测环境架构图：

在这里插入图片描述

压测目标总的来说有4条：

  1. 负载上升各项指标是否正常
  2. 发现性能短板
  3. 高并发下系统是否稳定
  4. 预估系统最大负载能力

案例：SpringBoot项目不做任何配置，TPS上限是多少？

Apache JMeter是Apache组织开发的基于Java的压力测试工具。用于对软件做压力测试，它最初被设计用于Web应用测试，但后来扩展到其他测试领域。 它可以用于测试静态和动态资源，例如静态文件、Java 小服务程序、CGI 脚本、Java 对象、数据库、FTP 服务器， 等等。JMeter 可以用于对服务器、网络或对象模拟巨大的负载，来自不同压力类别下测试它们的强度和分析整体性能。另外，JMeter能够对应用程序做功能/回归测试，通过创建带有断言的脚本来验证你的程序返回了你期望的结果。为了最大限度的灵活性，JMeter允许使用正则表达式创建断言。

手把手带你创建压测案例

目标：完成压测案例，评测SpringBoot项目的吞吐量（TPS）上限。

步骤：

  1. 创建测试计划
  2. 配置线程组、http请求、断言、结果监听器
  3. 执行测试
  4. 查看测试结果，分析测试结果

实现：

1）新建测试计划

在这里插入图片描述

2）配置线程组：

在这里插入图片描述

线程属性说明：

  • 线程数：20， 线程数量，这里设置了20个线程
  • ramp-up：表示在指定时间之内把这些线程全部启动起来。 如果n=1,那就表示要在1s以内把50个线程全部启动起来。
  • 循环次数：2000，表示把 20 线程 循环2000次，也就是说让线程循环调用接口2000次
3）配置HTTP接口：
http://123.56.249.139:9001/spu/goods/10000005620800

在这里插入图片描述

选择keepalive方式，表示使用了长连接。使用长连接可以防止频繁的建立连接，关闭连接消耗性能。一般浏览器都支持keepalive，如果这里不勾选，这样我们的压测的部分性能消耗会发生在建立，关闭连接上，导致我们的压测数据不准确。

在这里插入图片描述

4）配置断言：

JMeter断言常用有两种，一种是响应断言，一种是响应时间断言，如果响应内容不满足断言的配置，则认为这次的请求是失败的。

  • 响应断言：判断响应内容是否包含指定的字符信息，用于判断api接口返回内容是否正确。
  • 响应时间断言：判断响应时间，是否超过预期的时间，用于判断api接口返回时间是否超过预期。

（1）断言添加方式：右击测试计划的http请求，选择添加–>断言–>加响应断言和断言持续时间。

（2）配置响应断言：我们接口正常返回code值为20001，如果接口返回code值不是20001表示接口异常，为了测试，这里修改为接口返回code值不为20001则表示访问失败。

在这里插入图片描述

（3）配置断言响应时间：设置请求接口时间超过10毫秒，则认为请求失败。

在这里插入图片描述

（4）验证断言配置：发起http请求，由于返回内容code值不为20001，以及访问时间超过10毫秒，所以认为访问失败。

在这里插入图片描述

5）配置结果监听：

配置监听器：监听压测结果【聚合报告和汇总结果很类似，看一个就行】

  1. 聚合报告：查询结果信息聚合汇总，例如样本、平均值、通吐量、最大值、最小值…
  2. 察看结果树：记录每一次压测请求
  3. 图像结果：分析了所有请求的平均值、中值、偏离值和通吐量之间的关系。
  4. 汇总结果：汇总压测结果
  5. 汇总图：将压测结果以图像形式展示

在这里插入图片描述

压测结果

1）聚合报告：

在这里插入图片描述

样本（sample）: 发送请求的总样本数量

响应时间【单位ms】：

  • 平均值（average）：平均的响应时间
  • 中位数（median）: 中位数的响应时间，50%请求的响应时间
  • 90%百分位（90% Line）: 90%的请求的响应时间，意思就是说90%的请求是<=1765ms返回，另外10%的请求是大于等于1765ms返回的。
  • 95%百分位（95% Line）: 95%的请求的响应时间，95%的请求都落在1920ms之内返回的
  • 99%百分位（99% Line）: 99%的请求的响应时间
  • 最小值(min)：请求返回的最小时间，其中一个用时最短的请求
  • 最大值(max)：请求返回的最大时间，其中一个用时最长的请求

异常（error）: 出现错误的百分比，错误率=错误的请求的数量/请求的总数

吞吐量（throughout）: 吞吐能力，在这里相当于TPS

Received KB/sec----每秒从服务器端接收到的响应数据量

Sent KB/sec----每秒从客户端发送的请求的数量

2）察看结果树：

记录了样本中的每一次请求

在这里插入图片描述

3）汇总图与图形结果

图形结果：分析了所有请求的平均值、终止、偏离值和通吐量之间的关系

横坐标：为请求数量，单位个数

纵坐标：响应时间，单位ms

4）汇总报告【类似于聚合报告】

在这里插入图片描述

样本（sample）: 发送请求的总样本数量

响应时间【单位ms】：

  • 平均值（average）：平均的响应时间
  • 最小值(min)：请求返回的最小时间，其中一个用时最少的请求
  • 最大值(max)：请求返回的最大时间，其中一个用时最大的请求
  • 标准偏差：度量响应时间分布的分散程度的标准，衡量响应时间值偏离平均响应时间的程度。标准偏差越小，偏离越少，反之亦然。

异常（error）: 出现错误的百分比，错误率=错误的请求的数量/请求的总数

吞吐量TPS（throughout）: 吞吐能力，这个才是我们需要的并发数

每秒接收 KB/sec----每秒从服务器端接收到的数据量

每秒发送KB/sec----每秒从客户端发送的请求的数量

平均字节数

线程组配置详解

01-线程数：用来发送http请求的线程的数量

线程组常用来模拟一组用户访问系统资源（API接口）。假如客户机没有足够的能力来模拟较重的负载，可以使用JMeter的分布式测试功能，通过一个JMeter的Master来远程控制多个JMeter的Salve完成测试。

02-循环次数：循环执行多少次操作

循环次数表示了循环执行多少次操作！循环次数直接决定整个测试单个线程的执行时间，和整体测试执行时间。

单线程执行时间 = 单请求平均响应时间 * 循环次数

整个测试耗时 = 单线程执行时间 + (Ramp-Up - Ramp-Up / 线程数)

03-Ramp-Up：建立全部线程耗时

Ramp-Up Period (in-seconds) 需要花费多久的时间启动全部的线程，默认值是0代表同时并发。用于告知JMeter 要在多长时间内建立全部的线程。

JMeter常用插件

已有内容的分析维度不够：需要加入新的插件

  • TPS、QPS
  • RT【平均响应时间】
  • 压力机活动线程数
  • 服务器资源信息
  • …

开启插件下载：

下载地址：http://jmeter-plugins.org/downloads/all/，官网上下载plugins-manager.jar直接在线下载,然后执行在线下载即可。

在这里插入图片描述

在线下载方法如下图所示：

在这里插入图片描述

常见的插件如下：

1、PerfMon：(Performance + Monitor)监控服务器硬件，如CPU，内存，硬盘读写速度等
	Allows collecting target server resource metrics
2、Basic Graphs：主要显示平均响应时间，活动线程数，成功/失败交易数等
    Average Response Time 平均响应时间
    Active Threads 活动线程数
	Successful/Failed Transactions 成功/失败 事务数
3、Additional Graphs：主要显示吞吐量，连接时间，每秒的点击数等
    Response Codes
    Bytes Throughput
    Connect Times
    Latency
    Hits/s

在这里插入图片描述

01-配置插件

如果可以配置如下三个监听器，就表示插件已经安装成功！执行压力测试，就可以看见压测的每秒事务数、响应时间，活动线程数等压测结果

  • 响应时间：jp@gc - Response Times Over Time
  • 活动线程数：jp@gc - Active Threads Over Time
  • 每秒事务数：jp@gc - Transactions per Second

在这里插入图片描述

响应时间：jp@gc - Response Times

在这里插入图片描述

活动线程数：jp@gc - Active Threads

在这里插入图片描述

每秒事务数：jp@gc - Transactions per Second

在这里插入图片描述

02-性能关键指标分析

在这里插入图片描述

1）RT：响应时间

  • 平均值： 请求响应的平均时间是6092ms
  • 中位数： 50%请求响应时间都在6392ms之内
  • P90： 90%的请求都在7290ms之内响应结束
  • P95： 95%的请求都在7762ms之内响应结束
  • P99：99%的请求都在8891ms之内响应结束
  • 最小值： 请求响应最小时间3ms
  • 最大值： 请求响应的最大时间是13656ms

2）压力机活动线程数

压力机活动线程数表明压测过程中施加的压力的情况

3）TPS： 每秒的事务数

数字愈大，代表性能越好；

4）QPS： 每秒的查询数量

数字愈大，代表性能越好；（1tps >= QPS）

5）吞吐量： 每秒的请求数量

数字愈大，代表性能越好；

服务器硬件资源监控【精简版】

压测的时候，我们需要实时了解服务器【CPU、内存、网络、服务器Load】的状态如何，哪如何监控服务器的资源占用情况呢？方法有很多种：

  • 使用操作系统命令：top、vmstat、iostat、iotop、dstat、sar…
  • 使用FinalShell
  • 使用JMeter压测工具PerfMon
  • 使用Grafana+Prometheus+node_exporter

监控原理：

在这里插入图片描述

01-配置服务端代理

注意：服务器硬件资源的监控，必须在服务端安装serverAgent代理服务，JMeter才能实现监控服务端的cpu、内存、io的使用情况。

ServerAgent下载地址：https://github.com/undera/perfmon-agent/blob/master/README.md

在这里插入图片描述

## 默认启动运行 startAgent.sh 脚本即可

## 服务启动默认4444端口，根本连接不上，因此自己创建一个部署脚本文件对此进行部署，且把端口修
改为7879

nohup java -jar ./CMDRunner.jar --tool PerfMonAgent --udp-port 7879 --tcpport 7879 > log.log 2>&1 &

## 赋予可执行权限
chmod 755 startAgent.sh

启用7879端口后，服务器的cpu，io，内存使用情况就顺利的监控到了。

02-监控CPU：

在这里插入图片描述

  • Elapse time：消耗时间
  • Performance Metrics：性能指标
  • idle：CPU空闲
  • iowait：IO等待
  • system：系统占用
  • CPU user：CPU用户占用
03-监控网络：

在这里插入图片描述

  • 接收字节：byteSrecv【单位：比特、KB、MB】
  • 发送字节：byteSent【单位：比特、KB、MB】
  • 发送(transport)：tx
  • 接收(receive)：rx
04-监控内存：

在这里插入图片描述

  • usedPerc：每分钟使用内存【单位：字节、KB、MB】
  • freePerc：每分钟未使用内存【单位：字节、KB、MB】

好处：可以将所有信息汇总到JMeter工具中来，查看非常方便。

弊端：数据记录时间有限，记录数据的量也有限

05-监控系统整体负载情况：

服务器上执行以下命令：

#查询服务器资源使用情况
top
top -H

如下图所示，可以看到系统负载 load average 情况，1分钟平均负载，5分钟平均负载，15分钟平均负载分别是 0.08, 0.03, 0.05 ；

在这里插入图片描述

统计信息区前五行是系统整体的统计信息：

在这里插入图片描述

好处：不依赖环境，操作系统自带的命令，随时可以查看。

弊端：无法记录历史数据，不能看到变化的趋势

怎么理解系统资源的指标呢，怎么理解系统负载呢？

06-性能关键指标分析

1）服务器：CPU、内存、网络IO

CPU

在这里插入图片描述

内存

在这里插入图片描述

网络IO

在这里插入图片描述

2）系统负载： load average
  1. 什么是Load Average？
  • 系统负载System Load是系统CPU繁忙程度的度量，即有多少进程在等待被CPU调度（进程等待队列的长度）。
  • 平均负载（Load Average）是一段时间内系统的平均负载，这个一段时间一般取1分钟、5分钟、15分钟。
  • 多核CPU和单核CPU的系统负载数据指标的理解还不一样。

在类Unix系统中，系统负载是衡量计算机系统执行的计算工作量的指标。

举个栗子：while(true) 这样程序不耗时，cpu会飙高，但是load average不会走高。说明程序在计算，但是并没有执行耗时工作，所以Load Average并不高。我们在核查服务器负载因需要重点关注loadaverage。

  1. Load的数值是什么含义？

不同的CPU性质不同：单核，双核，四核 -->>

单核CPU三种Load情况

举例说明：把CPU比喻成一条（单核）马路，进程任务比喻成马路上跑着的汽车，Load则表示马路的繁忙程度。

情况1-Load小于1：不堵车，汽车在马路上跑得游刃有余：

在这里插入图片描述

情况2-Load等于1：马路已无额外的资源跑更多的汽车了：

在这里插入图片描述

情况3-Load大于1：汽车都堵着等待进入马路：

在这里插入图片描述

双核CPU

如果有两个CPU，则表示有两条马路，此时即使Load大于1也不代表有汽车在等待：

在这里插入图片描述

[Load==2，双核，没有等待]

  1. 什么样的Load值得警惕？

如下分析针对单核CPU

  • 【0.0 - 0.7]】 ：系统很闲，马路上没什么车，要考虑多部署一些服务
  • 【0.7 - 1.0 】：系统状态不错，马路可以轻松应对
  • 【等于1.0】 ：系统马上要处理不多来了，赶紧找一下原因
  • 【大于5.0】 ：马路已经非常繁忙了，进入马路的每辆汽车都要无法很快的运行
  1. 不同Load值说明什么问题？

如下分析针对单核CPU的三种情况：

情况1：1分钟负载 > 5，5分钟负载 < 1，15分钟负载 < 1

举例： 5.18 , 0.05 , 0.03

短期内繁忙，中长期空闲，初步判断是一个“抖动”或者是“拥塞前兆”

情况2：1分钟负载 > 5，5分钟负载 > 1，15分钟负载 < 1

举例： 5.18 , 1.05 , 0.03

短期内繁忙，中期内紧张，很可能是一个“拥塞的开始”

情况3：1分钟负载 > 5，5分钟负载 > 5，15分钟负载 > 5

举例： 5.18 , 5.05 , 5.03

短中长期都繁忙，系统“正在拥塞”

压测监控平台

在这里插入图片描述

梯度压测：分析接口性能瓶颈

压测接口：响应时间20ms，响应数据包3.8kb，请求数据包0.421kb

http://123.56.249.139:9001/spu/goods/10000005620800

是与RT和服务端线程数有关的

压测配置：

情况01-模拟低延时场景，用户访问接口并发逐渐增加的过程。

预计接口的响应时间为20ms

线程梯度：5、10、15、20、25、30、35、40个线程

循环请求次数5000次

时间设置：Ramp-up period(inseconds)的值设为对应线程数

测试总时长：约等于20ms x 5000次 x 8 = 800s = 13分

配置断言：超过3s，响应状态码不为20000，则为无效请求

机器环境

应用服务器配置：4C8G

外网-网络带宽25Mbps （峰值）

内网-网络带宽基础1.5/最高10Gbit/s

集群规模：单节点

服务版本：v1.0

数据库服务器配置：4C8G

Mbps : Megabit per second (Mbit/s or Mb/s)
MB/s : Megabyte per second
1 byte = 8 bits
1 bit = (1/8) bytes
1 bit = 0.125 bytes
1 megabyte = 10002 bytes
1 megabit = 10002 bits
1 megabit = 0.125 megabytes
1 megabit/second = 0.125 megabytes/second
1 Mbps = 0.125 MB/s

配置监听器：

  1. 聚合报告：添加聚合报告

  2. 查看结果树：添加查看结果树

  3. 活动线程数：压力机中活动的线程数

  4. TPS统计分析：每秒事务树

  5. RT统计分析：响应时间

  6. 后置监听器，将压测信息汇总到InfluxDB，在Grafana中呈现

  7. 压测监控平台：
    JMeter DashBoard

应用服务器：内存、网络、磁盘、系统负载情况

MySQL服务器：内存、网络、磁盘、系统负载情况

性能瓶颈剖析

1）梯度压测，测出瓶颈

进一步提升压力，发现性能瓶颈

  • 使用线程：5，然后循环5000次，共2.5万个样本
  • 使用线程：10，然后循环5000次，共5万个样本
  • 使用线程：15，然后循环5000次，共7.5万个样本
  • 使用线程：20，然后循环5000次，共10万个样本
  • 使用线程：25，然后循环5000次，共12.5万个样本
  • 使用线程：30，然后循环5000次，共15万个样本
  • 使用线程：35，然后循环5000次，共17.5万个样本
  • 使用线程：40，然后循环5000次，共20万个样本

聚合报告

在这里插入图片描述

Active Threads

在这里插入图片描述

RT

在这里插入图片描述

TPS

在这里插入图片描述

此时就是到了重负载区

压测监控平台与JMeter压测结果一致

在这里插入图片描述

压了13分钟，产生了5G的数据，按照我们的阿里云服务器配置，相当于三四块钱没了

压测中服务器监控指标

在这里插入图片描述

2）问题1：网络到达瓶颈

注意：系统网络带宽为25Mbps

在这里插入图片描述

在这里插入图片描述

结论：随着压力的上升，TPS不再增加，接口响应时间逐渐在增加，偶尔出现异常，瓶颈凸显。系统的负载不高。CPU、内存正常，说明系统这部分资源利用率不高。带宽带宽显然已经触顶了。

优化方案：

方案01-降低接口响应数据包大小（把不应该推送给用户的优化掉）

返回数据量小的接口，响应数据包0.6kb，请求数据包0.421kb

htp://123.56.249.139:9001/spu/goods/10000023827800

方案02-提升带宽【或者在内网压测】

25Mbps --> 100Mbps（但是会变贵）

云服务器内网：这里在Linux中执行JMeter压测脚本

jmeter -n -t 02-jmeter-example.jmx -l 02-jmeter-example.jtl

所以就是，想要高并发，money得有才行。

方案03-CDN

买CDN，给用户离他最近的流量

优化之后：

方案01-降低接口响应数据包大小，压测结果

在这里插入图片描述

在这里插入图片描述

问题：可不可以基于RT与TPS算出服务端并发线程数？

服务端线程数计算公式：TPS/ (1000ms/ RT均值)

  • RT=21ms，TPS=800，服务端线程数：= 800/ (1000ms/ RT均值) = 17
  • RT=500ms，TPS=800，服务端线程数：= 800/ (1000ms/ RT均值) = 400
  • RT=1000ms，TPS=800，服务端线程数：= 800/ (1000ms/ RT均值) = 800

结论：

  • 在低延时场景下，服务瓶颈主要在服务器带宽。
  • TPS数量等于服务端线程数 乘以 (1000ms/ RT均值)
  • RT=21ms，TPS=800，服务端线程数：= 800/ (1000ms/ RT均值) = 17
3）问题2：接口的响应时间是否正常？是不是所有的接口响应都这么快？

情况02-模拟高延时场景，用户访问接口并发逐渐增加的过程。接口的响应时间为500ms，

  • 线程梯度：100、200、300、400、500、600、700、800个线程;
  • 循环请求次数200次
  • 时间设置：Ramp-up period(inseconds)的值设为对应线程数的1/10；
  • 测试总时长：约等于500ms x 200次 x 8 = 800s = 13分
  • 配置断言：超过3s，响应状态码不为20000，则为无效请求
//慢接口
@GetMapping("/goods/slow/{spuId}")
public Result findGoodsBySpuIdTwo(@PathVariable String spuId){
	Goods goods = spuService.findBySpuId(spuId);
	//模拟慢接口
	try {
		//休眠500ms
		TimeUnit.MILLISECONDS.sleep(500);
	} catch (InterruptedException e) {
		e.printStackTrace();
	}
	return new Result(true, StatusCode.OK, "查询成功", goods);
}

响应慢接口：500ms+，响应数据包3.8kb，请求数据包0.421kb

htp://123.56.249.139:9001/spu/goods/slow/10000005620800

测试结果：RT、TPS、网络IO、CPU、内存、磁盘IO

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

结论：

  • 在高延时场景下，服务瓶颈主要在容器最大并发线程数。
  • RT=500ms，TPS=800，服务端线程数：= 800/ (1000ms/ RT) = 400

Tomcat的默认线程数是200

  • 观察服务容器最大线程数，发现处理能力瓶颈卡在容器端
4）问题3：TPS在上升到一定的值之后，异常率较高

可以理解为与IO模型有关系，因为当前使用的是阻塞式IO模型。这个问题我们在服务容器优化部分解决。

因为是使用的是NIO，阻塞了之后我们前面配置的是超过3s就会报错，所以报异常了。

分布式压测

使用JMeter做大并发压力测试的场景下，单机受限与内存、CPU、网络IO，会出现服务器压力还没有上去，但是压测机压力太大已经死机！为了让JMeter拥有更强大的负载能力，JMeter提供分布式压测能力。

  • 单机网络带宽有限
  • 高延时场景下，单机可模拟最大线程数有限

如下是分布式压测架构：

在这里插入图片描述

注意：在JMeter Master节点配置线程数10，循环100次【共1000次请求样本】。如果有3台Salve 节点。那么Master启动压测后，每台Salve都会对被测服务发起10x100次请求。因此，压测产生的总样本数量是：10 x 100 x 3 = 3000次。

搭建JMeter Master控制机和JMeter Salve施压机

  • 第一步：三台JMeter Salve搭建在Linux【Centos7】环境下
  • 第二步：JMeter Master搭建在Windows Server环境下【当然也可以搭建在Linux里面，这里用win是为了方便观看】

搭建注意事项：

  • 需保证Salve和Server都在一个网络中。如果在多网卡环境内，则需要保证启动的网卡都在一个网段。
  • 需保证Server和Salve之间的时间是同步的。
  • 需在内网配置JMeter主从通信端口【1个固定，1个随机】，简单的配置方式就是关闭防火墙，但存在安全隐患。

Windows Server部署JMeter Master

与Window中安装JMeter一样，略

Linux部署JMeter Salve

（1）下载安装

wget https://mirrors.tuna.tsinghua.edu.cn/apache//jmeter/binaries/apachejmeter-5.4.1.tgz

tar -zxvf apache-jmeter-5.4.1.tgz

mv apache-jmeter-5.4.1 ./apache-jmeter-5.4.1-salve

（2）配置修改rmi主机hostname

# 1.改ip
vim jmeter-server
# RMI_HOST_DEF=-Djava.rmi.server.hostname=本机ip
# 2.改端口
vim jmeter.properties
# RMI port to be used by the server (must start rmiregistry with same port)
server_port=1099
# To change the default port (1099) used to access the server:
server.rmi.port=1098

（3）配置rmi_keystore.jks

（4）启动jmeter-server服务

nohup ./jmeter-server > ./jmeter.out 2>&1 &

分布式环境配置

（1）确保JMeter Master和Salve安装正确。

（2）Salve启动，并监听1099端口。

（3）在JMeter Master机器安装目录bin下，找到jmeter.properties文件，修改远程主机选项，添加3个Salve服务器的地址。

remote_hosts=172.17.187.82:1099,172.17.187.83:1099,172.17.187.84:1099

（4）启动jmeter，如果是多网卡模式需要指定IP地址启动

jmeter -Djava.rmi.server.hostname=172.26.233.201

（5）验证分布式环境是否搭建成功：

在这里插入图片描述

文章来源:https://blog.csdn.net/qq_40851232/article/details/135634581
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。
最新文章