上线前,团队经常会问服务器能承受多少并发。单看ECS实例规格,回答不了这个问题:并发用户数、每秒请求数、接口耗时、缓存命中率和数据库连接数,都会影响系统表现。做阿里云并发测试,重点是确认系统在预期流量和突发压力下能否稳定运行,并找出先到瓶颈的环节。
先分清并发数和吞吐量
并发通常指同一时间正在处理请求或保持活跃的用户、连接数量;吞吐量则常用每秒请求数(RPS)或每秒事务数(TPS)衡量。两者相关,但不能互相替代。比如接口变慢后,请求在系统里停留的时间更长,即使吞吐量没有变化,系统也可能需要同时处理更多请求。
因此,测试报告只写“支持一万并发”并不够,还要说明请求模型、响应时间和错误率。测试目标也应对应具体业务:验证活动首页的访问能力,和测下单链路的处理上限,不是同一件事。静态页面、登录、查询和提交订单的资源消耗各不相同,混成一个并发数字,无法直接用于扩容判断。
常用指标包括平均响应时间、P95和P99响应时间、成功率、RPS,以及CPU、内存、数据库连接、慢查询和网络流量。看这些指标时要结合业务目标:平均延迟正常,可能仍掩盖少量请求变得很慢的情况。
阿里云并发测试前要做好哪些准备
明确测试范围和安全边界
先列清测试域名、接口、用户行为和预期流量,并确认环境、账号、数据都已准备好。压力只能施加在获准测试的系统上,不能未经授权对第三方服务发压。若要测生产环境,应先取得业务、运维和安全团队确认,设置流量上限、监控告警和停止条件,并尽量避开业务高峰。
还要核对云资源配额、带宽限制及相关服务的使用规则。若测试端或被测端受配额限制,测出来的结果可能反映的是配置上限,而非应用本身的处理能力。
检查压测端和被测环境
压测端的CPU、网络和所在区域都会影响结果。如果压测机器先达到瓶颈,服务端即使还有余量,也无法继续加压。测试过程中应同时监控压测端资源,必要时分散压力。测试数据也要准备充足,避免请求反复命中单一缓存,得到过于理想的结果。
在阿里云上,可结合实际架构使用云服务器ECS、负载均衡、云数据库和应用监控等服务观察各层表现,具体产品与配置以当前账号可用能力和业务架构为准。分析耗时时,应区分客户端请求、负载均衡转发、应用处理和数据库执行的时间;只看一张总览图,通常不足以定位问题。
按阶段安排测试,而不是一上来就拉满
测试可以从低负载开始,再逐步接近目标流量。每个阶段都要留出观察时间,否则短暂的峰值容易掩盖持续运行后出现的问题。
- 基线测试:以较低压力运行核心请求,记录正常情况下的延迟、成功率和资源占用,作为后续对照。
- 阶梯加压:逐步提高并发或请求速率,每档保持一段时间,观察响应时间、错误率和资源使用是否持续变差。
- 峰值测试:模拟预计的活动流量,确认系统能否在目标负载下持续提供服务。
- 压力与恢复测试:谨慎探测容量边界,检查限流、降级是否按预期生效;压力撤掉后,也要确认服务能否恢复。
- 长稳测试:在接近业务高峰的负载下持续运行,留意内存增长、连接泄漏和后台任务堆积。
脚本应尽量贴近真实用户路径,而不是对单个接口无限重复。例如,模拟用户访问首页、查询商品,再提交订单;请求之间留出合理停顿,并处理成功和失败分支。登录、下单等写操作要使用隔离数据或测试账号,避免重复扣款或污染正式数据。
促销前压测:从下单接口找到瓶颈
某电商团队准备在阿里云上开展促销活动,测试目标是确认活动页面和下单链路能否承受预估流量。团队把场景拆开:活动页以读取为主,订单流程则涉及库存校验、数据写入和支付状态查询。测试前,他们确认应用、缓存、数据库和负载均衡都有监控,并设定错误率、响应时间和资源使用的停止阈值。
阶梯加压时,活动页响应时间保持平稳;订单接口的P99却随着负载增加明显变长。此时应用服务器CPU没有持续打满,数据库连接数却快速上升。进一步排查发现,部分请求在事务中执行了额外查询,连接也没有及时释放。团队调整查询和连接池配置后,用相同脚本复测,并补做长稳测试。复测结果显示,订单接口在目标负载下的响应时间和错误率有所改善。
这个场景不能直接当作其他系统的容量结论,具体表现要以实际环境为准。它提供了一种排查思路:结合分层监控找到限制环节,完成调整后,再用相同条件复测。
读懂结果,才能用于容量规划
如果响应时间随压力增加而快速上升,错误率开始扩大,或CPU、数据库连接等关键资源长期接近上限,系统通常已接近当前配置的承载边界。不过,单看某一项资源不能下结论。CPU使用率不高,也可能存在队列堆积、锁竞争、外部依赖变慢或带宽不足等问题。
测试报告应记录测试日期、环境规格、脚本版本、并发模型、持续时间、数据准备方式、关键指标和异常情况,并把实测结果与容量推算分开写。扩容、代码优化或缓存调整后,保留调整前后的数据,才能判断改动是否有效,也方便下一次测试复现。
几类容易忽略的问题
- 只报最大并发:同时记录稳定吞吐量、延迟分位值和错误率,并提前约定什么表现才算“可用”。
- 只看应用服务器:同步检查数据库、缓存、消息队列和外部接口,避免瓶颈转移后没有被发现。
- 只测缓存预热后的状态:把缓存预热和冷启动场景分开测试,确认两种情况下的表现差异。
- 测完不留记录:整理问题、改动、复测结果和未覆盖风险,供上线评审和后续容量规划使用。
一份可用的阿里云并发测试结果,应该能回答三个问题:目标流量下系统是否稳定,压力上升时哪个环节先受限,以及调整后是否有所改善。按业务路径设计脚本、完整记录指标,并在改动后复测,才能把测试结果用于发布判断和容量安排。