做电商活动、游戏服务或接口平台,常见的问题是:“目标 TPS 这么高,需要几台阿里云服务器?”只看服务器配置很难给出可靠答案。TPS(Transactions Per Second,每秒事务数)表示系统每秒完成的事务数量,但一个事务可能经过多个接口、读写数据库、扣减库存,还可能调用外部服务。代码效率、缓存命中率、网络状况和依赖服务,都会影响实际吞吐量。
选型时要把业务负载和整条调用链一起看,再通过压测验证。单纯增加 ECS 实例,可能让应用层处理能力上升,却把压力推给数据库或其他依赖。结果是机器更多了,响应时间和错误率反而没有改善。
先分清 TPS、并发用户数和响应时间
并发用户数指同一时刻正在操作或等待响应的用户规模;TPS 则是系统单位时间内完成的事务量。用户操作频率、事务包含的步骤和业务逻辑都不同,同样数量的并发用户,产生的 TPS 可能相差很大。比如浏览商品主要是读取数据,下单则可能涉及库存校验、订单写入和支付状态更新,后者对后端的压力通常更复杂。
还要区分日常平均 TPS 和业务峰值 TPS。平均值可以帮助了解常态资源使用,活动、开服或促销期间的峰值,才是规划容量时需要重点验证的负载。峰值通常还要注明会持续多久:短时间突增和持续数小时的高负载,对系统的要求并不一样。
TPS 不能单独作为通过标准。建议同时记录响应时间,尤其是 P95、P99,此外还要看错误率和 CPU、内存等资源使用情况。吞吐量上升的同时,大量请求开始超时,就不能算系统稳定承载了目标流量。
估算阿里云服务器需求,先拆开业务链路
从目标请求量出发,画出一次业务事务会经过的服务。以订单流程为例,入口请求可能依次经过网关、应用服务、缓存、数据库和消息队列。如果一笔订单还会触发多个内部调用,只看入口 TPS,容易低估后端请求量。相反,图片、脚本等静态内容如果由 CDN 提供,就不应全部计入应用服务器的处理压力。
- 明确目标:分别列出日常和峰值 TPS、可接受的响应时间、错误率上限,以及峰值持续时间。没有这些条件,“能不能扛住”就很难判断。
- 梳理依赖:标出入口服务、应用、数据库、缓存、文件存储和外部接口,并注明哪些调用必须同步完成。
- 留出余量:不要按压测刚好达到的上限采购。流量波动、发布维护、单机故障和业务增长,都可能占用容量。
- 分层核算:应用计算能力与数据库读写能力要分别评估。应用服务器还有 CPU 余量,不代表数据库连接和写入也足够。
阿里云 ECS 的实例规格、地域和网络方案会影响计算及通信表现。CPU 密集型服务、内存占用较高的服务,以及对网络吞吐要求较高的服务,关注点并不相同。可以根据业务特征筛选规格,再用实际环境测试比较。实例名称或理论参数不能直接换算成固定 TPS,因为程序实现、系统配置和依赖服务都会改变结果。
电商活动前的例子:加应用机器未必能解决问题
假设某电商团队预计活动期间入口峰值为每秒 1200 次请求,其中订单相关请求约占三成。初步压测时,应用服务器 CPU 还有余量,数据库连接等待却明显增加,P99 响应时间也持续上升。此时如果只增加 ECS 实例,更多应用进程可能同时连接数据库,连接竞争会进一步加重。
团队拆分调用链后发现,商品详情请求以读取为主,可以通过缓存分担数据库压力;数据库连接池也需要调整。一些不影响下单结果的通知任务,则可以改为异步处理,避免占用主请求链路。完成调整后,团队分别对应用和数据库压测,并逐步增加应用实例,同时测试缓存失效、数据库变慢和单台实例退出等情况。
达到团队设定的响应时间和错误率门槛后,才确定正式容量。这个例子不能用来推算其他项目需要几台服务器:相同的入口 TPS,在缓存命中率、SQL 写法或外部接口延迟不同的情况下,资源需求可能完全不同。它说明的是排查顺序——先定位限制吞吐量的环节,再决定扩哪一层。
压测要贴近真实请求,记录瓶颈出现的位置
压测尽量使用接近真实业务的请求比例、数据规模和调用链。测试环境与生产环境的实例规格、网络、数据库配置如果差异较大,结论就不能直接照搬。测试时分阶段增加负载,记录 TPS、P95 和 P99 响应时间、错误率,以及 CPU、内存、磁盘 I/O、网络流量、数据库连接数和慢查询。
如果 TPS 还在增长,P99 却突然变差,或错误率开始上升,应重点检查这个拐点附近的变化。常见原因包括 CPU 饱和、线程池或连接池耗尽、锁竞争、慢 SQL、缓存穿透,以及依赖服务响应变慢。发现问题后先针对性调整,再用相同请求和数据重复测试。只看调整后的某一个指标,容易把瓶颈转移误判为问题解决。
按瓶颈提升承载能力
- 排查热点操作:先看慢 SQL、重复计算和不必要的远程调用。减少单笔事务的资源消耗,往往比直接加机器更有针对性。
- 谨慎使用缓存:重复读取的数据适合缓存,但要设计好更新和过期规则,也要考虑缓存失效时如何避免请求集中打到数据库。
- 缩短同步链路:不影响主流程的任务可以交给消息队列异步处理。下单结果、库存校验等关键环节则应根据业务一致性要求设计,不能为了提速一概改成异步。
- 规划扩缩容:应用层可以结合负载和监控设置伸缩策略,但要考虑扩容耗时、实例冷启动,以及数据库等下游是否有余量。
- 检查故障切换:通过多实例减少单点故障风险,同时确认数据库、缓存等关键依赖出现故障时,系统能否按预期降级或切换。
容量规划也要覆盖网络访问、数据存储、备份、安全策略和监控告警。资源不是越多越好:长期闲置会增加成本,容量不足则可能影响用户体验。可以从经过验证的规模起步,持续观察真实流量和资源曲线,再按业务变化调整。
把目标 TPS 落到可验证的容量方案
选择 tps 阿里云服务器,没有适用于所有业务的“TPS 对应配置”表。先明确日常与峰值目标,拆解请求链路,分别核算应用和依赖服务,再用接近生产环境的压测验证。确认目标负载下响应时间和错误率可接受后,再安排冗余和扩容,配置才有依据,也更容易控制性能与成本。