业务有明显的流量高峰和低谷时,固定数量的云服务器很难两头兼顾:机器少了,活动期间响应变慢,严重时可能无法访问;机器多了,低峰期的资源又一直在产生费用。阿里云 auto scaling(弹性伸缩,ESS)可以根据预设规则自动调整实例数量,让计算资源随业务需求变化。
但弹性伸缩不是开通后就能让服务自动变快。它能调整云服务器数量,实际效果还取决于监控指标、伸缩规则、实例启动时间,以及应用和数据库等依赖服务能不能跟上。
阿里云 auto scaling 的基本工作方式
弹性伸缩主要涉及伸缩组、伸缩配置和伸缩规则。伸缩组管理一组云服务器实例,并设置最小、最大和期望实例数;伸缩配置规定新实例采用的镜像、规格、网络和登录等信息;伸缩规则则决定何时增加或减少实例。触发伸缩活动后,系统会按照配置调整实例数量。
触发条件可以来自定时任务,也可以来自监控指标。比如,已知每天晚上八点开始直播,可以安排在开播前扩容;如果流量变化不规律,则可以参考云监控中的 CPU 使用率等指标调整容量。具体可用哪些指标、控制台中如何配置,应以所选产品和当前控制台版本为准。
实例数量增加,不代表服务马上就能处理更多请求。新服务器可能还要启动操作系统、部署应用、连接依赖服务并通过健康检查,之后才能加入负载均衡的可用后端。规划扩容时间时,要把这些环节的耗时算进去。等到用户请求已经排队才开始扩容,往往会错过缓解压力的时机。
一个促销活动中的应用案例
假设一家电商平台平时运行四台应用服务器,促销开始后,访问量可能在短时间内翻倍。团队可以把四台设为日常期望容量,再根据预算和服务要求设定最小值与最大值。用于扩容的新实例应采用经过验证的镜像,预先准备运行环境和应用程序,并通过启动脚本完成必要配置,减少实例上线后的人工操作。
活动开始前,可以参考历史访问情况安排定时扩容,让新实例提前启动;活动期间,再根据负载指标启用动态扩容,以应对高于预期的流量。实例通过负载均衡接收请求前,应先通过健康检查。活动结束后,可由定时任务或动态规则逐步缩容,避免高峰过去后仍长期保留多余资源。
压测也不能省。需要了解单台服务器大致能处理多少请求,并检查数据库和缓存能否承受增加的连接数。如果应用服务器扩容后,数据库连接池很快耗尽,整体服务仍可能出问题。弹性伸缩调整的是计算层容量,不会自动扩大数据库、缓存或其他依赖系统的处理能力。
策略怎么选:定时、动态还是混合
定时伸缩:适合规律明确的负载
工作日流量有固定规律、批处理时间已知,或者活动时间提前确定时,定时伸缩比较容易规划和演练。可以在预计高峰到来前扩容,在负载结束后缩容。不过,实际流量可能早于或晚于预期。只依赖时间表,可能出现机器还没准备好,或高峰结束后资源仍留得太久的情况。
动态伸缩:适合随流量波动的业务
动态策略依据监控数据触发扩缩容。配置时不能只设一个“达到阈值就加机器”的条件,还要考虑监控采样周期、指标持续多久才触发、每次调整多少实例,以及缩容的判断条件。阈值过敏,实例可能频繁增减;阈值设得太高,扩容又可能赶不上流量上涨。
可以先观察一段时间的业务监控数据,再用压测校准参数。规则上线后也要持续检查:扩容完成后指标是否回落,缩容时服务是否仍有余量。不要因为一次波动就反复调整阈值,否则很难判断问题出在规则还是业务本身。
混合策略:先预热,再动态调整
对于既有可预测高峰、又可能出现临时流量波动的业务,可以组合使用两种策略:高峰前通过定时任务扩容,先准备基础容量;高峰期间再由动态规则补充实例;负载下降后逐步缩容。这样能降低实例启动延迟带来的影响,也不必长期按最坏情况保留大量服务器。
上线前容易忽略的细节
- 设好容量边界:明确最小、最大和期望实例数。最大值设得太低,可能无法应对峰值;设得太高,则可能增加费用,也可能把更大压力传给数据库等下游服务。
- 让实例配置保持一致:检查镜像、应用版本、启动脚本和权限。若平时靠人工修改单台机器,新实例可能和现有实例行为不同,导致问题难以复现。
- 检查健康检查和摘除流程:确认新实例就绪后才接收流量;缩容时也要留意正在处理的请求,避免直接中断服务。
- 给扩缩容留出观察时间:实例增加后,监控指标不会立刻反映全部变化。规则触发过快,可能造成重复扩容或实例数量来回波动。
- 核对费用和配额:除了实例本身,也要检查镜像、带宽、负载均衡和磁盘等相关成本,并确认地域、实例规格及账号配额能够满足计划。
- 设置告警并提前演练:关注伸缩活动是否成功、实例是否健康、服务错误率是否上升。上线前可以检查达到最大容量、扩容失败和缩容异常时的处理方式。
让自动伸缩服务于业务
判断阿里云 auto scaling 是否发挥作用,不能只看服务器数量有没有变化。还要检查用户侧的结果,例如响应时间、错误率和请求成功率,并留意单位请求成本是否符合预期。实例增加了,但请求依然失败或延迟没有改善,就需要继续排查应用和下游依赖。
无状态应用通常更容易使用弹性伸缩。如果应用把会话或业务数据保存在本地,自动缩容时就可能丢失状态或中断任务。启用缩容前,应先处理会话共享、数据持久化和任务中断等问题。
较稳妥的做法是先在测试环境或非核心服务上验证实例模板、启动流程和健康检查,再通过压测确认容量边界,最后逐步启用自动扩缩容。监控、应用部署、负载均衡和下游容量都纳入设计后,伸缩规则才更有机会在流量突增时及时发挥作用。