可扩展性和弹性
SaaS 中的自动扩展是什么?
什么是自动伸缩?
自动伸缩是一项功能,它会根据当前使用情况调整 SaaS 应用程序的资源,向上或向下调整。当用户增加时,自动伸缩会增加可用资源;反之,在空闲时段会减少资源。 例如,Kubernetes 的 Horizontal Pod Autoscaler 默认每 15 秒检查一次使用情况。
SaaS 自动扩展是如何工作的?
SaaS 公司需要自动扩展,因为他们通常不知道流量何时上升或下降。虽然有时这是可以预测的(例如, 产品发布),但突然发生的全球事件和意料之外的流量激增才是应该部署自动扩展的地方。
自动扩展对SaaS企业及其客户的主要好处是什么?
在您的 SaaS 业务中使用自动扩展的 为了 原因包括:
- 性能: 使用自动扩展,以便您的网站或应用程序在繁忙时段能够最佳运行;如果没有它,您可能会遇到服务中断。
- 可用性: 自动扩展支持网站、产品和服务的可访问性,使其随需求波动而调整,而 负载均衡器则管理自动扩展服务器之间的流量分配.
- 成本优化: 使用自动扩展根据实时使用情况进行向上和向下扩展——如果您使用其他方法,则会面临不必要的费用风险。
通常使用哪些指标来触发自动扩展事件?
自动扩展由 云性能指标触发,并定期进行检查(在 Kubernetes中默认每 15 秒检查一次),例如:
- CPU 利用率: 在任何给定时间正在使用的 CPU 量。
- 内存使用量: 应用程序或网站实时使用的内存量。
- 网络流量: 通过网络接收和发送的数据。
- 请求延迟: 对用户请求的响应时间;这 部分 取决于同一台服务器上有多少用户。
- 队列长度: 待处理的队列请求;当此值较高时,会触发自动向上扩展。
自动扩展策略有哪些不同类型,以及何时使用每种类型?
不同的自动扩展策略适用于不同的场景。以下是一些常见的策略以及您应该何时使用它们:
- 目标追踪: 根据平均队列长度等指标移动资源; AWS 强烈推荐将其用于 EC2 Auto Scaling(AWS).
- 步进式扩展: 在您设置的阈值内进行扩展,并根据超出程度调整步长;在目标跟踪不够用时使用.
- 计划扩缩: 根据计划的时间进行扩展;如果您了解每日或每周的流量模式,请使用此选项。
| 策略类型 | 主要特征 | 最佳用例 |
|
扩展方法 |
||
| 目标跟踪 | 根据特定指标(如平均队列长度)调整资源 | 大多数情况下,参考 AWS 的 EC2 Auto Scaling 指南 |
| 步进式扩展 | 在用户预设阈值内扩展资源 | 当目标跟踪不够用时 |
| 计划扩展 | 在预定时间扩展资源 | 当每日或每周流量模式一致时 |
|
可扩展性注意事项 |
||
| 灵活性 | 目标跟踪:适应性最强 | 计划扩展:灵活性最差 |
有哪些 SaaS 企业成功利用自动扩展来满足波动需求的真实案例?
以下是使用基于需求的自动扩展的 SaaS 公司示例:
- Shopify: 在 Google Kubernetes Engine 上运行微服务,Google 表示该引擎可在黑色星期五等流量高峰期间进行扩展(Google Cloud).
- Slack: 在工作进程达到饱和时快速自动扩展其 Web 应用层(Slack Engineering, 2020).
- Netflix: 设置自动扩展参数以在更多观众在线时管理流量(例如., 晚上,作为 Netflix 专利 于 2013 年提交的预测性扩展专利描述了).
结论
SaaS公司应使用自动扩展来管理高低活动期间的资源。Amazon Web Services、Pepperdata和Google Cloud是三个具有自动扩展功能的工具。请考虑您是否需要目标跟踪、步进扩展或计划扩展。
准备好开始了吗?
我们理解您的处境。让我们分享二十余载的经验,助您实现全球化梦想。