What is Auto-Scaling in SaaS?

Auto-scaling is a feature that adjusts a SaaS application’s resources up or down based on current usage. When there are more users, auto-scaling increases available resources – on the flip side, it decreases them during quiet periods. 

SaaS companies need auto-scaling because they often don’t know when traffic is going up or down. While it’s sometimes predictable (e.g. a product launch), sudden global events and unexpected spikes are where auto-scaling should be deployed.

SaaS 비즈니스에서 자동 스케일링을 사용해야 하는 이유는 다음과 같습니다. 

• Performance: Use auto-scaling so that your site or app works optimally during busy periods; without it, you could encounter service disruptions. 
• Availability: You need to implement auto-scaling so customers can access your site, product, and services 24/7.
• 비용 최적화: Use auto-scaling to scale up and down based on real-time usage – you risk needless expenses if you use an alternative method.

자동 스케일링을 트리거하는 데 사용되는 메트릭: 

• CPU 사용률: 특정 시간에 사용되는 CPU 양
• 메모리 사용량: 앱이나 웹사이트가 실시간으로 사용하는 메모리 양
• 네트워크 트래픽: 사이트 방문자와 앱 사용자의 유입 및 유출.
• 요청 대기 시간: 사용자 요청에 대한 응답 시간. 이는 동일한 서버에 있는 사용자 수에 따라 달라집니다. 
• 대기열 길이: Pending queue requests; auto-scaling up is triggered when this is higher.

Different auto-scaling policies work in varying scenarios. Here’s a list of some common ones and when you should use them: 

• Target Tracking: Moves resources based on a metric like average queue lengths; use when you know your workloads. 

• Step Scaling: Scales within thresholds you set; use if you’re a beginner.

• Scheduled Scaling: Scales based on scheduled times; use if you know daily or weekly traffic patterns.

Examples of SaaS companies that use auto-scaling based on demand are: 

• Shopify: Sets parameters to auto-scale resources during high-traffic times, such as Black Friday and the Holiday Season.

• Slack: 필요에 따라 자원을 할당하기 위해 피크 메시징 시간(예: 업무 시간)을 고려합니다.

• Netflix: 더 많은 시청자가 온라인에 있을 때(예: 저녁과 주말) 트래픽을 관리하도록 자동 확장 매개변수가 설정됩니다.