Co to jest automatyczne skalowanie w SaaS?

Automatyczne skalowanie to funkcja, która dostosowuje zasoby aplikacji SaaS w górę lub w dół w oparciu o bieżące wykorzystanie. Gdy użytkowników jest więcej, automatyczne skalowanie zwiększa dostępne zasoby, a gdy jest ich mniej, zmniejsza je. Kubernetes’ Horizontal Pod Autoscaler, for example, checks usage every 15 seconds by default.

SaaS companies need auto-scaling because they often don’t know when traffic is going up or down. While it’s sometimes predictable (e.g., a product launch), sudden global events and unexpected spikes are where auto-scaling should be deployed.

Reasons Do use auto-scaling in your SaaS business include:

• Wydajność: Używaj automatycznego skalowania, aby Twoja witryna lub aplikacja działały optymalnie w okresach dużego ruchu; bez niego możesz napotkać przerwy w świadczeniu usług.
• Dostępność: Auto-scaling supports the reachability of sites, products, and services as demand fluctuates, while a load balancer manages traffic distribution among auto-scaled servers.
• Optymalizacja kosztów: Używaj automatycznego skalowania, aby skalować w górę i w dół w oparciu o wykorzystanie w czasie rzeczywistym – ryzykujesz niepotrzebnymi wydatkami, jeśli użyjesz alternatywnej metody.

Auto-scaling is triggered by cloud performance metrics, checked at intervals (every 15 seconds by default in Kubernetes), such as:

• Wykorzystanie procesora: Ilość procesora używana w danym momencie.
• Wykorzystanie pamięci: Ile pamięci aplikacja lub strona internetowa wykorzystuje w czasie rzeczywistym.
• Ruch sieciowy: Data received and sent over the network.
• Opóźnienie żądania: Response times to user requests; this partly depends on how many users are on the same server.
• Długość kolejki: Oczekujące żądania w kolejce; automatyczne skalowanie w górę jest uruchamiane, gdy ta wartość jest wyższa.

Różne zasady automatycznego skalowania działają w różnych scenariuszach. Oto lista kilku typowych zasad i informacje o tym, kiedy należy ich używać:

• Śledzenie celu: Moves resources based on a metric like average queue length; AWS strongly recommends it for EC2 Auto Scaling (AWS).

• Skalowanie krokowe: Scales within thresholds you set, in steps sized to the breach; use when target tracking is not enough.

• Skalowanie zaplanowane: Skalowanie w oparciu o zaplanowane czasy; użyj, jeśli znasz dzienne lub tygodniowe wzorce ruchu.

Przykłady firm SaaS, które wykorzystują automatyczne skalowanie w oparciu o zapotrzebowanie:

• Shopify: Runs microservices on Google Kubernetes Engine, which Google says scales during traffic spikes such as Black Friday (Google Cloud).

• Slack: Autoscales its web app tier quickly when workers become saturated (Slack Engineering, 2020).

• Netflix: Auto-scaling parameters are set to manage traffic when more viewers are online (e.g., evenings, jako Netflix patent on predictive scaling filed in 2013 describes).