Qu'est-ce que l'auto-scaling dans le SaaS ?

L'auto-scaling est une fonctionnalité qui ajuste les ressources d'une application SaaS à la hausse ou à la baisse en fonction de l'utilisation actuelle. Lorsqu'il y a plus d'utilisateurs, l'auto-scaling augmente les ressources disponibles ; à l'inverse, il les diminue pendant les périodes creuses. Kubernetes’ Horizontal Pod Autoscaler, for example, checks usage every 15 seconds by default.

SaaS companies need auto-scaling because they often don’t know when traffic is going up or down. While it’s sometimes predictable (e.g., a product launch), sudden global events and unexpected spikes are where auto-scaling should be deployed.

Reasons Pour use auto-scaling in your SaaS business include:

• Performance : Utilisez la mise à l'échelle automatique pour que votre site ou votre application fonctionne de manière optimale pendant les périodes de forte affluence ; sans cela, vous pourriez rencontrer des interruptions de service.
• Disponibilité : Auto-scaling supports the reachability of sites, products, and services as demand fluctuates, while a load balancer manages traffic distribution among auto-scaled servers.
• Optimisation des coûts : Utilisez la mise à l'échelle automatique pour augmenter et réduire en fonction de l'utilisation en temps réel ; vous risquez des dépenses inutiles si vous utilisez une autre méthode.

Auto-scaling is triggered by cloud performance metrics, checked at intervals (every 15 seconds by default in Kubernetes), such as:

• Utilisation du processeur : La quantité de processeur utilisée à un moment donné.
• Utilisation de la mémoire : La quantité de mémoire utilisée par une application ou un site Web en temps réel.
• Trafic réseau : Data received and sent over the network.
• Latence de requête : Response times to user requests; this partly depends on how many users are on the same server.
• Longueur de la file d'attente : Demandes de file d'attente en attente ; la mise à l'échelle automatique est déclenchée lorsque ce nombre est plus élevé.

Différentes stratégies de mise à l'échelle automatique fonctionnent dans différents scénarios. Voici une liste de certaines stratégies courantes et quand vous devriez les utiliser :

• Suivi des cibles : Moves resources based on a metric like average queue length; AWS strongly recommends it for EC2 Auto Scaling (AWS).

• Mise à l'échelle par paliers : Scales within thresholds you set, in steps sized to the breach; use when target tracking is not enough.

• Mise à l'échelle planifiée : Mise à l'échelle en fonction des heures programmées ; à utiliser si vous connaissez les modèles de trafic quotidiens ou hebdomadaires.

Exemples de sociétés SaaS qui utilisent la mise à l'échelle automatique en fonction de la demande :

• Shopify : Runs microservices on Google Kubernetes Engine, which Google says scales during traffic spikes such as Black Friday (Google Cloud).

• Slack : Autoscales its web app tier quickly when workers become saturated (Slack Engineering, 2020).

• Netflix : Auto-scaling parameters are set to manage traffic when more viewers are online (e.g., evenings, en tant que Netflix patent on predictive scaling filed in 2013 describes).