Wat is automatische schaling in SaaS?

Automatisch schalen is een functie die de resources van een SaaS-applicatie omhoog of omlaag aanpast op basis van het huidige gebruik. Wanneer er meer gebruikers zijn, verhoogt automatisch schalen de beschikbare resources - aan de andere kant verlaagt het deze tijdens rustige periodes. De Horizontal Pod Autoscaler van Kubernetes controleert bijvoorbeeld standaard elke 15 seconden het gebruik.

SaaS-bedrijven hebben auto-scaling nodig omdat ze vaak niet weten wanneer het verkeer stijgt of daalt. Hoewel het soms voorspelbaar is (bijv., een productlancering), zijn plotselinge wereldwijde gebeurtenissen en onverwachte pieken de momenten waarop auto-scaling moet worden ingezet.

Redenen om Om auto-scaling te gebruiken in uw SaaS-bedrijf zijn onder andere:

• Prestaties: Gebruik automatische schaling zodat uw site of app optimaal werkt tijdens drukke periodes; zonder dit kunt u te maken krijgen met serviceonderbrekingen.
• Beschikbaarheid: Auto-scaling ondersteunt de bereikbaarheid van sites, producten en diensten wanneer de vraag fluctueert, terwijl een load balancer de verkeersdistributie over auto-scaled servers beheert.
• Kostenoptimalisatie: Gebruik automatisch schalen om op te schalen en af te schalen op basis van realtimegebruik – u riskeert onnodige uitgaven als u een alternatieve methode gebruikt.

Auto-scaling wordt geactiveerd door cloudprestatie-indicatoren, die met tussenpozen worden gecontroleerd (standaard elke 15 seconden in Kubernetes), zoals:

• CPU-gebruik: De hoeveelheid CPU die op een bepaald moment wordt gebruikt.
• Geheugengebruik: Hoeveel geheugen een app of website in realtime gebruikt.
• Netwerkverkeer: Gegevens ontvangen en verzonden over het netwerk.
• Aanvraaglatentie: Reactietijden op gebruikersverzoeken; dit hangt deels af van het aantal gebruikers op dezelfde server.
• Wachtrijlengte: Wachtende wachtrijverzoeken; automatische schaling omhoog wordt geactiveerd wanneer dit hoger is.

Verschillende automatische schalingsbeleidsregels werken in verschillende scenario's. Hier is een lijst met enkele veelvoorkomende en wanneer u ze moet gebruiken:

• Doeltracking: Verplaatst resources op basis van een statistiek zoals de gemiddelde wachtrijlengte; AWS raadt dit ten zeerste aan voor EC2 Auto Scaling (AWS).

• Stapsgewijze schaling: Schaalt binnen de door u ingestelde drempelwaarden, in stappen die zijn afgestemd op de overschrijding; te gebruiken wanneer target tracking niet volstaat.

• Geplande schaling: Schaalt op basis van geplande tijden; gebruik dit als u dagelijkse of wekelijkse verkeerspatronen kent.

Voorbeelden van SaaS-bedrijven die automatisch schalen op basis van vraag zijn:

• Shopify: Draait microservices op Google Kubernetes Engine, wat volgens Google schaalt tijdens verkeerspieken zoals Black Friday (Google Cloud).

• Slack: Schaalt de web-app-laag snel op wanneer workers verzadigd raken (Slack Engineering, 2020).

• Netflix: Auto-scalingparameters worden ingesteld om het verkeer te beheren wanneer er meer kijkers online zijn (bijv.., 's avonds, als een Het patent van Netflix op voorspellend schalen, ingediend in 2013, beschrijft).