Che cos'è l'auto-scaling nel SaaS?

L'auto-scaling è una funzionalità che regola le risorse di un'applicazione SaaS in base all'utilizzo corrente. Quando ci sono più utenti, l'auto-scaling aumenta le risorse disponibili, mentre le diminuisce durante i periodi di inattività. L’Horizontal Pod Autoscaler di Kubernetes, ad esempio, controlla l'utilizzo ogni 15 secondi per impostazione predefinita.

Le aziende SaaS hanno bisogno dell'auto-scaling perché spesso non sanno quando il traffico aumenterà o diminuirà. Sebbene a volte sia prevedibile (ad es., il lancio di un prodotto), gli eventi globali improvvisi e i picchi imprevisti sono le situazioni in cui l'auto-scaling dovrebbe essere implementato.

I motivi Per per utilizzare l'auto-scaling nella vostra attività SaaS includono:

• Prestazioni: Usa l'auto-scaling in modo che il tuo sito o la tua app funzioni in modo ottimale durante i periodi di punta; senza di esso, potresti riscontrare interruzioni del servizio.
• Disponibilità: L'auto-scaling supporta la raggiungibilità di siti, prodotti e servizi al variare della domanda, mentre un load balancer gestisce la distribuzione del traffico tra i server scalati automaticamente.
• Ottimizzazione dei costi: Usa l'auto-scaling per aumentare e diminuire in base all'utilizzo in tempo reale: rischi spese inutili se usi un metodo alternativo.

L'auto-scaling è attivato da metriche di prestazioni cloud, verificate a intervalli (ogni 15 secondi per impostazione predefinita in Kubernetes), come:

• Utilizzo CPU: La quantità di CPU utilizzata in un dato momento.
• Utilizzo memoria: Quanta memoria un'app o un sito web sta utilizzando in tempo reale.
• Traffico di rete: Dati ricevuti e inviati sulla rete.
• Latenza richiesta: Tempi di risposta alle richieste degli utenti; questo in parte dipende da quanti utenti si trovano sullo stesso server.
• Lunghezza coda: Richieste di coda in attesa; l'aumento automatico della scalabilità viene attivato quando questo valore è più alto.

Diverse politiche di ridimensionamento automatico funzionano in diversi scenari. Ecco un elenco di alcune di quelle più comuni e quando dovresti usarle:

• Monitoraggio degli obiettivi: Sposta le risorse in base a una metrica come la lunghezza media della coda; AWS lo raccomanda vivamente per EC2 Auto Scaling (AWS).

• Scalabilità a step: Scala entro le soglie impostate, con incrementi proporzionati al superamento della soglia; da utilizzare quando il target tracking non è sufficiente.

• Scalabilità programmata: Scala in base a orari programmati; utilizzare se si conoscono i modelli di traffico giornalieri o settimanali.

Esempi di società SaaS che utilizzano l'auto-scaling in base alla domanda:

• Shopify: Esegue microservizi su Google Kubernetes Engine che, secondo Google, scala durante i picchi di traffico come il Black Friday (Google Cloud).

• Slack: Esegue rapidamente l'autoscaling del suo livello di app web quando i worker diventano saturi (Slack Engineering, 2020).

• Netflix: I parametri di auto-scaling sono impostati per gestire il traffico quando sono online più spettatori (ad es., la sera, in qualità di brevetto di Netflix sullo scaling predittivo depositato nel 2013 descrive).