Skalierbarkeit und Elastizität
Was ist automatische Skalierung in SaaS?
Was ist automatische Skalierung?
Automatische Skalierung ist eine Funktion, die die Ressourcen einer SaaS-Anwendung je nach aktueller Nutzung nach oben oder unten anpasst. Wenn mehr Benutzer vorhanden sind, erhöht die automatische Skalierung die verfügbaren Ressourcen – auf der anderen Seite verringert sie diese in ruhigen Zeiten. Kubernetes' Horizontal Pod Autoscaler prüft beispielsweise standardmäßig alle 15 Sekunden die Auslastung.
Wie funktioniert die automatische Skalierung von SaaS?
SaaS-Unternehmen benötigen Auto-Scaling, weil sie oft nicht wissen, wann der Traffic steigt oder fällt. Obwohl dies manchmal vorhersehbar ist (z. B., ein Produktlaunch), erfordern plötzliche globale Ereignisse und unerwartete Spitzen den Einsatz von Auto-Scaling.
Was sind die wichtigsten Vorteile der automatischen Skalierung für SaaS-Unternehmen und ihre Kunden?
Gründe Um für den Einsatz von Auto-Scaling in Ihrem SaaS-Geschäft sind:
- Leistung: Verwenden Sie die automatische Skalierung, damit Ihre Website oder App in Stoßzeiten optimal funktioniert; ohne sie kann es zu Dienstunterbrechungen kommen.
- Verfügbarkeit: Autoskalierung unterstützt die Erreichbarkeit von Websites, Produkten und Diensten bei schwankender Nachfrage, während ein Lastverteiler die Verkehrsverteilung zwischen automatisch skalierten Servern verwaltet.
- Kostenoptimierung: Verwenden Sie die automatische Skalierung, um die Skalierung basierend auf der Nutzung in Echtzeit zu erhöhen und zu verringern – Sie riskieren unnötige Ausgaben, wenn Sie eine alternative Methode verwenden.
Welche Metriken werden normalerweise verwendet, um Ereignisse zur automatischen Skalierung auszulösen?
Autoskalierung wird ausgelöst durch Cloud-Leistungsmetriken, die in Intervallen überprüft werden (standardmäßig alle 15 Sekunden in Kubernetes), wie zum Beispiel:
- CPU-Auslastung: Die Menge an CPU, die zu einem bestimmten Zeitpunkt verwendet wird.
- Speichernutzung: Wie viel Speicher eine App oder Website in Echtzeit verwendet.
- Netzwerkverkehr: Empfangene und gesendete Daten über das Netzwerk.
- Anforderungslatenz: Antwortzeiten auf Benutzeranfragen; dies hängt teilweise davon ab, wie viele Benutzer sich auf demselben Server befinden.
- Warteschlangenlänge: Ausstehende Warteschlangenanfragen; automatische Skalierung wird ausgelöst, wenn dieser Wert höher ist.
Welche verschiedenen Arten von Richtlinien zur automatischen Skalierung gibt es und wann würden Sie jede davon verwenden?
Verschiedene Richtlinien zur automatischen Skalierung funktionieren in unterschiedlichen Szenarien. Hier ist eine Liste einiger gängiger Richtlinien und wann Sie sie verwenden sollten:
- Zielverfolgung: Verschiebt Ressourcen basierend auf einer Metrik wie der durchschnittlichen Warteschlangenlänge; AWS empfiehlt es dringend für EC2 Auto Scaling (AWS).
- Stufenskalierung: Skaliert innerhalb von Schwellenwerten, die Sie festlegen, in Schritten, die an die Überschreitung angepasst sind; verwenden Sie es, wenn das Ziel-Tracking nicht ausreicht.
- Geplante Skalierung: Skaliert basierend auf geplanten Zeiten; verwenden Sie diese Option, wenn Sie die täglichen oder wöchentlichen Verkehrsmuster kennen.
| Richtlinienart | Hauptmerkmale | Beste Anwendungsfälle |
|
Skalierungsansatz |
||
| Zielverfolgung | Passt Ressourcen basierend auf bestimmten Metriken wie durchschnittlichen Warteschlangenlängen an | In den meisten Fällen, gemäß dem EC2 Auto Scaling-Leitfaden von AWS |
| Stufenskalierung | Skaliert Ressourcen innerhalb der vom Benutzer festgelegten Schwellenwerte | Wenn das Ziel-Tracking nicht ausreicht |
| Geplante Skalierung | Skaliert Ressourcen zu festgelegten Zeiten | Wenn tägliche oder wöchentliche Verkehrsmuster konsistent sind |
|
Überlegungen zur Skalierbarkeit |
||
| Flexibilität | Zielverfolgung: Am anpassungsfähigsten | Geplante Skalierung: Am wenigsten flexibel |
Was sind einige Beispiele aus der Praxis für SaaS-Unternehmen, die die automatische Skalierung erfolgreich nutzen, um schwankende Nachfrage zu bewältigen?
Beispiele für SaaS-Unternehmen, die automatische Skalierung je nach Bedarf nutzen:
- Shopify: Betreibt Mikroservices auf Google Kubernetes Engine, die laut Google während Verkehrsspitzen wie am Black Friday skaliert (Google Cloud).
- Slack: Skaliert seine Web-App-Ebene schnell automatisch, wenn Worker ausgelastet sind (Slack Engineering, 2020).
- Netflix: Auto-Scaling-Parameter werden eingestellt, um den Datenverkehr zu verwalten, wenn mehr Zuschauer online sind (z.B.., abends, als Netflix-Patent zur vorausschauenden Skalierung, im Jahr 2013 angemeldet, beschreibt).
Schlussfolgerung
SaaS-Unternehmen sollten die automatische Skalierung nutzen, um Ressourcen bei hoher und niedriger Aktivität zu verwalten. Amazon Web Services, Pepperdata und Google Cloud sind drei Tools mit automatischer Skalierung. Überlegen Sie, ob Sie Zielverfolgung, Stufenskalierung oder geplante Skalierung benötigen.