SaaS에서 자동 확장이란?

자동 확장은 현재 사용량에 따라 SaaS 애플리케이션의 리소스를 늘리거나 줄이는 기능입니다. 사용자가 많아지면 자동 확장은 사용 가능한 리소스를 늘리고, 반대로 사용자가 적은 기간에는 리소스를 줄입니다. 예를 들어, Kubernetes의 Horizontal Pod Autoscaler는 기본적으로 15초마다 사용량을 확인합니다.

SaaS 기업은 트래픽이 언제 증가하거나 감소할지 알 수 없는 경우가 많기 때문에 오토스케일링이 필요합니다. 가끔 예측이 가능할 때도 있지만(예:, 제품 출시), 갑작스러운 글로벌 이벤트나 예상치 못한 트래픽 급증이 발생할 때 오토스케일링을 배포해야 합니다.

이유 최적의 세분화 접근 방식을 SaaS 비즈니스에서 오토스케일링을 사용해야 하는 이유는 다음과 같습니다.

• 성능: 자동 확장을 사용하여 바쁜 기간 동안 사이트나 앱이 최적으로 작동하도록 하세요. 자동 확장 없이는 서비스 중단이 발생할 수 있습니다.
• 가용성: 오토스케일링은 수요 변동에 따라 사이트, 제품 및 서비스의 접속 가능성을 지원하며, 로드 밸런서는 오토스케일링된 서버 간의 트래픽 분산을 관리합니다.
• 비용 최적화: 실시간 사용량에 따라 확장 및 축소를 위해 자동 확장을 사용하세요. 다른 방법을 사용하면 불필요한 비용이 발생할 수 있습니다.

오토스케일링은 다음에 의해 트리거됩니다. 클라우드 성능 지표, 주기적으로 확인됩니다(기본적으로 15초마다 Kubernetes에서):

• CPU 사용률: 특정 시간에 사용되는 CPU 양
• 메모리 사용량: 앱이나 웹사이트가 실시간으로 사용하는 메모리 양
• 네트워크 트래픽: 네트워크를 통해 수신 및 송신된 데이터.
• 요청 대기 시간: 사용자 요청에 대한 응답 시간으로, 이는 일부 동일한 서버에 있는 사용자 수에 영향을 받습니다.
• 대기열 길이: 대기 중인 큐 요청; 이것이 더 높으면 자동 확장이 트리거됩니다.

다양한 자동 확장 정책이 다양한 시나리오에서 작동합니다. 다음은 몇 가지 일반적인 정책과 이를 사용해야 하는 시기 목록입니다.

• 대상 추적: 평균 대기열 길이와 같은 지표를 기준으로 리소스를 이동합니다. AWS는 EC2 Auto Scaling에 이를 강력히 권장합니다 (AWS).

• 단계적 확장: 설정한 임계값 내에서 확장하며, 위반 규모에 맞춰 단계별로 조정됩니다. 대상 추적만으로 충분하지 않을 때 사용하세요.

• 예약 확장: 일일 또는 주간 트래픽 패턴을 알고 있는 경우 사용하는, 예약된 시간에 따라 확장합니다.

수요에 따라 자동 확장을 사용하는 SaaS 회사의 예는 다음과 같습니다.

• Shopify: Google Kubernetes Engine에서 마이크로서비스를 실행하며, Google에 따르면 블랙 프라이데이와 같은 트래픽 급증 시기에 확장됩니다 (Google Cloud).

• Slack: 작업자가 포화 상태가 되면 웹 앱 계층을 신속하게 자동 확장합니다 (Slack Engineering, 2020).

• Netflix: 더 많은 시청자가 온라인에 접속하는 시간대(예:., 저녁 시간대, ~로서 Netflix 특허 )에 트래픽을 관리하도록 자동 확장 매개변수가 설정됩니다. 2013년에 출원된 예측 확장 관련 특허에서 설명합니다).