Масштабируемость и эластичность
Що таке автомасштабування в SaaS?
Що таке автомасштабування?
Автомасштабування — це функція, яка регулює ресурси програми SaaS вгору або вниз залежно від поточного використання. Коли користувачів стає більше, автомасштабування збільшує доступні ресурси, а в спокійні періоди — зменшує їх. Наприклад, Horizontal Pod Autoscaler у Kubernetes’ за замовчуванням перевіряє використання кожні 15 секунд.
Як працює автомасштабування SaaS?
SaaS-компаніям потрібне автомасштабування, оскільки вони часто не знають, коли трафік зросте чи впаде. Хоча іноді це можна передбачити (наприклад,, запуск продукту), саме під час раптових глобальних подій та неочікуваних сплесків слід розгортати автомасштабування.
Які основні переваги автоматичного масштабування для бізнесу SaaS та їхніх клієнтів?
Причини Щоб використовувати автомасштабування у вашому SaaS-бізнесі включають:
- Продуктивність: Використовуйте автоматичне масштабування, щоб ваш сайт або програма працювали оптимально в періоди високого навантаження; без нього ви можете зіткнутися з перебоями в роботі служби.
- Доступність: Автомасштабування підтримує доступність сайтів, продуктів і послуг при коливаннях попиту, тоді як балансувальник навантаження керує розподілом трафіку між серверами, що масштабуються.
- Оптимізація витрат: Використовуйте автоматичне масштабування для збільшення та зменшення масштабу на основі використання в режимі реального часу - ви ризикуєте зайвими витратами, якщо використовуєте альтернативний метод.
Які показники зазвичай використовуються для запуску подій автоматичного масштабування?
Автомасштабування запускається метриками продуктивності хмари, які перевіряються через певні інтервали (за замовчуванням кожні 15 секунд у Kubernetes), такими як:
- Використання ЦП: Кількість ЦП, що використовується в будь-який момент часу.
- Використання пам'яті: Скільки пам'яті використовує програма або веб-сайт у режимі реального часу.
- Мережевий трафік: Дані, отримані та надіслані через мережу.
- Затримка запиту: Час відповіді на запити користувачів; це частково залежить від того, скільки користувачів перебуває на одному сервері.
- Довжина черги: Запити черги очікування; автоматичне масштабування вгору запускається, коли це значення вище.
Які існують типи політик автоматичного масштабування і коли їх слід використовувати?
Різні політики автоматичного масштабування працюють у різних сценаріях. Ось список деяких поширених політик і коли їх слід використовувати:
- Відстеження цілей: Переміщує ресурси на основі такої метрики, як середня довжина черги; AWS наполегливо рекомендує її для EC2 Auto Scaling (AWS).
- Поетапне масштабування: Масштабує ресурси в межах встановлених вами порогових значень, кроками відповідно до масштабу порушення; використовуйте, коли відстеження цільових показників недостатньо.
- Планове масштабування: Масштабування на основі запланованого часу; використовуйте, якщо ви знаєте щоденні або щотижневі моделі трафіку.
| Тип політики | Ключові характеристики | Найкращі варіанти використання |
|
Підхід до масштабування |
||
| Відстеження цілі | Налаштовує ресурси на основі певних показників, таких як середня довжина черги | Більшість випадків, згідно з посібником AWS’s з EC2 Auto Scaling |
| Покрокове масштабування | Масштабує ресурси в межах попередньо визначених порогів, встановлених користувачем | Коли відстеження цільових показників недостатньо |
| Планове масштабування | Масштабує ресурси у заздалегідь визначений час | Коли щоденні або щотижневі моделі трафіку є послідовними |
|
Міркування щодо масштабованості |
||
| Гнучкість | Відстеження цілі: Найбільш адаптивне | Планове масштабування: Найменш гнучке |
Наведіть реальні приклади компаній SaaS, які успішно використовують автоматичне масштабування для задоволення мінливого попиту?
Прикладами компаній SaaS, які використовують автоматичне масштабування на основі попиту, є:
- Shopify: Запускає мікросервіси на Google Kubernetes Engine, який, за заявою Google, масштабується під час сплесків трафіку, таких як Чорна п'ятниця (Google Cloud).
- Slack: Швидко масштабує свій рівень вебдодатків, коли робочі процеси стають перевантаженими (Slack Engineering, 2020).
- Netflix: Параметри автоматичного масштабування налаштовуються для керування трафіком, коли більше глядачів перебувають у мережі (наприклад,., вечорами, як Netflix patent щодо прогнозованого масштабування, поданий у 2013 році, описує).
Висновок
Компаніям SaaS слід використовувати автоматичне масштабування для управління ресурсами під час високої та низької активності. Amazon Web Services, Pepperdata і Google Cloud — це три інструменти з автоматичним масштабуванням. Подумайте, чи потрібне вам відстеження цілей, покрокове масштабування чи заплановане масштабування.