Що таке холодний старт?

У контексті безсерверних обчислень «холодний старт» відноситься до затримки першого запуску або часу, необхідного для того, щоб функція почала обробку після того, як її не викликали протягом тривалого часу. Наприклад, коли комп’ютер вмикається після вимкнення, йому може знадобитися деякий час, щоб досягти повної продуктивності.

Холодні старти є фундаментальними для тих, хто починає з безсерверних архітектур. Це впливає на продуктивність та зручність використання вашого додатку, особливо щодо взаємодій, де тривалість тайм-ауту має бути виконана в найкоротші терміни.

Холодні запуски відбуваються за таких обставин.

• Перший виклик: Він має два випадки; перший — коли функцію викликають уперше після розгортання програми або після оновлення коду.
• Масштабування з нуля: Коли функція розширюється, не маючи жодних екземплярів, і отримує виклики після деякого часу бездіяльності.
• Перерозподіл ресурсів: Коли хмарний провайдер перерозподіляє ресурси або якщо база функції змінюється на інші хости, це може призвести до холодних екземплярів функції.
• Тайм-аут або закінчення терміну дії: Якщо екземпляр функції досяг максимального часу виконання або перевищив час простою, його можна завершити, тобто якщо його викликати знову, він почнеться заново.

Основною проблемою, пов'язаною з холодним стартом, є додаткова затримка. Цю затримку можна спостерігати у формі:

• Затримки у відповідях: Хоча ваш додаток зазвичай надає швидкі відповіді, користувачі можуть час від часу стикатися із затримками, які можуть вплинути на їхній досвід.
• Знижена пропускна здатність: Холодні старти можуть вимагати поступового збільшення здатності вашого додатка обробляти одночасні запити, особливо в періоди інтенсивного використання.
• Відхилення продуктивності: Ступінь, до якого тривалість холодного старту змінюється з часом, може вплинути на ефективність програми, створюючи можливості як для оптимізації часу відгуку, так і для зміцнення сталості.

Тривалість холодного запуску Lambda може змінюватися залежно від різних факторів, таких як:

• Розмір функції та залежності: Чим більша функція, тим більше залежностей задіяно, і тим довше триває типовий холодний запуск.
• Робоче середовище: Початкове вибране робоче середовище (наприклад, Node.js, Python, Java тощо) обов’язково визначає такий фактор, як час холодного запуску, через відмінності в процесах ініціалізації та завантаження.
• Оптимізації постачальника хмарних послуг: З часом постачальники хмарних послуг постійно надають оптимізації, щоб максимально скоротити час холодного запуску; однак це не фіксовано і непередбачувано.

Загалом, холодні запуски Lambda можуть тривати від півсекунди до кількох секунд. Таким чином, щоб отримати точні дані та спостерігати, як тривалість холодного запуску відображає потреби ваших функцій і середовища, щоб отримати точні уявлення.

Ось декілька способів, як можна зменшити або принаймні впоратися з холодним запуском Lambda:

• Оптимізація функції:
  • Видаліть невикористаний код і залежності, щоб зменшити розмір функції.
  • Методи tree-shaking або розділення коду слід використовувати, щоб зменшити обсяг завантаженого коду під час ініціалізації.
  • Покращте розподіл пакетів і вирішення залежностей пакетів.

• Забезпечена одночасність:

Налаштуйте забезпечену одночасність, щоб підтримувати певну кількість активних екземплярів функцій, щоб вхідні запити не викликали холодний запуск для цих екземплярів.

• Запити на розігрів:

Іноді вам потрібно надсилати деякі фіктивні запити до своїх функцій, щоб вони були розігріті, коли надійдуть запити реального користувача.

• Асинхронна обробка:

For non-critical operations, it may be better to refactor user requests from functions by introducing other asynchronous patterns so that cold starts have minimal effect.

• Кешування:

Introduce appropriate caching mechanisms that store frequently accessed data or pre-computed results to reduce the number of function invocations and thus decrease the occurrences of cold starts.