Co to jest zimny start?

W kontekście obliczeń bezserwerowych “zimny start” odnosi się do opóźnienia przy pierwszym uruchomieniu lub czasu, jaki funkcja potrzebuje na rozpoczęcie przetwarzania po tym, jak nie była wywoływana przez długi czas. Aby to zobrazować, gdy komputer jest włączany po wyłączeniu, może potrzebować trochę czasu, aby osiągnąć pełną wydajność.

Zimne starty są podstawową kwestią dla każdego, kto zaczyna pracę z architekturami bezserwerowymi. Wpływają na wydajność i użyteczność aplikacji, szczególnie w przypadku interakcji, w których czasy przekroczenia limitu czasu muszą być spełnione w jak najkrótszym czasie.

Zimne starty występują w następujących okolicznościach.

• Pierwsze wywołanie: Ma dwa przypadki; pierwszy to gdy funkcja jest wywoływana po raz pierwszy po wdrożeniu aplikacji lub po aktualizacji kodu.
• skalowania od zera: Gdy funkcja rozszerza się z braku wystąpień i odbiera połączenia po pewnym czasie bezczynności.
• Realokacja zasobów: Gdy dostawca chmury przypisuje ponownie zasoby lub jeśli baza funkcji zmieni się na inne hosty, może to prowadzić do wystąpienia zimnych instancji funkcji.
• Limit czasu lub wygaśnięcie: Jeśli instancja funkcji osiągnie maksymalny czas wykonywania lub przekroczy czas bezczynności, może zostać zakończona, co oznacza, że jeśli zostanie ponownie wywołana, uruchomi się od nowa.

Podstawowym wyzwaniem związanym z zimnymi startami jest dodatkowe opóźnienie. To opóźnienie można zaobserwować w postaci:

• Opóźnione odpowiedzi: Chociaż Twoja aplikacja zazwyczaj udziela szybkich odpowiedzi, użytkownicy mogą czasami napotkać opóźnienia, które mogą wpłynąć na ich doświadczenia.
• Zmniejszona przepustowość: Zimne starty mogą wymagać stopniowego zwiększania możliwości obsługi współbieżnych żądań przez Twoją aplikację, szczególnie w okresach dużego obciążenia.
• Odchylenia wydajności: Stopień, w jakim czasy zimnego startu zmieniają się w czasie, może wpływać na skuteczność aplikacji, stwarzając możliwości zarówno usprawnienia czasu reakcji, jak i utrwalenia stałości.

Czas trwania zimnego startu Lambda może się różnić w zależności od różnych czynników, takich jak:

• Rozmiar funkcji i zależności: Im większa jest funkcja, tym więcej zależności jest zaangażowanych, a typowy zimny start trwa dłużej.
• Środowisko wykonawcze: Początkowe wybrane środowisko wykonawcze (na przykład Node.js, Python, Java itp.) koniecznie określa czynnik, taki jak czas zimnego startu, ze względu na różnice w procesach inicjalizacji i ładowania.
• Optymalizacje dostawców chmury: Z czasem dostawcy chmury stale zapewniają optymalizacje w celu maksymalnego skrócenia czasu zimnego startu; jednak nie jest on stały ani przewidywalny.

Ogólnie rzecz biorąc, zimne starty Lambda mogą trwać od pół sekundy do kilku sekund. Dlatego, aby uzyskać dokładne dane i obserwować, w jaki sposób czas trwania zimnego startu odzwierciedla potrzeby Twoich funkcji i środowiska, należy uzyskać dokładne informacje.

Oto kilka sposobów na skrócenie lub przynajmniej poradzenie sobie z zimnymi startami Lambda:

• Optymalizacja funkcji:
  • Usuń nieużywany kod i zależności, aby zmniejszyć rozmiar funkcji.
  • Metody tree-shaking lub code-splitting powinny być używane do zmniejszenia ilości ładowanego kodu podczas inicjalizacji.
  • Popraw dystrybucję pakietów i przepływy pracy z rozwiązanymi zależnościami pakietów.

• Konkurencja dostarczona:

Skonfiguruj dostarczoną konkurencję, aby utrzymać określoną liczbę aktywnych wystąpień funkcji, tak aby przychodzące żądania nie spowodowały zimnego startu dla tych wystąpień.

• Żądania rozgrzewające:

Czasami musisz wysłać kilka fikcyjnych żądań do swoich funkcji, aby zostały rozgrzane, gdy pojawią się żądania rzeczywistych użytkowników.

• Przetwarzanie asynchroniczne:

W przypadku operacji niekrytycznych lepiej jest przebudować żądania użytkowników z funkcji, wprowadzając inne asynchroniczne wzorce, aby zimne starty miały minimalny wpływ.

• Buforowanie:

Wprowadź odpowiednie mechanizmy buforowania, które przechowują często używane dane lub wstępnie obliczone wyniki, aby zmniejszyć liczbę wywołań funkcji, a tym samym zmniejszyć występowanie zimnych startów.