Ce este pornirea la rece?

În serverless computing, un „cold start” este timpul necesar pentru ca o funcție să înceapă procesarea după ce nu a mai fost apelată de mult timp. În cazul inferenței AI, încărcarea unui model poate dura minute sau mult mai mult — cum a fost cazul acelei sarcini de lucru de la NetEase Games, unde a durat nu mai puțin de 42 de minute. Când un computer este pornit după ce a fost oprit, poate avea nevoie de timp pentru a ajunge la performanța maximă.

Pornirile la rece sunt bine cunoscute de oricine începe să lucreze cu arhitecturi serverless. Acestea afectează performanța și utilizabilitatea aplicației dumneavoastră, în special în cazul interacțiunilor în care timpii de expirare (timeouts) trebuie să fie cât mai scurți posibil.

Pornirile la rece apar în următoarele circumstanțe.

• Prima invocare: Acest lucru se întâmplă atunci când o funcție este apelată pentru prima dată după implementarea aplicațiilor sau după actualizarea codului.
• Scalare de la zero: Când o funcție se extinde de la a nu avea apariții și primește apeluri după o perioadă de nefuncționare.
• Realocări de resurse: Când furnizorul de cloud realocă resurse sau când baza funcției se mută pe alte gazde, ceea ce poate duce la instanțe de funcții reci.
• Expirare sau expirare: Dacă o instanță de funcție se află la timpul maxim de execuție sau a depășit timpul de inactivitate, aceasta poate fi încheiată, ceea ce înseamnă că, dacă este invocată din nou, va începe de la zero.

O pornire la cald (warm start) are efectul opus: solicitarea ajunge la o instanță care este încă în stare de funcționare, astfel încât configurarea este omisă.

O provocare principală asociată cu pornirile la rece este latența suplimentară. Această latență poate fi observată sub forma:

• Răspunsuri întârziate: Deși aplicația dvs. oferă în general răspunsuri rapide, utilizatorii pot întâmpina ocazional întârzieri care le-ar putea afecta experiența.
• Randament redus: Pornirile la rece ar putea necesita o creștere treptată a capacității aplicației dumneavoastră de a gestiona solicitări concurente, în special în perioadele de utilizare intensă.
• Variații de performanță: Valorile de cold start variază de la o invocare la alta, așa că serverless timpii de răspuns nu pot fi prevăzuți fără monitorizare serverless.

Durata unei porniri la rece Lambda poate varia în funcție de diferiți factori, cum ar fi:

• Dimensiunea și dependențele funcției: Cu cât funcția este mai mare, cu atât sunt implicate mai multe dependențe și cu atât durează mai mult pornirea la rece tipică.
• Mediul de execuție: Mediul de execuție inițial selectat (de exemplu, Node.js, Python, Java etc.) determină în mod necesar un factor precum timpul de pornire la rece din cauza diferențelor în procesele de inițializare și încărcare.
• Optimizări ale furnizorului de cloud: În timp, furnizorii de cloud oferă în mod constant optimizări pentru a reduce cât mai mult posibil timpul de pornire la rece; cu toate acestea, acesta nu este fix sau previzibil.

În general, pornirile la rece ale Lambda pot varia între sub 100 ms și peste 1 secundă. Verificați-vă propriile funcții pentru a observa cum duratele de cold start reflectă nevoile funcțiilor și ale mediului dumneavoastră pentru a obține informații precise.

Minimizați timpul de cold start al Lambda prin:

• Optimizarea funcțiilor:
• Ștergeți codul și dependențele neutilizate pentru a reduce dimensiunea funcției.
• Metodele de tree-shaking sau de împărțire a codului ar trebui utilizate pentru a reduce cantitatea de cod încărcat în timpul inițializării.
• Îmbunătățiți distribuția pachetelor și fluxurile de lucru rezolvate de dependența pachetelor.
• Snapshot Restore: Lambda SnapStart, pentru medii de rulare precum Java, oferă un snapshot salvat al unei funcții inițializate în loc să o pornească din nou pentru a reduce latența.
• Concurență aprovizionată:

Configurați concurența aprovizionată pentru a menține activ numărul specific de instanțe de funcție, astfel încât solicitările primite să nu provoace o pornire la rece pentru acele instanțe.

• Solicitări de încălzire:

Uneori, trebuie să trimiteți câteva solicitări fictive funcțiilor dvs., astfel încât acestea să fie încălzite atunci când sosesc solicitările reale ale utilizatorului.

• Prelucrare asincronă:

Pentru operațiunile non-critice, poate fi mai bine să refactorizați cererile utilizatorilor din funcții prin introducerea altor modele asincrone, astfel încât pornirile la rece să aibă un efect minim.

• Cache:

Introduceți mecanisme de memorare în cache adecvate care stochează date accesate frecvent sau rezultate pre-calculate pentru a reduce numărul de apelări de funcții și, astfel, a diminua aparițiile pornirilor la rece. Preîncărcarea funcției la pornire funcționează în același mod: NetEase Games a redus timpul de încărcare al unui model AI de la 42 la 14 minute cu ajutorul cache-ului, iar apoi la 3 minute prin preîncărcare (CNCF, 2026).