Che cos'è l'avvio a freddo?

Nel contesto del serverless computing, un “avvio a freddo” si riferisce alla latenza della prima volta o al tempo necessario affinché una funzione inizi l'elaborazione dopo che non è stata chiamata per un lungo periodo di tempo. Ad esempio, quando un computer viene acceso dopo essere stato spento, potrebbe aver bisogno di un po' di tempo per raggiungere le sue massime prestazioni.

Cold starts are fundamental to anyone who is starting with serverless architectures. It influences your application’s performance and usability, especially concerning interactions where timeout durations must be met in the shortest time possible.

Cold starts occur under the following circumstances.

• First Invocation: It has two cases; the first is when a function is called for the initial time after the deployment of the applications or after the update of code.
• scalabilità from Zero: When a function expands from having no occurrences and receives calls after a while of non-operation.
• Resource Reallocation: When the cloud provider reallocates resources o la base della funzione cambia su altri host, potrebbe portare a istanze di funzione fredde.
• Timeout o scadenza: Se un'istanza di funzione è al tempo massimo di esecuzione o ha superato il suo tempo di inattività, può essere terminata, il che significa che se viene richiamata di nuovo, ripartirà da zero.

Una sfida primaria associata agli avvii a freddo è la latenza aggiuntiva. Questa latenza può essere osservata sotto forma di:

• Risposte ritardate: Sebbene la tua app in genere fornisca risposte rapide, gli utenti potrebbero occasionalmente riscontrare ritardi che potrebbero influire sulla loro esperienza.
• Rendimento ridotto: Gli avvii a freddo potrebbero richiedere un aumento graduale della capacità della tua applicazione di gestire richieste simultanee, specialmente durante i periodi di utilizzo intenso.
• Variazioni delle prestazioni: The degree to which cold start durations change over time may influence application effectiveness, posing possibilities for both streamlining response times and solidifying constancy.

The duration of a Lambda cold start can vary depending on different factors, such as:

• Function Size and Dependencies: The larger the function is, the more dependencies are involved and the longer the typical cold start takes.
• Runtime Environment: The initial runtime environment selected (for example, Node.js, Python, Java, etc.) necessarily determines a factor such as cold start time because of the differences in the initialization and loading processes.
• Cloud Provider Optimizations: Over time, cloud providers consistently provide optimizations to reduce cold start time as much as possible; however, it isn’t fixed or predictable.

Overall, Lambda’s cold starts can vary between half a second and a few seconds. Thus, to get accurate data and to observe how cold start durations reflect the needs of your functions and environment to gain accurate insights.

Ecco alcuni modi per ridurre o almeno gestire gli avvii a freddo di Lambda:

• Ottimizzazione della funzione:
  • Elimina il codice e le dipendenze inutilizzati per ridurre le dimensioni della funzione.
  • I metodi tree-shaking o code-splitting dovrebbero essere utilizzati per ridurre la quantità di codice caricato durante l'inizializzazione.
  • Migliora la distribuzione dei pacchetti e i flussi di lavoro risolti dalla dipendenza del pacchetto.

• Concorrenza fornita:

Configura la concorrenza fornita per mantenere attivo il numero specifico di istanze di funzione in modo che le richieste in arrivo non causino un avvio a freddo per tali istanze.

• Richieste di riscaldamento:

A volte, devi inviare alcune richieste fittizie alle tue funzioni in modo che siano riscaldate quando arrivano le richieste degli utenti reali.

• Asynchronous Processing:

For non-critical operations, it may be better to refactor user requests from functions by introducing other asynchronous patterns so that cold starts have minimal effect.

• Caching:

Introduce appropriate caching mechanisms that store frequently accessed data or pre-computed results to reduce the number of function invocations and thus decrease the occurrences of cold starts.