What is Cold Start?

En el contexto de la computación sin servidor, un "inicio en frío" se refiere a la latencia por primera vez o al tiempo que tarda una función en comenzar a procesarse después de que no se ha llamado durante mucho tiempo. Para ilustrar, cuando una computadora se enciende después de apagarse, puede necesitar algo de tiempo para alcanzar su máximo rendimiento.

Los inicios en frío son fundamentales para cualquiera que esté comenzando con arquitecturas sin servidor. Influye en el rendimiento y la usabilidad de su aplicación, especialmente en lo que respecta a las interacciones en las que las duraciones de tiempo de espera deben cumplirse en el menor tiempo posible.

Los inicios en frío ocurren bajo las siguientes circunstancias.

• Primera invocación: Tiene dos casos; el primero es cuando se llama a una función por primera vez después de la implementación de las aplicaciones o después de la actualización del código.
• Escalado desde cero: When a function expands from having no occurrences and receives calls after a while of non-operation.
• Resource Reallocation: When the cloud provider reallocates resources or the function’s base changes to other hosts, it may lead to cold function instances.
• Timeout or Expiration: If a function instance is at max execution time or has exceeded its idle time, it can be terminated, meaning that if it is invoked again, it will start fresh.

A primary challenge associated with cold starts is the additional latency. This latency can be observed in the form of:

• Delayed Responses: While your app generally provides prompt replies, users may occasionally encounter delays that could affect their experience.
• Reduced Throughput: Los inicios en frío pueden requerir un aumento gradual en la capacidad de su aplicación para manejar solicitudes simultáneas, especialmente durante períodos de uso intensivo.
• Variaciones de rendimiento: El grado en que las duraciones de inicio en frío cambian con el tiempo puede influir en la efectividad de la aplicación, planteando posibilidades tanto para agilizar los tiempos de respuesta como para solidificar la constancia.

La duración de un inicio en frío de Lambda puede variar según diferentes factores, como:

• Tamaño de la función y dependencias: Cuanto más grande sea la función, más dependencias están involucradas y más tiempo tarda el inicio en frío típico.
• Entorno de ejecución: El entorno de ejecución inicial seleccionado (por ejemplo, Node.js, Python, Java, etc.) determina necesariamente un factor como el tiempo de inicio en frío debido a las diferencias en los procesos de inicialización y carga.
• Optimizaciones del proveedor de la nube: Over time, cloud providers consistently provide optimizations to reduce cold start time as much as possible; however, it isn’t fixed or predictable.

Overall, Lambda’s cold starts can vary between half a second and a few seconds. Thus, to get accurate data and to observe how cold start durations reflect the needs of your functions and environment to gain accurate insights.

Here are some ways you can reduce or at least deal with Lambda’s cold starts:

• Function Optimization:
  • Delete unused code and dependencies to reduce the function size.
  • Tree-shaking or code-splitting methods should be used to reduce the amount of loaded code during initialization.
  • Improve package distribution and package dependency resolved workflows.

• Provisioned Concurrency:

Configure provisioned concurrency to maintain the specific number of function instances active so that the incoming requests do not cause a cold start for those instances.

• Warm-up Requests:

A veces, es necesario enviar algunas solicitudes ficticias a sus funciones para que se calienten cuando lleguen las solicitudes reales del usuario.

• Procesamiento asincrónico:

Para operaciones no críticas, puede ser mejor refactorizar las solicitudes de usuario de las funciones introduciendo otros patrones asincrónicos para que los inicios en frío tengan un efecto mínimo.

• Almacenamiento en caché:

Introduzca mecanismos de almacenamiento en caché adecuados que almacenen datos a los que se accede con frecuencia o resultados precalculados para reducir el número de invocaciones de funciones y, por lo tanto, disminuir las ocurrencias de inicios en frío.