コールドスタートとは？

サーバーレスコンピューティングにおける「コールドスタート」とは、長期間呼び出されていなかった関数が処理を開始するまでに要する時間のことです。AI推論では、モデルのロードに数分、あるいはそれ以上の時間がかかることがあります。例えば、NetEase Gamesのあるワークロードでは、実に42分もの時間がかかりました。シャットダウンされていたコンピューターの電源を入れた際、フルパフォーマンスに達するまで時間が必要になるようなものです。

コールドスタートは、サーバーレスアーキテクチャを導入する人にとってよく知られた課題です。アプリケーションのパフォーマンスとユーザビリティに影響を与え、特にタイムアウトを極限まで短くする必要があるインタラクションにおいて顕著です。

コールドスタートは、次の状況で発生します。

• 最初の呼び出し: これは、 アプリケーションのデプロイ後、またはコードの更新後に、関数が初めて呼び出されたときに発生します。
• スケーリング ゼロから: 関数が発生せず、しばらく動作していない後に呼び出しを受け取った場合。
• リソースの再割り当て: クラウドプロバイダーが リソースを再割り当てすると または関数のベースが他のホストに変更されたりすると、コールドな関数インスタンスが発生することがあります。
• タイムアウトまたは有効期限: ファンクションインスタンスが最大実行時間に達するか、アイドル時間を超えると、終了される可能性があります。つまり、再度呼び出された場合は、最初から開始されます。

ウォームスタートはこれとは逆の効果をもたらします。リクエストがまだ実行中のインスタンスに到達するため、セットアップ処理がスキップされます。

コールドスタートに関連する主な課題は、追加のレイテンシです。このレイテンシは、次のような形で観察できます。

• 遅延した応答： アプリは通常、迅速な応答を提供しますが、ユーザーはエクスペリエンスに影響を与える遅延に遭遇することがあります。
• スループットの低下: コールドスタートにより、特に負荷の高い期間において、同時実行リクエストを処理するアプリケーションの能力を段階的に引き上げる必要が生じる場合があります。
• パフォーマンスのばらつき: コールドスタートの数値は呼び出しごとに異なるため、 サーバーレスの 応答時間は、以下なしでは予測できません： サーバーレス監視.

Lambda コールドスタートの期間は、次のようなさまざまな要因によって異なります。

• 関数のサイズと依存関係: 関数が大きいほど、関わる依存関係が増え、一般的なコールドスタートにかかる時間が長くなります。
• ランタイム環境: 初期ランタイム環境の選択（例：Node.js、Python、Javaなど）は、初期化とロードプロセスの違いにより、コールドスタート時間などの要因を必然的に決定します。
• クラウドプロバイダーの最適化: 時間の経過とともに、クラウドプロバイダーはコールドスタート時間を可能な限り短縮するための最適化を継続的に提供していますが、固定または予測可能ではありません。

全体として、Lambdaのコールドスタートは 100ミリ秒未満から1秒以上. ご自身の関数をチェックし、 コールドスタートの所要時間が関数や環境のニーズにどのように反映されているかを確認して、正確なインサイトを得てください。

Lambdaのコールドスタート時間を最小限に抑える方法：

• 関数の最適化:
• 未使用のコードと依存関係を削除して、関数のサイズを削減します。
• 初期化中にロードされるコードの量を減らすには、ツリーシェイキングまたはコード分割メソッドを使用する必要があります。
• パッケージの配布とパッケージの依存関係解決ワークフローを改善します。
• スナップショットからの復元： Lambda SnapStartは、Javaなどの実行環境向けに、関数を再起動する代わりに入力初期化済みの関数の保存済みスナップショットを提供し、 レイテンシーを削減します.
• プロビジョニングされた同時実行:

プロビジョニングされた同時実行を構成して、特定数の関数インスタンスをアクティブに維持し、着信リクエストがそれらのインスタンスのコールドスタートを引き起こさないようにします。

• ウォームアップリクエスト：

場合によっては、実際のユーザーリクエストが到着したときにウォームアップされるように、ダミーリクエストを関数に送信する必要があります。

• 非同期処理：

重要な操作ではない場合は、他の非同期パターンを導入して関数からのユーザーリクエストをリファクタリングし、コールドスタートの影響を最小限に抑える方がよい場合があります。

• キャッシング：

頻繁にアクセスされるデータまたは事前に計算された結果を格納する適切なキャッシュメカニズムを導入して、関数呼び出しの数を減らし、コールドスタートの発生を減らします。 起動時に関数のロードをプリフェッチすることも同様に機能します。NetEase Gamesは、キャッシュを使用してあるAIモデルのロード時間を42分から14分に短縮し、さらにプリフェッチによって3分にまで短縮しました（CNCF, 2026).