Autopilot Scheduler
cron スケジュールで Autopilot プリセットを適用し、予定されたピークの前にレプリカを用意して、ピーク後はデフォルトに戻します。
9 時にログインが集中: HPA が Pod を 10 個から 80 個に増やすのに 30 秒以上かかります
kubernetes.io, Horizontal Pod Autoscaling、Google Cloud、The Harris Poll、2019 年。9 時のピークと Pod 数は例示です。
HPA は今見えている負荷に合わせてスケーリングします。9 時に全員がログインすると、負荷が来てから Pod を追加し始めます。
デフォルトでは、HPA が増やせるのは 15 秒ごとに最大 2 倍までです。10 個から 80 個になるには 3 回の増加が必要で、最後の増加は最初の 30 秒後です。
予定されたピークでも障害は起きます。小売業の幹部の 10% が、前年のブラックフライデーまたはサイバーマンデーに自社サイトの障害があったと回答しています (Google Cloud、The Harris Poll、2019 年)。
時刻と Pod 数は例示で、時間軸は実際の比率ではありません。HPA のデフォルトのスケールアップ(15 秒ごとに 100% または Pod 4 個の大きい方): kubernetes.io。プリセットと事前実行: Autopilot Scheduler ドキュメント。
Wave の仕組み
- 負荷が到着9 時に全員がログイン
- 15 秒ごとHPA コントローラー負荷が来てから初めて検知
- 15 秒ごとに最大 2 倍DeploymentPod 10 個、次に 20、40、80 個
- Pod の起動Pod 準備完了ピークが始まった後
- スケジュールUTC の cron: 50 8 * * 1-5
- 早めに開始Wave CoreAutopilot プリセットを 10 分早く適用 (事前実行)
- min 80Kubernetes APIレプリカを 80 に上げる
- 9 時前DeploymentPod 80 個を準備し、期間後はデフォルトに戻る
プリセットを選ぶ
Autopilot プリセットで戦略、しきい値、最小/最大レプリカを決めます。たとえば朝のピークには最小 80 にします。
cron スケジュールを設定
Deployment を選び、UTC の cron 式を入力します。キャンペーン開始のような一度きりのイベントには年を指定します。
早めに開始し、終われば元に戻す
事前実行でピークの数分前にプリセットを開始します。期間が終わると、Deployment はデフォルトの設定に戻ります。