NetFUNNEL Integration
CPU、メモリ、最大レプリカのしきい値を超えると NetFUNNEL 待機室の segment をオンにし、クールダウン後にオフにします。ユーザーはエラーではなく列に並んで待ちます。
Pod が maxReplicas の 10 に達すると、新しいユーザーは順番待ちの代わりにエラーを受け取ります
kubernetes.io、HorizontalPodAutoscaler v2 API リファレンスと Horizontal Pod Autoscaling; Ticketmaster、Eras Tour 先行販売に関する声明、2022 年 11 月 19 日。レプリカ 10 個は Wave NetFUNNEL Integration ドキュメントの例から取った説明用の値です。
HPA は maxReplicas を超えられません。kubernetes.io は maxReplicas を「オートスケーラーがスケールアップできるレプリカ数の上限」と説明しています。Deployment がレプリカ 10 個中 10 個を動かしていると、増えたリクエストはすべて同じ 10 個の Pod に向かいます。
上限より下でも、HPA がレプリカを追加できるのは最大で 15 秒ごとです (kubernetes.io)。デフォルトでは、その間に来たユーザーを待たせる場所がありません。
Ticketmaster の 2022 年の先行販売では、トラフィックが以前のピークの 4 倍に達し、Ticketmaster は「キューを安定させるために速度を落とさなければならなかった」と述べています。
maxReplicas の上限: kubernetes.io HPA リファレンス。Segment のオン・オフ、Max Inflow、デフォルトのクールダウン 60 秒: Wave NetFUNNEL Integration ドキュメント。レプリカ 10 個はドキュメントの例から取った説明用の値です。
Wave の仕組み
- HPA最大 15 秒ごとにレプリカを追加
- スケールDeploymentmaxReplicas で止まる、10 / 10
- 待機列なしIngress Gatewayすべてのリクエストを転送、上限のデフォルトは 2^32-1
- 全ユーザーPodsすべてのリクエストを受け、ユーザーにエラー
- Wave Metrics AgentDeployment ごとの CPU とメモリを収集
- 確認Wave設定したしきい値をすべて超過、例: レプリカが最大
- オンNetFUNNEL segmentユーザーは順番を見ながら待ち、Max Inflow まで入場
- その間Autopilotオンなら Pod をスケール、クールダウン (デフォルト 60 秒) 後に segment オフ
NetFUNNEL アカウントを接続
Wave Web コンソールの Settings > NetFUNNEL タブか WaveNetfunnelConnection に tenant ID と organization ID を入力します。現在サポートされている種類は NetFUNNEL SaaS だけです。
Deployment を segment にマッピング
Deployment、Argo Rollout、DeploymentConfig ごとに NetFUNNEL の segment を選び、CPU、メモリ、最大レプリカのしきい値とクールダウンを設定します。CPU とメモリのデータは Wave Metrics Agent が集めます。
Wave が待機列をオン・オフ
設定したしきい値をすべて超えると、Wave はマッピングされた segment をすべてオンにします。各 segment は Max Inflow まで通し、残りのユーザーは自分の順番を見ながら待ちます。メトリクスが下がりクールダウン (デフォルト 60 秒) が終わると、Wave は segment をオフにし、変更ごとに記録を残します。