アイドルノード検出
DaemonSet Pod だけが動き、アプリケーション Pod が約 1 週間ないノードを見つけ、そのノードが抱える CPU とメモリを表示します。
ノードで 1 週間 DaemonSet Pod だけが動き、費用はそのままかかります
kubernetes.io, DaemonSet; Cluster Autoscaler FAQ (GitHub kubernetes/autoscaler); Datadog State of Cloud Costs, 2024。1 週間という期間は説明用の例です。
DaemonSet は、すべて(または一部)のノードで Pod のコピーが 1 つずつ動くようにします(kubernetes.io)。そのため、アプリケーション Pod がないノードでも node-exporter、fluentd、calico-node は動いています。Kubernetes はこのノードをアイドルとは表示せず、クラウドは他のノードと同じように課金します。
Cluster Autoscaler は、ノード上の Pod の request の合計が allocatable の 50% 未満のときだけ、そのノードを削除の候補にします。この合計にはデフォルトで DaemonSet Pod も入ります。すでに最小サイズのノードグループは縮小しません(Cluster Autoscaler FAQ)。
コンテナコストの 83% はアイドルリソースに関連しており、その無駄の約 54% はクラスターインフラの過剰プロビジョニングによるコストである cluster idle です(Datadog State of Cloud Costs, 2024)。
アイドルの基準、約 1 週間、Pod Count: Wave Idle Node Detection ドキュメント。50% の判定と最小サイズ: Cluster Autoscaler FAQ。ノードと Pod の数は説明用の例です。
Wave の仕組み
- DaemonSet使われていてもいなくても全ノードに Pod を置く
- requestCluster AutoscalerDaemonSet Pod も 50% の判定に含める
- 最小サイズノードグループ最小サイズなら縮小しない
- 維持NodeReady のまま課金、表示なし
- Wave Agent全ノードの Pod を報告
- gRPCWave Coreシステム、DaemonSet、アプリケーション Pod に分類
- 分類アイドル期間約 1 週間アプリケーション Pod なし
- 約 1 週間Wave Consoleクラスターごとのアイドル CPU とメモリ
すべての Pod を分類する
Wave は各ノードの Pod を、システム Pod、DaemonSet Pod、そして Deployment、StatefulSet、Job のアプリケーション Pod の 3 つに分けます。アプリケーション Pod が 1 つでもあれば、そのノードは使用中です。
短い状態は除外する
ノードは、デフォルトで約 1 週間アプリケーション Pod がない状態が続いてから表示されます。scale-down の遅延や終わったばかりのバッチ Job では表示されません。Pod が 1 つもないと読まれたノードは、アイドルではなくデータの欠落として扱います。
無駄を表示する
Idle Nodes 画面は、クラスターごとにアイドルノード数、アイドル CPU、アイドルメモリを表示し、ノードごとに種類別の Pod Count を表示します。ノードを drain して削除するか、ワークロードをそのノードに移すか、waveautoscale.io/idle-node-detection="false" アノテーションで残すかは、利用者が決めます。