Kubernetes と GPU の運用をもっと簡単に

Wave はお客様のクラスタの中で、Kubernetes ワークロードのサイジング、スケーリング、診断を行います。チームは、適切なサイズの requests、トラフィックに合わせて増減するレプリカ、障害ごとの原因を、1 つのコンソールで得られます。

Wave なし

Wave のない Kubernetes クラスタKubernetes クラスタAPI サーバーHPAKarpenter約 30 秒後に反応コールドノード約 31 秒nodeOOMKilled、原因不明nodePendingGPU nodeGPUGPUGPUGPU1 つのジョブが GPU 1 枚を占有

オンコール担当がダッシュボードとアラートを手作業でつなぐ

各部分がばらばらに動き、クラスタ全体を見る場所がありません。

約 30 秒・約 31 秒は Wave 機能ページより。Pod 数と GPU 数は例示です。

Wave あり

Wave を導入した同じクラスタKubernetes クラスタPod と GPU を 1 つのレイヤーでサイジング・スケーリング・診断API サーバーレプリカ約 10 秒・ウォームノードnodeWave Agent実使用に合わせるnodeWave Agent原因を表示GPU nodeGPUGPUGPUGPUWave GPU + HAMiGPU 1 枚を複数のジョブで共有

チームは 1 つのコンソールですべてを確認

1 つのレイヤーがクラスタ全体を見て対処します。

約 10 秒は Autopilot 機能ページより。 Kubernetes アイコン: Kubernetes コミュニティ、Apache-2.0。

GPU と AI インフラ

GPU の 5 つの課題と、それぞれに合わせた構成

それぞれ単独でも、まとめてでも導入できます。

現在: サーバーごとに SSH. 導入後: 空き GPU に自動配置.現在導入後サーバーごとに SSH空き GPU に自動配置
GPU Cluster Foundation

あるサーバーではジョブが待ち、別のサーバーは遊んでいます

サービス2~3 週間、協議後に確定
GPU Cluster Foundation →
現在: 利用者増で遅延. 導入後: 負荷テストで決定.現在導入後LLMLLMLLMLLM利用者増で遅延負荷テストで決定
LLM Serving

利用者が増えるほど社内 LLM が遅くなります

サービス2~3 週間、協議後に確定
LLM Serving →
現在: チームごとのツール. 導入後: 1 つの基盤で割当.現在導入後チームごとのツール1 つの基盤で割当
AI Platform (Run:ai)

チームごとに GPU とツールがばらばらです

サービス2~3 週間、協議後に確定
AI Platform (Run:ai) →
現在: 1 ジョブがカード占有. 導入後: 1 枚に複数ジョブ.現在導入後GPUGPU1 ジョブがカード占有1 枚に複数ジョブ
HAMi Enterprise

小さなジョブが GPU カード 1 枚を丸ごと使います

ライセンス3 週間のパイロット後に決定
HAMi Enterprise →
現在: 使用量が不明. 導入後: カード・ジョブ別表示.現在導入後????使用量が不明カード・ジョブ別表示
Wave GPU

誰がどの GPU を使っているか誰もわかりません

ライセンス3 週間のパイロット後に決定
Wave GPU →

どこから始めるか迷っていますか?

GPU サーバーと主なワークロードを教えてください。

お問い合わせ
エンタープライズの課題

自分のクラスタで確認できる 6 つの問題

各カードは出典のある数字から始まります。カードを開くと、Wave が何を変えるかがわかります。

使用量より大きい requests と、使用量に合わせた requestsWave なしWave ありrequests ≫ 使用量使用量に合わせる
Wave Sizing

CPU 10 コア分を払い、使うのは 1 コアです

Pod は実際よりはるかに多くを要求し、どの値が安全か誰にもわかりません。メモリ使用率は平均 23% です。

CAST AI, 2025 Kubernetes Cost Benchmark Report

Smart Sizing →
再起動の繰り返しと、原因を確認できる障害情報Wave なしWave ありOOMKilled再起動、原因なし種類 + ログ保存
Wave Diagnosis

Pod が 5 分ごとに再起動しても、kubectl get には CrashLoopBackOff しか表示されません

影響の大きい Kubernetes 障害の解決には中央値で 51 分かかり、39% は 1 時間以上かかります。

kubernetes.io, Pod Lifecycle; Komodor, 2025 Enterprise Kubernetes Report

Pod / コンテナ障害 →
散らばった 6 つの一覧と、1 本の経路Wave なしWave ありkubectl 一覧 6 つ1 本の経路
Platform & Observability

/checkout を処理するのはどの Pod? 調べるには kubectl の一覧が 6 つ必要です

Gateway、HTTPRoute、Service、EndpointSlice、Pod、Node はそれぞれ別の一覧です。エンジニアはすでに業務時間の 33% を障害対応に使っています。

Kubernetes Gateway API と core API; New Relic, 2025 Observability Forecast

Cluster Map →
最初の新しい Pod: 31 秒、そして 3 秒 (Wave の 1 回のベンチマーク)Wave なしWave あり最初の Pod: 31 秒最初の Pod: 3 秒
Wave Karpenter

ノードが起動する間、新しい Pod は 31 秒間 Pending のままです

Karpenter はデフォルトでは、Pod が Pending になってから初めてノードを起動します。Wave の 1 回のベンチマークで、最初の新しい Pod はノードとイメージを 31 秒待ちました。

Wave 3.1.0 リリース記事、1 回のベンチマーク、最初の新しい Pod

Node Warmup →
ピークに遅れるレプリカと、ピーク前に揃うレプリカWave なしWave ありPod が遅れるPod が先に揃う
Wave Autoscale

9 時にログインが集中: HPA が Pod を 10 個から 80 個に増やすのに 30 秒以上かかります

ピークが来るとわかっていても、HPA は負荷が来てから動き始め、15 秒ごとに Pod を最大 2 倍にしか増やせません。

kubernetes.io の HPA デフォルト値から計算(Pod 10 個から開始)

Autopilot Scheduler →
リクエストが失敗、そして低優先度だけ拒否Wave なしWave ありリクエスト失敗低優先度だけ拒否
Wave Flow

チケット販売が始まると、トラフィックが以前のピークの 4 倍に達します

ボットとコードを持たないファンにより、リクエストは 35 億件、Ticketmaster の以前のピークの 4 倍に達しました。

Ticketmaster、Eras Tour 先行販売、2022 年 11 月

Wave Flow →
仕組み

Wave がクラスタ内で動く仕組み

Wave は GPU ノードを含むすべてのノードから、メトリクス、ログ、Kubernetes の状態を読み取ります。何を変えるかを判断し、Kubernetes API を通じて適用します。

Kubernetes クラスタ内で動く Wave のシステム構成お使いの Kubernetes クラスタノードWave Agent+ cAdvisor、全ノードにGPU nodeWave AgentDCGM exporterGPUGPUGPUGPU1読む: gRPC でメトリクス送信DCGM から GPU メトリクスStatefulSet、Pod 1 つ何を変えるかを決めるWave CoreAPI、Autopilot、Pod・GPU サイジングWave Intelligenceワークロードごとの ML モデルWave Web ConsolePod と GPU の画面2

メトリクス履歴は PVC 1 つ (40Gi) に保存。外部データベースなし。

3API serverKubernetesHPAレプリカPodsCPU とメモリPVCサイズKarpenterノードIstioWave FlowGPUリクエストチームは Web Console を使用アラートは Slack または webhook へ

1 読む、2 決める、3 変える。すべての変更は Kubernetes API を通ります。GPU リクエストの変更は承認後に適用されます。

構成要素Wave GPUAutopilotSmart SizingKarpenterFlowDiagnosis

信頼できる主要パートナー

AWS EKS Service Ready Partner
Red Hat Partner Program tier 2026 — Ready
HPE
CNCF
はじめる

本番環境まで3ステップ

EKS、GKE、AKS、OpenShift、セルフマネージドのKubernetes 1.26+で動作します。

1

ライセンスキーを申請

200 vCPU 未満のクラスターは無償です。2 つのインストール方法では数秒でメールにてキーを発行します。それ以外は担当者がご案内します。

無料キーを申請する →
2

Helmでインストール

キーとストレージクラスを含むvalues 1つ、helm install 1回。エアギャップクラスタにも対応しています。

$ helm repo add wave-autoscale-helm \ https://release.waveautoscale.io/helm-chart$ helm install wave-autoscale-helm \ wave-autoscale-helm/wave-autoscale-helm \ -f values-ghcr.yaml \ -n wave-autoscale --create-namespace
3

コンソールを開く

ポートフォワードしてサインインすると、Waveがワークロードを自動的に検出します。Autopilotは最初は観察専用モードで動作させることもできます。

$ kubectl port-forward -n wave-autoscale \ svc/wave-autoscale-svc 3025:3025# open http://localhost:3025
デフォルトログイン · admin / waveautoscale
FAQ

よくある質問に明確な回答

すでにHPAを使っています。なぜこれが必要ですか?

HPAはリソース使用量が閾値を越えるかを見るだけで、実際のワークロード性能は見ません。Wave AutopilotはMLベースのワークロード性能モデリングで約10秒以内にスケーリングを判断します。HPAより約2倍速く、閾値のチューニングも不要です。

KEDAと同じものではありませんか?

違います。KEDAはイベント駆動ワークロード(Kafka、キュー)に特化しており、目的が異なります。KEDAはHPAおよびWave Autopilotを補完するもので、代替ではありません。Wave Autopilotは長時間稼働するサービスをワークロード性能に基づいてスケーリングする別の問題を解きます。

リソースサイジングにおいてVPAとの違いは何ですか?

VPAはCPUパーセンタイル統計のみを使うため、固定CPU割り当てが散発的なリクエスト急増に対応できません。Wave Smart SizingはCPUパーセンタイルとリアルタイムのワークロード需要の両方を反映し、最適な成功率を維持します(例: バースト時に1.5コアではなく2.0コアを割り当て)。

Wave FlowはIstioを置き換えますか?

いいえ。Wave FlowはIstioの上で動作し、優先順位シェーピング、仮想ウェイティングルーム、Envoyフィルタやコントロールプレーン拡張による可視性を追加します。既存のIstioメッシュには手を加えず、すべてのリクエストを同等に扱うのではなく、過負荷時の挙動を緩やかにします。

すでにKarpenterを使っています。Wave Karpenterは何を追加しますか?

3 つあります。Karpenter Dashboard は Wave Console で NodePool ごとにノード、1 時間あたりのコスト、Spot 比率、thrashing を表示します。Node Warmup は次の Pod が必要とする前にノードを起動します。Wave の 1 回のベンチマークで、最初の新しい Pod は 31 秒ではなく 3 秒で Ready になりました。Spot Workload Placement はレプリカ番号に応じて、しきい値までの Pod を On-Demand に、残りを Spot に置き、YAML は変更しません。

すでにGrafanaを使っています。Wave Diagnosisはなぜ必要ですか?

Grafanaは指標を見せてくれますが、何が問題かは自分で推測する必要があります。閾値アラートはゆっくり進行する問題をインシデント化するまで見逃します。Wave Diagnosisは5つのML診断(7〜60日のクラスタリソース予測、メモリリーク検知、CPU使用率分析、ポッドスケジューリング遅延検知、アイドルノード検知)を提供し、対症療法から予防的運用へ移行できます。

エアギャップ/オンプレ環境で動作しますか?

はい。Waveは外部依存なしにクラスタ内部だけで動作します。プライベートコンテナレジストリを含むエアギャップ環境に完全対応しています。AWS EKS Service Ready PartnerおよびRed Hat Certified Partnerで、ベアメタルKubernetesでも動作します。

Kubernetes を正しく運用する 準備はできましたか?

ご自身のクラスタの無料 Smart Sizing レポートから始めましょう。クレジットカード不要、ホワイトグローブオンボーディング付き。