Autopilot
워크로드별 ML 모델을 사용한 실시간 수평 Pod 스케일링으로 트래픽 급증에 10초 이내에 반응하여 HPA의 30초 이상 지연을 제거합니다.
개요
표준 HPA는 30초에서 5분이 걸리는 반응적 스케일링에 의존합니다. 트래픽 급증 중에 이 지연은 다운타임, 느린 응답 시간, 고객 경험 저하로 이어집니다. 수동 사전 스케일링은 지속적인 엔지니어링 관심이 필요하고 예상치 못한 트래픽에서 실패합니다.
Autopilot은 각 워크로드에 대해 훈련된 ML 모델로 트래픽 패턴과 워크로드 성능을 학습합니다. 트래픽이 급증하면 Autopilot은 10초 이내에 Pod를 확장해 HPA보다 약 2배 빠르게 반응합니다. 덕분에 서비스는 다운타임 없이 급증을 처리할 수 있습니다.
Autopilot이 더 나은 이유
| 표준 HPA | Wave Autopilot | |
|---|---|---|
| Reaction Time | ~30 seconds to detect and react to load changes | Less than 10 seconds using workload-specific performance models |
| Decision Model | Simple threshold-based rules (CPU > 70% → scale up) | Workload-specific ML models trained on actual traffic patterns |
| Configuration Management | Manual tuning of targets, stabilization windows, and behavior policies | One-click setup with continuous learning and auto-tuning |
비즈니스 결과
HPA의 약 30초 대비 10초 이내에 Pod를 확장하여 다운타임 방지
ML models eliminate over-scaling and under-scaling
Prevent downtime with fast, intelligent scaling
인터랙티브 속도 비교
버튼을 클릭하여 트래픽 급증을 시뮬레이션하고 각 시스템의 반응을 확인하세요
Kubernetes HPA
HPA: 모니터링 중
Wave Autopilot
Autopilot: 준비 완료
약 20초의 우위 – Autopilot은 HPA의 약 30초 대비 10초 이내에 스케일링하여 트래픽 급증 시 서비스 저하를 방지합니다
작동 원리
1. 트래픽 패턴 학습
Autopilot은 각 워크로드의 역사적 트래픽, 응답 시간, 리소스 소비를 관찰합니다.
2. 성능 모델 학습
ML 모델이 워크로드의 실제 트래픽 패턴과 성능을 학습해 부하에 맞는 replica 수를 계산합니다.
3. 사전 스케일링
Autopilot이 트래픽이 증가하기 전에 Pod를 자동으로 확장하여 원활한 처리 보장.
4. 다운스케일링 최적화
트래픽 감소 시 Autopilot이 안전하게 다운스케일하여 리소스 낭비 및 비용 방지.