Autopilot
Deployment마다 자체 성능 모델로 스케일링하며, HPA가 약 30초 걸리는 결정을 약 10초 안에 내립니다.
트래픽이 급증하고, HPA는 약 30초 뒤에야 첫 Pod를 추가합니다
kubernetes.io, Horizontal Pod Autoscaling; kubernetes-sigs/metrics-server; Cast AI, 2026 State of Kubernetes Optimization Report
기본 설정에서 metrics-server는 15초마다 메트릭을 수집하고, HPA는 15초마다 이를 확인합니다. 급증한 트래픽은 HPA가 첫 Pod를 추가하기까지 최대 30초를 기다릴 수 있습니다.
그 뒤에도 HPA는 15초마다 Pod를 최대 4개 또는 현재 Pod의 100%만큼만 추가할 수 있습니다. Pod 10개에서 80개가 되려면 세 번 늘려야 하고, 마지막은 첫 번째보다 30초 뒤입니다.
이 대기를 피하려고 팀은 여분의 레플리카를 계속 실행해 둡니다. Cast AI가 측정한 클러스터의 평균 CPU 사용률은 2025년 8%였습니다.
HPA 약 30초: metrics-server 수집 최대 15초와 HPA 동기화 주기 최대 15초의 합(kubernetes.io, kubernetes-sigs/metrics-server). HPA 스케일업 기본값(15초마다 100% 또는 Pod 4개): kubernetes.io. Autopilot 약 10초: Autopilot 문서. 부하, Pod 수, Autopilot의 이후 단계는 예시입니다.
Wave가 하는 일
kubelet의 cAdvisorPod의 CPU와 메모리를 읽음- 15초마다
metrics-serverPod별 최신 값을 보관 - 15초마다
HPA 컨트롤러레플리카 = ceil(현재 × 메트릭 ÷ 목표) - 스케일
Deployment새 Pod를 시작
Wave AgentcAdvisor와 함께 모든 노드에서 실행- gRPC
Wave Core메트릭 이력을 보관하고 규칙과 쿨다운을 적용 - 이력Wave Intelligence14일간의 동작으로 학습한 이 워크로드의 모델
- 레플리카 수Kubernetes APIWave Core가 레플리카를 설정
워크로드 메트릭 수집
모든 노드의 Wave Agent가 Pod 메트릭을 Wave Core로 보내므로, Autopilot은 현재 수치로 판단합니다.
워크로드별 모델 학습
Autopilot은 기본적으로 14일간의 워크로드 동작으로 ML 모델을 학습해, 주어진 부하에 Pod가 몇 개 필요한지 익힙니다(Autopilot 문서).
약 10초 안에 결정
Autopilot은 모델과 규칙, 쿨다운을 함께 써서 약 10초 안에 레플리카 수를 정합니다. 아직 모델이 없으면 HPA 방식으로 스케일링합니다.
결과
부하 변화부터 스케일링 결정까지, HPA보다 약 2배 빠름
Autopilot 문서; HPA: kubernetes.io 기본값
인터랙티브 속도 비교
버튼을 눌러 트래픽 급증을 시뮬레이션하고, 각 시스템이 언제 스케일링을 결정하는지 확인하세요. 시간은 예시입니다.
Kubernetes HPA
HPA: 모니터링 중
Wave Autopilot
Autopilot: 준비 완료
약 20초 더 빠름: Autopilot은 10초 안에, HPA는 약 30초에 결정하므로 급증 중 Pod가 부족한 시간이 짧아집니다.