Cost vs Performance 최적화

Autopilot은 비용 절감과 성능 요구 사이의 균형을 맞추는 두 가지 스케일링 전략을 제공합니다. 워크로드의 비즈니스 중요도와 지연 시간 요구사항에 따라 전략을 선택하세요.

전략 비교

Performance 최적화

동작 방식: 더 큰 용량 버퍼를 유지하고, 레플리카 계산값을 올림 처리하며, 더 낮은 사용률 목표치를 유지합니다.

빠른 설정

Scaling Strategy: Optimize for Performance
Min Replicas: 5
Max Replicas: 30
Gradual Scaling: 120s
Predictive Scaling: Enabled

예상 동작: 10~20%의 여유 용량을 유지하고, 트래픽이 몰리기 전에 미리 스케일 업하며, 짧은 시간의 과잉 프로비저닝은 허용합니다.

Cost 최적화

동작 방식: 더 높은 사용률을 목표로 하고, 일반적인 방식으로 반올림하며, 안정성을 유지하면서도 더 적극적으로 scale down합니다.

빠른 설정

Scaling Strategy: Optimize for Cost
Min Replicas: 2
Max Replicas: 15
Gradual Scaling: 60s
Predictive Scaling: Disabled

예상 동작: 용량 한계치에 가깝게 운영하고, 트래픽이 적을 때는 빠르게 scale down하며, 갑작스러운 스파이크 시 짧은 지연 시간 증가는 감수합니다.

전략 선택하기

Performance를 사용해야 할 때

• 서비스에 엄격한 SLA 요구사항이 있을 때
• 지연 시간이 매출이나 사용자 경험에 직접 영향을 줄 때
• 트래픽 스파이크를 예측하기 어려울 때
• 서비스 성능 저하보다 과잉 프로비저닝을 선호할 때

Cost를 사용해야 할 때

• 서비스가 가끔의 지연 스파이크를 견딜 수 있을 때
• 트래픽이 예측 가능하거나 지연에 둔감할 때
• 예산 최적화가 우선일 때
• 고객 대면이 아닌 서비스일 때

공통 패턴

🎯 계층별 접근 (동일 애플리케이션, 다른 서비스)

Frontend API: Performance (user-facing)
Order Processing: Performance (revenue-critical)
Product Catalog: Cost (cached, less sensitive)
Analytics Pipeline: Cost (background job)

동일한 애플리케이션 내에서도 서비스의 중요도에 따라 다른 전략을 적용합니다.

⏰ 시간 기반 접근 (동일 서비스, 다른 시간대)

Autopilot Scheduler를 사용해 전략을 전환합니다.

• 업무 시간(오전 9시~오후 6시): Performance 모드
• 업무 외 시간(오후 6시~오전 9시): Cost 모드
• 주말: Cost 모드

예상 트래픽 패턴에 따라 최적화를 자동으로 조정합니다.

선택한 전략 모니터링하기

활성화한 후에는 다음 지표를 관찰하세요.

빠른 의사결정 가이드

예시: 이커머스 사이트

다음 단계

• Predictive Scaling: 두 전략 모두에 포캐스팅을 추가해 트래픽 증가 전에 미리 대응하기
• Autopilot Scheduler: 시간에 따라 전략을 자동으로 전환하기
• Timing Controls: 전략에 맞게 scale-down 동작 세밀하게 조정하기