Wave Flow
Istio 게이트웨이에서 요청을 네 단계 우선순위로 나눕니다. 부하가 높으면 낮은 단계를 HTTP 503으로 거절해 중요한 요청은 계속 처리됩니다.
티켓 판매가 열리자 트래픽이 이전 피크의 4배에 이릅니다
Ticketmaster, Eras Tour 사전 판매에 관한 발표, 2022년 11월 19일; istio.io, DestinationRule 레퍼런스와 rate limit, circuit breaking 태스크.
봇 공격과 코드가 없는 팬이 몰려 Ticketmaster의 시스템 요청이 35억 건, 이전 피크의 4배에 달했습니다. Ticketmaster는 전체 상호작용의 약 15%에서 문제가 있었다고 추정했고, 여기에는 팬이 장바구니에 담은 티켓을 잃게 만든 passcode 검증 오류도 포함됩니다.
기본 설정의 Istio에는 사실상 요청 한도가 없습니다. maxConnections, http1MaxPendingRequests, http2MaxRequests의 기본값은 모두 2^32-1입니다(istio.io).
직접 추가하는 rate limit이나 circuit breaker는 요청 수나 연결 수를 셉니다. 우선순위 개념이 없어서, 한도를 넘으면 결제 요청도 같은 route나 host의 다른 요청과 똑같이 429 또는 503을 받습니다.
요청 유형은 설명용 예시입니다. 어느 단계를 거절할지는 부하에 따라 다릅니다: IMPORTANT는 극심한 부하에서만, CRITICAL은 거절하지 않습니다. 단계와 503 응답은 Wave Flow 문서 기준입니다.
Wave가 하는 일
- Ingress Gateway모든 요청을 전달, 한도 기본값은 2^32-1
- 직접 추가EnvoyFilterlocal rate limit: token bucket이 분당 요청 수를 셈
- 넘으면 429DestinationRulecircuit breaker: host별 연결 수와 대기 요청 수를 제한
- 넘으면 503서비스결제도 추천과 똑같이 거절됨
- Traffic Rules네 단계, header·path·method로 매칭
- 정책Wave AgentWASM 모듈을 프록시에 배포
- WASM 필터Ingress Gateway필터가 라우팅 전에 요청을 분류
- 부하 시거절 결정BULK부터, CRITICAL은 거절 안 함, 즉시 HTTP 503
요청을 네 단계로 나누기
Wave 웹 콘솔의 Traffic Rules 페이지나 WaveFlowPolicy에서 header, path, method로 요청을 CRITICAL, IMPORTANT, MODERATE, BULK에 매칭합니다.
Istio에서 필터 실행
Wave Agent가 Wave Flow를 WASM 모듈로 Istio Ingress Gateway, Sidecar, Ambient waypoint에 배포합니다. 필터는 라우팅 전에 각 요청을 확인합니다.
낮은 단계부터 거절
단계를 Auto로 두면 부하가 높을 때 필터가 즉시 HTTP 503을 반환합니다. BULK가 먼저, 그다음이 MODERATE이고, IMPORTANT는 극심한 부하에서만 거절합니다. CRITICAL은 거절하지 않습니다.