Node Warmup
다음 Pod가 노드를 필요로 하기 전에 노드를 미리 띄웁니다. Wave 벤치마크 1회에서 첫 새 Pod는 31초가 아니라 3초 만에 준비됐습니다.
노드가 뜨는 동안 새 Pod는 31초간 Pending에 머뭅니다
Wave 3.1.0 릴리스 글 (벤치마크 1회, 첫 새 Pod); Wave Node Warmup 문서; karpenter.sh v1.14, NodeClaims와 CapacityBuffers.
Karpenter는 기본적으로 Pod가 Pending이 되고 들어갈 노드가 없을 때에야 노드를 띄웁니다. 인스턴스가 기동되고, Node로 등록되고, 초기화된 뒤에야 Pod가 시작할 수 있습니다(karpenter.sh).
EKS에서 실행한 Wave 벤치마크 1회에서 첫 새 Pod는 31초를 기다렸습니다. Node Warmup 문서는 그 구성을 노드 기동 약 15초, kubelet 등록 5초, 이미지 pull 10초, 스케줄링 1초로 추정합니다.
Karpenter도 CapacityBuffers(알파 기능)나 정적 NodePool로 여유 용량을 둘 수 있습니다. CapacityBuffer는 실제 Pod로 생성되지 않는 placeholder Pod로 자리를 잡아 두므로, 워크로드 이미지는 미리 받지 않습니다(karpenter.sh).
31초와 3초: Wave 벤치마크 1회의 첫 새 Pod (Wave 3.1.0 릴리스 글; EKS, c5n.xlarge와 c6i.xlarge Spot, ap-northeast-1). 31초의 구성은 Wave Node Warmup 문서의 추정치입니다.
Wave가 하는 일
- PodPending: 들어갈 노드가 없음
- 노드 기동NodeClaimLaunched: 인스턴스 생성
- kubelet 합류NodeNode로 등록되고 초기화됨
- 스케줄링kubelet이미지를 pull한 뒤 컨테이너 시작
- Wave Core가장 큰 Pod와 10% 버퍼가 들어갈 노드가 없음을 감지
- 자리 없음워밍업 PodKarpenter가 지금 노드를 띄우게 함
- 노드 합류준비된 노드consolidation 10분 중지, 사전 pull을 켜면 이미지도 미리 받음
- 스케줄링새 Pod이미 합류한 노드에서 시작
빈자리 찾기
Wave Core가 NodePool마다 가장 큰 Pod를 추적합니다. 어떤 노드에도 그 Pod와 10% 버퍼(기본값)가 들어가지 않으면 Node Warmup이 노드를 띄웁니다.
노드를 미리 띄우기
워밍업 Pod가 Karpenter에게 지금 노드를 띄우게 합니다. Max Pod 모드는 항상 또는 cron 일정에 따라 동작합니다. Trigger 모드는 cron 일정에 맞춰 정한 크기의 노드를 정한 개수만큼 띄웁니다.
노드를 준비 상태로 유지
워밍업이 동작하는 동안 NodePool의 Karpenter consolidation이 멈추고(기본 10분), 워밍된 노드에는 do-not-disrupt 어노테이션이 붙습니다. 이미지 사전 pull을 켜면 Wave가 워크로드 이미지를 노드에 미리 받습니다. 사전 pull은 기본값이 꺼짐입니다.
결과
첫 새 Pod가 준비되기까지, Wave 벤치마크 1회
Wave 3.1.0 릴리스 글: EKS 벤치마크 1회, 첫 새 Pod만 해당