Karpenter와 Spot으로 저렴하고 유연하게 노드 프로비저닝하기

이 글은 AWS EKS 환경에서 Karpenter와 EC2 Spot Instance를 활용하여 서버 비용을 절감한 사례를 공유합니다. GPU 머신 등 고가용성 서버 운영 비용 절감을 위해 다양한 시도를 해왔으며, 특히 AWS EC2 Spot Instance의 할인 혜택과 Karpenter의 빠른 노드 프로비저닝 기능을 결합하여 비용 효율성을 높였습니다.

Spot Instance는 On-Demand 대비 최대 90% 할인되지만, 용량 부족 시 회수될 수 있다는 단점이 있습니다. Karpenter는 기존 Cluster Autoscaler의 느린 반응 속도를 개선하여 Unscheduled Pod 발생 시 신속하게 노드를 프로비저닝하며, Spot Interrupt 발생 시에도 유연하게 대처할 수 있도록 돕습니다.

이를 통해 비용 절감과 함께 유연한 노드 관리가 가능해졌습니다.