온프레미스 쿠버네티스 프로덕션 환경 10개월 운영기

이 글은 스타트업 환경에서 온프레미스 쿠버네티스(K8S)를 10개월간 운영한 경험을 공유합니다. 쿠버네티스는 컨테이너 기반 애플리케이션의 복잡성 증가와 리소스 관리에 대한 어려움을 해결하는 데 효과적이며, 클라우드 벤더 의존성을 줄이고 멀티/하이브리드 클라우드 구축에도 용이합니다.

필자는 3대의 CPU 노드, 2대의 GPU 노드, 1대의 NAS로 구성된 RKE2 기반의 소규모 온프레미스 클러스터를 운영하며 겪었던 경험을 바탕으로, 온프레미스 K8S 운영의 장점, 최소한의 고가용성 확보 방안, GPU 리소스 활용법 등을 다룹니다. 특히 스타트업 환경에서 클라우드 대비 온프레미스 K8S를 선택한 이유와 실제 운영 과정에서의 노하우를 상세히 설명하여 관련 기술 도입을 고려하는 개발자들에게 실질적인 정보를 제공합니다.