KServe 이 보다 더 쉬운 ML Model Serving 은 없다.

이 글은 MLOps 도구 중 하나인 KServe를 활용하여 머신러닝 모델 서빙을 쉽게 구축하는 방법을 소개합니다. KServe는 Kubeflow의 ML Model Serving 컴포넌트에서 독립된 애드온으로 발전했으며, TensorFlow, PyTorch, Scikit-learn 등 다양한 모델 프레임워크를 지원합니다.

KServe는 Kubernetes 기반으로 동작하며, Knative와 Istio를 함께 사용하여 서버리스 환경을 구축하고 로깅, 모니터링, 트레이싱 등의 기능을 쉽게 통합할 수 있습니다. 글에서는 KServe의 아키텍처와 함께 Istio 설치, Knative 설치, KServe 설치 순서로 진행되는 설치 과정을 간략히 설명하며, Kubernetes 환경에서 ML 모델 서빙을 효율적으로 관리할 수 있는 방안을 제시합니다.