Kubeflow KFServing 그 존재의 이유

본 글은 Kubeflow의 KServe(구 KFServing) 기반 MLOps SaaS 제공을 목표로 학습하는 과정에서 겪었던 어려움을 공유하고, KServe의 탄생 배경과 존재 이유를 주관적인 관점에서 설명합니다. AI 모델 개발에는 학습(Learning)과 추론(Inferencing) 두 가지 과정이 필요하며, 학습은 ML/DL 프레임워크를 통해 모델을 생성하고, 추론은 학습된 모델을 사용하여 예측하는 과정입니다.

KServe는 이러한 MLOps 파이프라인을 효율적으로 구축하고 관리하기 위한 솔루션으로, 기존 오픈소스들의 한계를 극복하고 왜 필요한지에 대한 깊이 있는 이해를 돕고자 합니다. 글쓴이는 KServe의 목적과 아키텍처를 이해하는 데 어려움을 느꼈던 경험을 바탕으로, 동료 개발자들이 겪을 어려움을 줄이고자 이 글을 작성하게 되었다고 밝힙니다.