FMOps/LLMOps와 MLOps 차이점 비교 및 생성형 AI 운영하기

이 글은 생성형 AI 애플리케이션 운영을 위한 FMOps(Foundation Model Operations)와 LLMOps(Large Language Model Operations)를 MLOps 원칙과 비교하며 설명합니다. LLM에 대한 높은 관심에도 불구하고, 실제 비즈니스 운영에 적용하는 것은 어려운 과제입니다.

글에서는 MLOps의 기본 개념을 소개하고, FMOps 및 LLMOps가 MLOps와 어떻게 다른지 프로세스, 사람, 모델 선택 및 평가, 데이터 프라이버시, 모델 배포 측면에서 비교합니다. 이는 즉시 사용 가능한 서비스, 자체 구축 또는 파인튜닝된 모델, 오픈소스 및 독점 모델 모두에 적용 가능합니다.

FMOps는 MLOps 원칙을 확장하여 파운데이션 모델 운영에 특화된 접근 방식을 제시하며, LLMOps는 텍스트-텍스트 변환과 같은 생성형 AI의 일반적인 사용 사례 운영에 초점을 맞춥니다.