하나의 조직에서 TensorFlow와 PyTorch 동시 활용하기

이 글은 하나의 조직에서 TensorFlow와 PyTorch를 동시에 사용하는 경험을 공유합니다. 일반적으로는 하나의 프레임워크만 사용하지만, 핑퐁팀은 리서치 팀의 유연한 연구를 위해 PyTorch를 도입했다가 대형 모델 배포의 어려움을 겪었습니다.

Python 오버헤드를 줄이고 배포 편의성을 높이기 위해 TensorFlow Serving을 도입하게 된 배경을 설명합니다. TensorFlow Serving은 Docker 이미지와 모델 파일만으로 서빙이 가능하여 배포에 유리했으며, 당시에는 TorchServe보다 더 나은 선택지로 여겨졌습니다.

이 글은 ML 엔지니어링 관점에서 두 프레임워크를 함께 활용하는 방안과 각 프레임워크의 장단점을 탐구합니다.