고성능 GPU 클러스터 도입기 #1: 요리하라고 해서 왔는데 프라이팬이 없어요

토스증권은 투자 분석 작업을 돕기 위해 자체 LLM 개발을 결정했습니다. LLM은 금융 보고서 분석, 트렌드 예측, 맞춤형 투자 조언 제공 등 다양한 금융 데이터 분석에 활용될 수 있습니다.

시중 LLM은 증권 데이터의 특수성과 방대한 양, 개인정보 포함 제약으로 인해 고도화된 분석에 한계가 있습니다. 이에 토스증권은 '대도서관' 프로젝트를 통해 자체 금융 데이터 해자를 구축하고, 이를 LLM 학습에 활용하여 증권 특화 LLM을 만들고자 합니다.

이러한 자체 LLM 개발 및 운영을 위해서는 고성능 GPU 클러스터가 필수적입니다.