LLM, 더 저렴하게, 더 빠르게, 더 똑똑하게

이 글은 카카오 기술전략팀의 로빈님이 작성한 LLM 활용에 대한 인사이트를 담고 있습니다. LLM은 지속적으로 변화하므로, 언제든 모델을 교체할 수 있도록 AI 서비스를 설계하는 것이 중요하다고 강조합니다.

특히 LLM 사용 가격 하락, 생성 속도 향상, 성능 개선, 처리량 증가, 경량 LLM 활용도 증대 등 다섯 가지 최신 트렌드를 분석합니다. 5 Turbo 초기 대비 GPT-4o mini의 가격이 10분의 1 수준으로 낮아졌으며, GPT-4 역시 17개월간 약 79% 가격이 인하된 사례를 제시합니다.

Google Gemini 역시 가격 인하 경쟁에 동참하며, 이러한 변화는 개발자가 더 저렴하고 효율적으로 LLM을 활용할 수 있는 환경을 조성하고 있음을 시사합니다. 성하고 있음을 시사합니다.