Chat DIC - 대화형 LLM 서비스의 프런트엔드 성능 개선기

SK플래닛의 사내 프로젝트 Chat DIC는 대화형 LLM 서비스로, 실시간 대화 경험을 향상시키기 위해 프런트엔드 성능 개선에 집중했습니다. 이 글에서는 SSE(Server-Sent Events)를 활용한 실시간 스트리밍 처리, 버퍼링 기법을 통한 대화 출력 성능 개선, 그리고 Virtualization 기반 Windowing 기법 적용 사례를 상세히 다룹니다.

React, Vite, JavaScript, Tailwind CSS를 기반으로 개발된 Chat DIC는 이러한 기술들을 통해 사용자에게 더욱 빠르고 쾌적한 대화형 AI 서비스를 제공하는 것을 목표로 합니다.