Flowise와 LLM을 활용한 에러 분석 자동화

서비스 개발 중 발생하는 클라이언트 에러의 원인 분석 및 해결 방안 제시 자동화를 통해 팀 생산성을 향상시킨 경험을 공유합니다. 기존에는 불친절하거나 추상화된 에러 메시지로 인해 원인 파악 및 해결에 많은 시간이 소요되었으나, LLM을 활용하여 이를 개선했습니다.

Flowise라는 오픈소스 LLM 워크플로 빌더를 사용하여 시각적인 인터페이스로 LLM 체인을 구성했습니다. ChatOpenAI, API Loader, Structured Output Parser, Chat Prompt Template 등의 구성 요소를 활용했으며, 특히 Swagger를 통해 제공되는 API 스펙 문서를 LLM의 메타데이터로 활용하여 에러 분석의 정확도를 높였습니다.

이를 통해 개발팀은 에러 분석에 드는 시간을 단축하고 핵심 개발에 집중할 수 있게 되었습니다.