RAG 없이 20만 대 자동차와 실시간으로 대화하기 (1)

이 글은 엔카닷컴 AI 팀이 RAG(Retrieval-Augmented Generation)를 사용하지 않고 20만 대의 실시간 차량 데이터와 대화하는 AI 챗봇을 구현한 경험을 공유합니다. RAG는 LLM의 할루시네이션 문제를 해결하는 강력한 방법으로 주목받았지만, 엔카닷컴은 실시간으로 변하는 대규모 정형 데이터라는 특성 때문에 RAG 적용에 어려움을 겪었습니다.

특히, 판매된 매물이 추천되는 '유령 매물' 문제, 정보 누락, 운영 비용 증가 등의 문제에 직면했습니다. 글에서는 이러한 문제점을 분석하고, RAG 대신 아키텍처 혁신을 통해 실시간 차량 데이터에 대한 정확하고 풍부한 답변을 제공하는 AI 챗봇을 구축한 사례를 소개합니다.