MIDAS IT의 DynamoDB ZeroETL과 Bedrock을 이용한 OpenSearch 자동 임베딩 고객 사례

마이다스아이티는 글로벌 기술 지원 요청에 대한 응답 속도와 정확성을 높이기 위해 LLM 기반의 전문 기술 지원 챗봇 서비스를 개발했습니다. 이 글은 챗봇 개발에 Amazon OpenSearch Service를 선택한 이유와 Amazon DynamoDB와의 데이터 정합성 문제를 해결한 과정을 상세히 공유합니다.

기존에는 Pinecone VectorDB를 활용한 RAG 아키텍처를 사용했으나, DynamoDB와 OpenSearch 간의 데이터 동기화 및 정합성 이슈를 해결하기 위해 DynamoDB ZeroETL 기능을 도입했습니다. 이를 통해 데이터 파이프라인을 간소화하고 실시간 데이터 동기화를 구현하여, 사용자에게 더욱 빠르고 정확한 기술 지원 정보를 제공하는 것을 목표로 합니다.