Amazon Kendra, LangChain 및 대규모 언어 모델(LLM)을 사용하여 엔터프라이즈 데이터에서 높은 정확도의 생성형 AI 애플리케이션을 빠르게 구축하기

이 글은 Amazon Kendra, LangChain, 대규모 언어 모델(LLM)을 활용하여 기업 데이터 기반의 높은 정확도를 가진 생성형 AI 애플리케이션을 빠르게 구축하는 방법을 소개합니다. 2023년 6월부터 LangChain이 Amazon Kendra 검색 API를 정식 지원하면서 별도의 커스텀 코드 없이 Kendra를 통합할 수 있게 되었습니다.

생성형 AI는 기업의 생산성 향상에 기여하지만, 잘못된 정보(환각)를 생성하거나 접근 권한 없는 데이터에 접근하는 문제를 해결해야 합니다. 이를 위해 검색 증강 생성(RAG) 기법을 사용하여 기업 데이터 내에서 관련 정보를 검색하고, 이를 LLM의 컨텍스트로 제공하여 정확하고 안전한 응답을 생성하는 방식을 설명합니다.

AWS 샘플 코드와 함께 Kendra를 활용한 RAG 구현 방법을 제시합니다.