SK하이닉스의 RAG 플랫폼 구축 및 성능 평가/분석 연구 사례

SK하이닉스 MSR 조직은 AI 시대에 발맞춰 LLM 워크로드에 최적화된 메모리 시스템 연구를 위해 AWS Cloud 기반의 RAG 플랫폼을 구축하고 성능을 평가/분석한 연구 사례를 공유합니다. 기존 On-Premise 환경의 한계를 극복하고 확장성, 유연성, 신속한 분석 대응을 위해 클라우드 활용을 추진했으며, 특히 RAG 시스템에서 벡터 검색 시 메모리와 스토리지 간의 상호작용이 성능에 미치는 영향을 중점적으로 분석하여 향후 메모리 시스템 최적화 방향을 도출하고자 했습니다.

이 연구는 Generative AI 기술 발전에 따른 메모리 시스템 연구의 중요성을 강조하며, 실제 클라우드 환경에서의 AI 플랫폼 구축 및 성능 분석 경험을 제공합니다.