sLLM, Gemma 파인튜닝 예

이 글은 Google의 경량 최첨단 개방형 모델인 Gemma를 활용하여 한국어 요약 모델을 파인튜닝하는 과정을 소개합니다. Gemma는 Gemini 모델 개발에 사용된 기술을 기반으로 하며, Gemma 2B와 7B 두 가지 모델과 pre-trained 및 instruction-tuned 버전을 제공합니다.

또한, 안전한 AI 애플리케이션 개발을 위한 책임감 있는 AI 툴킷과 Keras, JAX, PyTorch, TensorFlow 등 다양한 프레임워크 및 하드웨어를 지원합니다. 글에서는 개발 환경 설정, 필수 라이브러리 설치(trl, transformers, datasets, PyTorch 최신 버전), Dataset 생성 및 준비, Gemma 모델의 한국어 요약 테스트, 실제 파인튜닝 과정, 그리고 파인튜닝된 모델을 이용한 추론 과정을 상세히 다룹니다.

이를 통해 Gemma 모델을 한국어 특화 작업에 적용하는 실질적인 방법을 제시합니다.