devmoa

안드로이드에서 Gemma2 파인튜닝 모델 실행하기

데보션·2024년 11월 11일·00
Gemma2파인튜닝안드로이드MediaPipeOn-DeviceLLM

AI 요약

Beta

이 글은 안드로이드 환경에서 Gemma2 파인튜닝 모델을 실행하는 방법을 상세히 안내합니다. 이미 훈련된 모델을 특정 작업에 맞게 추가 학습시키는 파인튜닝의 개념을 설명하고, 안드로이드에서 파인튜닝된 모델을 실행하기 위한 세 단계를 제시합니다.

safetensors)을 파인튜닝하는 과정으로, 네이버 기사 요약 데이터셋을 활용한 한국어 요약 모델 생성을 예시로 듭니다. bin)로 변환하는 방법을 설명하며, MediaPipe에서 제공하는 변환 도구를 활용합니다.

마지막으로, 변환된 MediaPipe 모델을 안드로이드에서 실행하는 과정을 기존 포스팅과 동일하게 진행한다고 안내합니다. Colab Pro의 L4 GPU 환경에서 테스트되었으며, 일부 과정에서 메모리 부족 문제가 발생할 수 있음을 언급합니다.

니다. Colab Pro의 L4 GPU 환경에서 테스트되었으며, 일부 과정에서 메모리 부족 문제가 발생할 수 있음을 언급합니다.

이 글이 궁금하신가요?

원문 블로그에서 전체 내용을 확인해 보세요

원문 읽으러 가기

AI 추천 연관 게시글

이 글과 관련된 다른 기술 블로그 글을 AI가 추천합니다